מטריצת הסיאן

באנליזה מתמטית, מטריצת ההסיאן (Hessian) היא מטריצה ריבועית שאיבריה הם הנגזרות החלקיות מסדר שני של פונקציה. מטריצה זו עוזרת למצוא ולסווג נקודות קיצון של פונקציה מרובת משתנים. השם נושא את זכרו של המתמטיקאי לודוויג אוטו הסה.

תהי f(x_1,…,x_n) פונקציה של n משתנים, שבה קיימות כל הנגזרות החלקיות מסדר שני. ההסיאן בנקודה a=(a_1,…,a_n) הוא מטריצה n×n שבה האיבר בשורה i בעמודה j הוא הנגזרת השנייה ∂^2f/∂x_i∂x_j (מחשבים קודם לפי x_j ואז לפי x_i). אם כל הנגזרות מסדר שני רציפות (מקובל לכתוב f∈C^2), אז הנגזרות המעורבות שוות וכתוצאה מכך ההסיאן סימטרי.

נקודה שבה הגרדיאנט (וקטור הנגזרות החלקיות מסדר ראשון) שווה לאפס נקראת נקודה קריטית. לא כל נקודה קריטית היא נקודת קיצון, ולכן משתמשים בהסיאן כדי לסווג אותן. מבדילים לפי ערכי העצמי (eigenvalues) של ההסיאן:
- אם כל הערכים העצמיים חיוביים → נקודת מינימום.
- אם כל הערכים העצמיים שליליים → נקודת מקסימום.
- אם יש ערך חיובי ואחד שלילי → נקודת אוכף (saddle).
- אם יש ערך עצמי אפס ושאר הערכים בעלי אותו סימן → המבחן לא קובע.

עבור פונקציה של משתנה אחד, המבחן מקביל לבדיקת הנגזרת השנייה: חיובית → מינימום, שלילית → מקסימום, אפס → לא ניתן לדעת.

במקרים של שניים או שלושה משתנים קיימים מבחנים אלטרנטיביים:
- שני משתנים: בודקים את דטרמיננטת ההסיאן. אם הדטרמיננטה חיובית אז יש קיצון; סוגו נקבע לפי ∂^2f/∂x_1^2. אם הדטרמיננטה שלילית → אוכף. אם שווה לאפס → לא ניתן להכריע.
- שלושה משתנים: בודקים את המינורים הראשיים (מטריצות שמתקבלות מהשמטת שורות ועמודות בסוף). אם כל המינורים הראשיים חיוביים → מינימום מקומי. אם סימני המינורים מתחלפים (+,−,+ או −,+,−...) → מקסימום. אם לא אחת מהאפשרויות ואינם אפס → אוכף. אחרת → לא ניתן להכריע.

נתונה פונקציה פולינומית בשני משתנים. משווים את הנגזרות החלקיות מסדר ראשון לאפס ומקבלים עבור כל משתנה את הערכים 0, −1, 1. כך נוצרים 9 צירופים של נקודות קריטיות.
ההסיאן במקרה זה הוא מטריצה אלכסונית שהאיברים על האלכסון הם ביטויים של x ו־y בלבד. חשבו את הדטרמיננטה ומצאו שהיא חיובית בחמש נקודות: (0,0), (1,−1), (1,1), (−1,−1), (−1,1). בנקודה (0,0) האיבר השני ביחס ל־x הוא שלילי, ולכן זו נקודת מקסימום. בשאר הנקודות שבהן הדטרמיננטה חיובית, האיבר הזה חיובי, ולכן הן נקודות מינימום.

מטריצת ההסיאן היא טבלה שמכילה נגזרות שניות של פונקציה. נגזרת שניה היא איך השיפוע משתנה. מטריצה זו עוזרת למצוא אם נקודה היא מינימום, מקסימום או אוכף.

אם יש פונקציה של כמה משתנים, בונים טבלה שבה כל תא הוא נגזרת שניה לפי שני משתנים. אם הנגזרות מסדר שני ממש חלקות, הטבלה סימטרית (השורה והעמודה מתחלפות).

נקודה שבה כל השיפועים הראשונים שווים ל־0 נקראת נקודה קריטית. בודקים את ההסיאן כדי להחליט:
- כל הערכים בעצמם חיוביים → מינימום (נקודה נמוכה).
- כל הערכים בעצמם שליליים → מקסימום (נקודה גבוהה).
- יש חיובי ויש שלילי → אוכף (צורת אוכף).
אם יש ערך עצמי אפס, לפעמים אין דרך לדעת בוודאות.

בדוגמה נמצאו 9 נקודות חשודות. ההסיאן התגלה כטבלה פשוטה על האלכסון. חישוב הדטרמיננטה הראה שחמש מהנקודות הן קיצון. בנקודה (0,0) זה מקסימום. בשאר הנקודות האלה מדובר במינימום.