אמידה

אמידה (שיערוך) היא ענף בסטטיסטיקה שמנסה להעריך תכונות של אוכלוסייה. עושים זאת על ידי חישוב מספרים מתוך מדגם, קבוצת תצפיות שנבחרה באקראי מתוך האוכלוסייה. הצורך באמידה נוצר כאשר לא ידועה ההתפלגות המלאה של המשתנים. "התפלגות" היא איך הערכים מתפרסים או מופיעים בסיטואציה מסוימת.

במקרים רבים יודעים שהתפלגות שייכת למשפחה מוכרת, אבל לא יודעים איזה חבר במשפחה נכון. למשל, ייתכן שהנתון הוא בעל התפלגות נורמלית (גרף בצורת פעמון), אך לא ידועים ממוצע או שונות. או שקיימת התפלגות פואסונית עבור מספר הנורות שיישרפו בשעה, אך לא ידוע כמה בממוצע יישרפו. כאן נכנסת תורת האמידה: היא מספקת שיטות לאמוד את הפרמטרים הלא ידועים.


נניח שיש משפחה של התפלגויות שמסומנת על ידי פרמטר θ. הפרמטר הוא מספר שקובע איזו התפלגות מתוך המשפחה מתאימה. לוקחים מדגם של תצפיות בלתי תלויות. המדגם נותן תוצאה, אבל לא חושף ישירות את ערך הפרמטר. המטרה היא להשתמש במדגם כדי לאמוד את הפרמטר.


אומד (statistic) הוא פונקציה של תוצאות המדגם, כלומר מספר שמחשבים מהנתונים. הערך המסוים שהוא נותן נקרא אומדן. חשוב שהאומד יחושב בלי לדעת את הפרמטר. עם זאת, התכונות של האומד תלויות בפרמטר.

דרישה נפוצה לאומד היא חוסר הטיה. אומד חסר הטיה נותן בממוצע את הערך הנכון של הפרמטר. דוגמה: גובה של ילד אחד מן המדגם הוא אומד חסר הטיה לתוחלת; הממוצע של המדגם גם הוא אומד חסר הטיה. לעומת זאת, גובה הילד הנמוך ביותר הוא אומד מוטה. ריבוע סטיית התקן של המדגם הוא אומד מוטה לשונות; כדי לקבל אומד חסר הטיה יש לכפול אותו ב־n/(n-1) עבור מדגם בגודל n.

בין האומדים חסרי ההטיה מעדיפים את זה ששונותו קטנה. שונות נמוכה משמעה שהאומד יציב פחות מושפע מהמדגם.

קיים רעיון של אומד חסר הטיה בעל שונות מינימלית במידה שווה (UMVUE). זהו אומד חסר הטיה ששוניו קטנה או שווה לכל אומד חסר הטיה אחר, לכל ערך של הפרמטר. אם שני אומדים כאלו קיימים, הם שווים כמעט בוודאות.


סטטיסטי מספיק הוא פונקציה של המדגם שמכילה את כל המידע שהמדגם מעניק על הפרמטר. טכנית, משמעותו היא שהתפלגות המדגם, כשהיא מותנית בערכו של הסטטיסטי, לא תלויה יותר בפרמטר.

ניתן לזהות סטטיסטים מספיקים דרך משפט הפירוק: פונקציית הנראות (likelihood) מתפרקת למכפלה של חלק שתלוי בפרמטר ובסטטיסטי, וחלק שאינו תלוי בפרמטר. הממוצע הוא דוגמה נפוצה של סטטיסטי מספיק במשפחות כגון נורמליות או פואסון.

כשיש סטטיסטי מספיק, משפט ראו-בלקוול (Rao-Blackwell) מאפשר לשפר אומד חסר הטיה ולהפחית את שונותו. האומד המשופר לעיתים קרובות הוא האופטימלי, כלומר UMVUE.

אמידה היא דרך להעריך תכונות של קבוצה גדולה בעזרת דוגמה קטנה. דוגמה היא לקחת כמה אנשים ולמדוד את הגובה שלהם.

לדוגמה, לפעמים יודעים שהערכים נופלים לפי "התפלגות". התפלגות היא דרך לתאר איך הערכים מופיעים. למשל, גובה ילדים יכול להתפלג בצורת פעמון. מספר נורות שיישרפו בשעה יכול להתפלג לפי חוק שונה בשם פואסון.


לפעמים יודעים שההתפלגות שייכת למשפחה של התפלגויות, אבל לא יודעים בדיוק איזו. יש מספרים שנקראים פרמטרים. הפרמטרים הם מספרים לא ידועים שמגדירים את ההתנהגות. מטרת האמידה היא למצוא אותם מהדוגמה.


אומד הוא חישוב שעושים על הדוגמה. התוצאה שלו נקראת אומדן. הממוצע של הדוגמה הוא אומדן לממוצע של כל האוכלוסייה. אומד חסר הטיה אומר שבממוצע ההערכה קרובה לערך האמיתי. לדוגמה, גובה של ילד אחד יכול לשמש אומדן לממוצע, אך הילד הנמוך ביותר הוא אומדן פחות טוב.

יש גם אומדים שלא מדויקים כל כך. את ריבוע סטיית התקן של הדוגמה צריך לתקן מעט כדי לקבל אומד טוב לשונות. בתרגיל זה מכפילים במספר קטן כדי לתקן.


סטטיסטי מספיק הוא תמצית של כל המידע שהדוגמה נותנת על הפרמטר. למשל, הממוצע של קבוצת אנשים לעתים קרובות מספיק. אם יש סטטיסטי מספיק, יש טכניקה בשם ראו-בלקוול שמולידה אומד חדש וטוב יותר. בדרך כלל האומד החדש חסר הטיה ויש לו שגיאה קטנה יותר.