רשת עצבית מלאכותית (ANN, רשת נוירונים) היא מודל חישובי בהשראת המוח. נוירון כאן הוא יחידת עיבוד שמקבלת קלטים ומוציאה ערך. יחידות אלה מקושרות בקשרים שמחזיקים "משקולות". המשקולות קובעות עד כמה כל קלט חשוב.
רשתות כאלה נחקרות בלמידת מכונה ומשמשות לזיהוי תמונות, דיבור, כתב יד, ניתוח טקסט, וחיזוי שווקים.
1943: ורן מקלוך וולטר פיטס הציעו מודל פשוט של נוירון. המודל תיאר קלטים עם משקולות וסף שמפעיל פלט.
1969: מרווין מינסקי וסימור פפרט הציגו חסרונות בפרספטרון, ובמיוחד את בעיית ה‑XOR, מה שהאט את המחקר.
שנות ה‑80: החזירו עניין עם אלגוריתם פעפוע לאחור (Back-Propagation).
שנות ה‑2000 ו‑2012: חלה התקדמות משמעותית בלמידה עמוקה (Deep Learning). מאז 2012 רשתות עמוקות מובילות בתחרויות ראייה ממוחשבת כמו ImageNet.
רשת מורכבת משכבות: שכבת כניסה (Input), שכבות חבויות (Hidden) ושכבת יציאה (Output).
השכבה הראשונה מקבלת תכונות הקלט. השכבות החבויות מעבדות את המידע. השכבה האחרונה נותנת את התשובה.
כל קשר בין נוירונים נושא משקל מספרי. הפלט של כל נוירון הוא פונקציה של סכום המשוקלל של הקלטים.
פונקציית אקטיבציה הופכת את סכום הקלטים לפלט של הנוירון. דוגמה נפוצה היא הסיגמואיד (sigmoid).
הסיגמואיד מחזירה ערכים בין 0 ל‑1 ומקלה על תמחור אי‑ודאות.
יש שתי גישות עיקריות: למידה מונחית (Supervised Learning) ולמידה לא מונחית (Unsupervised Learning). למידה מונחית דורשת תוויות פלט ידועות בזמן האימון. למידה לא מונחית מארגנת נתונים לפי דמיון.
Gradient Descent הוא שיטה לעדכון משקולות כדי להקטין את השגיאה הכוללת. מחשבים את נגזרת השגיאה לפי משקולות ומעדכנים אותן בכיוון שמקטין את השגיאה.
Back‑Propagation מאפשר לכוונן גם את המשקולות בשכבות החבויות. הרעיון המרכזי הוא למדוד את הטעות בשכבת הפלט ולחזור אחורה בשכבות כדי לעדכן משקולות בהתאם לשפיכת השגיאה.
השילוב של Back‑Propagation עם Gradient Descent הוא שיטה רווחת לאימון רשתות.
אימון מתחיל במשקולות אקראיות. מאכלסים דוגמאות קלט ופלט, מחשבים פלט, משווים למטרה ומעדכנים משקולות. תהליך זה חוזר על רבים מדוגמאות האימון.
התוצאה היא רשת שמזהה תבניות לפי ניסיון האימון.
רשתות עצביות מיושמות בתחומים רבים: זיהוי פנים, זיהוי דיבור, ניתוח תמונה וטקסט, חיזוי שווקים ועוד. הן זמינות כתוכנה וחומרה.
רוב ההשמות נעשות בתוכנה. חבילות נפוצות הן TensorFlow, Keras ו‑PyTorch. בשנים האחרונות שימוש במעבדים גרפיים (GPUs) ומהירי חישוב אחרים שיפר את האימון. חברות כמו NVIDIA, Intel ו‑Google פיתחו מעבדים ייעודיים.
נכון ל‑2018 פעילויות בתחום הבינה המלאכותית גדלו בישראל. הוקמו ועדות ממשלתיות ונתמכו מסלולי לימוד אקדמיים.
הנקודות החשובות: רשתות עצביות מדמות חיבורים בין יחידות עיבוד, לומדות על ידי כיוון משקולות, והן כלי מרכזי בלמידה עמוקה וביישומי AI מודרניים.
רשת עצבית מלאכותית היא מחשב שמחקה קצת את המוח. נוירון הוא יחידת חישוב קטנה.
הרשת מחברת נוירונים עם "משקולות". המשקולות קובעות מה חשוב.
יש שלוש שכבות עיקריות. שכבת כניסה שמקבלת נתונים.
שכבות חבויות שמעבדות את המידע. שכבת יציאה שמוצאת את התשובה.
היא לומדת על ידי שינוי משקולות. אם התשובה נכונה המשקולות נשארות. אם לא, משנים אותן.
יש שיטה שנקראת Back-Propagation. היא מחזירה את הטעות אחורה ומשנה משקולות.
1943: הוצע מודל ראשון של נוירון.
1969: הראו בעיה בשם XOR שדרשה רשת גדולה יותר.
1980s: חזרו לעבוד על הרשתות.
2000s: התחילו להשתמש ברשתות עמוקות.
2012: רשתות עמוקות ניצחו בתחרויות זיהוי תמונה.
רשתות עוזרות לזהות תמונות ופנים.
הן גם מזהות דיבור וכותבות טקסט.
משתמשים בהן במשחקים ובחיזוי.
קיימות ספריות מחשב כמו TensorFlow ו‑PyTorch לעבודה עם רשתות.
מעבדים חזקים כמו GPUs מקלים על האימון.
בסיכום קצר: רשת עצבית לומדת לדבוק בתשובות נכונות על ידי כיוון משקולות.
תגובות גולשים