צעד חשוב לאבטחת סייבר של מערכות משין לרנינג
This post is also available in: 
English (אנגלית)
ישומים רבים מבוססים על למידת מכונה (machine learning) – החל מייצור יעיל וניתוח כמויות מסיביות של מידע ועד לתחבורה ללא נהג. אבל שימוש לא נכון או שיבוש מכוון עלולים לגרום לנזק רב. עד כה, לא הופנתה מספיק תשומת לב לחולשות הסייבר הטבועות בפלטפורמות אלה, בפרט בחשיפה שלהן לשינוי, השחתה או הטעיה.
לדוגמא, סיווג ופירוש מוטעים על ידי בינה מלאכותית ברמת הפיקסל עלולים להוביל לפירוש מוטעה של תמונה וכתוצאה מכך לתיוג מוטעה של תרחישים. שינויים קלים בעצמים מעולם המציאות עלול לבלבל את מערכות התפיסה המבוססות על בינה מלאכותית.
הסוכנות האמריקאית למחקרי ביטחון מתקדמים, דארפ"א, מפתחת דור חדש של הגנות כדי להתמודד עם נסיונות ההטעיה של אלגוריתמי למידת מכונה.
חברת Intel והמכון הטכנולוגי Georgia Tech נבחרו להוביל את תוכנית GARD מטעם דארפ"א, תוכנית להבטחת עמידות בינה מלאכותית כנגד הטעיה. Intel היא הספקית הראשית של פרויקט משותף זה, שיימשך ארבע שנים ומוערך במיליוני דולרים. התוכנית מיועדת לשפר את הגנות אבטחת הסייבר נגד התקפות הטעיה נגד מודלים של למידת מכונה.
מעוניינים ללמוד עוד על חדשנות בסייבר? השתתפו ב-iHLS InnoTech Expo Tel Aviv – ארוע החדשנות והטכנולוגיות הגדול בישראל בתחום HLS וסייבר – ב-18-19 בנובמבר, 2020 באקספו תל אביב, ביתן 2. הכירו את חברי ועדת ההיגוי
מאמצי ההגנה הקיימים מיועדים להגן מפני התקפות ספציפיות שהוגדרו מראש, אבל לא נגד התקפות אחרות. תוכנית GARD מציגה גישה אחרת להגנת למידת מכונה – על ידי פיתוח הגנות רחבות שמיועדות לתת מענה למספר רב של התקפות אפשריות בתרחישים נתונים, בהם צודל למידת מכונה טועה בסיווג או פירוש הנתונים.
לפי businesswire.com, מטרת התוכנית היא לבסס את היסודות התיאורטיים למערכת למידת מכונה שלא רק תזהה את חולשות המערכת ותאפיין את התכונות לחיזוק העמידות שלה אלא גם תקדם יצירת הגנות יעילות. בדרך זו, תוכנית GARD תיצור טכנולוגיות למידת מכונה עמידות בפני הטעייה, המבוססות על קריטריונים מחמירים להערכת היעילות.
בשלב הראשון, יתוגברו טכנולוגיות איתור עצמים באמצעות קוהרנטיות בחלל, בזמן ומבחינה סמנטית, עבור תמונות וסרטי וידאו. אינטל מחויבת להניע חדשנות בבינה מלאכותית ולמידת מכונה ומאמינה שעבודה עם חוקרי אבטחה מכל העולם היא המפתח להתמודדות עם פרצות האבטחה הפוטנציאליות.
השתתפו ב-iHLS InnoTech Expo Tel Aviv – ארוע החדשנות והטכנולוגיות הגדול בישראל בתחום HLS וסייבר – ב-18-19 בנובמבר, 2020 באקספו תל אביב, ביתן 2.
