אבטחת סייבר בלב הקרב – מבינה מלאכותית לאוטונומיה

This post is also available in: English (אנגלית)

תוכנת בינה מלאכותית אשר עליה מבוססות מערכות אוטונומיות בשדה הקרב עלולה להיות חשופה להתקפות סייבר. חוקרים מחפשים דרכים להפוך את האלגוריתמים של למידת מכונה במערכות אלה למאובטחים יותר. המערכות מתבססות על אלגוריתמים אלה כדי לקבל החלטות ולבצע התאמות בשדה הקרב. פרויקט המחקר שמובילה אוניברסיטת Purdue בארה"ב בשיתוף עם אוניברסיטת Princeton הוא חלק מתוכנית A2I2 של המכון הצבאי לבינה מלאכותית במעבדת המחקר של צבא ארה"ב . 

purdue.edu מדווח שמטרת התוכנית היא לפתח מערך תוכנה  למבצעים אוטונומיים. מערכת האבטיפוס תיקרא SCRAMBLE – קבלת החלטות מאובטחת בזמן אמת עבור שדה הקרב האוטונומי. חוקרי הצבא האמריקאי יבצעו הערכה של המערכת במתקן ניסויים לשדה הקרב האוטונומי של מעבדת המחקר כדי להבטיח שניתן ליישם אלגוריתמי למידה מכונה ולהימנע מעומס קוגניטיבי על הלוחמים המשתמשים במערכות.

בתהליך האוטונומי, האקרים עלולים לנסות לפרוץ לאלגוריתם למידה מכונה ממספר נקודות. עוד לפני שמערכת אוטונומית מגיעה לשדה הקרב, היריב כבר יכול לבצע מניפולציה על התהליך בו משתמשים הטכנאים כדי להזין נתונים לתוך האלגוריתמים ולאמן אותם אופליין.

מערכת האבטיפוס תסגור פרצות אלה בשלוש דרכים. הראשונה – באמצעות אלגוריתמי למידה מכונה "יריבים חזקים" שמסוגלים לפעול עם מקורות נתונים לא ודאיים, לא מלאים או כאלה שעברו מניפולציה בזדון. בדרך השניה, דגם האבטיפוס יכלול מערך של אלגוריתמי למידה מכונה. "שניתנים לפירוש", במטרה להגביר את האמון של הלוחם במכונה אוטונומיה במהלך האינטראקציה איתה.

"סביבת ההפעלה של ה-SCRAMBLE תהיה כזאת שמשתנה באופן מתמיד מסיבות רבות, כגון שינויי מזג אוויר או התקפות סייבר מצד יריבים", מסביר דייויד אינויי, מרצה להנדסת חשמל ומחשבים ב-Purdue. "שינויים אלה עלולים להוריד משמעותית את הדיוק של המערכת האוטונומית או לאותת על תקיפת אויב. הסברת השינויים תסייע ללוחמים להחליט האם לתת אמון במערכת או חקור רכיבים שיש חשד שנפרצו". האסטרטגיה השלישית היא ביצוע מאובטח ומבוזר של אלגוריתמי ML שונים אלה על פלטפורמות מרובות במהלך פעילות אוטונומית. המטרה הסופית היא להפוך את כל האלגוריתמים האלה למאובטחים, זאת למרות היותם מפוזרים ונפרדים ברחבי המימד (בשדה הקרב).

מעוניינים לצלול אל תוך עולם העתידנות הטכנולוגית? – הירשמו ל–INNOTECH 2023, הכנס והתערוכה הבינלאומיים לסייבר, HLS וחדשנות באקספו תל אביב ב29-30 במרץ.

מעוניינים בחסות / ביתן תצוגה בתערוכת ה-INNOTECH 2023? לחצו כאן לפרטים!