This post is also available in:
English (אנגלית)
כלי רכב אוטונומיים נשענים על ארכיטקטורות בינה מלאכותית מורכבות כדי לפרש נתוני חיישנים, להסתגל לתנאי דרך משתנים ולקבל החלטות נהיגה בשבריר שנייה. רבות מהמערכות הללו מבוססות על "רשתות־על" – מודלים גדולים המורכבים ממיליארדי תת־רשתות קטנות יותר, המופעלות באופן דינמי בהתאם למשימה. גמישות זו משפרת ביצועים, אך עשויה גם ליצור נקודות עיוורון חדשות באבטחה.
חוקרים חשפו חולשה שכונתה VillainNet, המכוונת לרשתות־על מסוג זה. המתקפה מטמיעה דלת אחורית בתת־רשת אחת בלבד בתוך ארכיטקטורת הבינה המלאכותית הרחבה. מאחר שרק רכיב קטן משתנה, הקוד הזדוני יכול להישאר רדום במגוון עצום של תצורות תקינות. הוא מופעל רק כאשר תנאים מסוימים מפעילים את תת־הרשת שנפגעה.
באחד התרחישים שתיארו החוקרים, ניתן לתכנת את המתקפה כך שתופעל כאשר מערכת הנהיגה האוטונומית מתאימה את עצמה לגשם או לשינויי סביבה אחרים. עם הפעלתה, המערכת הפגועה עלולה לעקוף את מנגנוני הבקרה הרגילים. על פי דיווח של TechXplore, שיעור ההצלחה של המתקפה בעת הפעלה עמד על 99 אחוזים.
היבט מדאיג במיוחד הוא מידת החמקנות של החולשה. איתור דלת אחורית מסוג זה מחייב בחינה של מרחב עצום של תצורות אפשריות – על פני מיליארדי שילובים. החוקרים מעריכים כי אימות מערכת כנגד מתקפה כזו ידרוש פי 66 יותר משאבי חישוב וזמן בהשוואה לשיטות הקיימות, מה שהופך הגנות מסורתיות לבלתי מעשיות.
הטכניקה מבוססת על הרעלת תת־רשת ממוקדת לאורך מה שמכנים החוקרים "חזית פארטו של דיוק־השהיה" (accuracy-latency Pareto frontier), כך שהרכיב הפגוע נותר יעיל ובלתי מזוהה עד לרגע שבו נעשה בו שימוש.
מנקודת מבט ביטחונית ובתחום ביטחון הפנים, ההשלכות חורגות מעבר לרכב אזרחי; פלטפורמות קרקעיות אוטונומיות, שיירות לוגיסטיות ומערכות נוספות מונעות בינה מלאכותית מסתמכות יותר ויותר על ארכיטקטורות דומות. דלת אחורית סמויה המופעלת בתנאים מבצעיים מסוימים עלולה לפגוע בשלמות המשימה או בבטיחות.
ככל שמערכות בינה מלאכותית הופכות מודולריות ואדפטיביות יותר, המחקר מדגיש את הצורך בגישות אימות וניטור חדשות, המסוגלות לזהות איומים ממוקדים ורדומים המוטמעים עמוק בתוך מודלים מורכבים.
המחקר פורסם כאן.
