איום חדש על מערכות הרכב נגד התנגשות

This post is also available in: English (אנגלית)

אלגוריתמים של למידה עמוקה מביאים לתוצאות מצוינות בשימוש בצורות ובצבע כדי לזהות הבדלים בין בני אדם ובעלי חיים, או מכוניות ומשאיות לדוגמא. מערכות אלה מצליחות לאתר בצורה אמינה עצמים בתנאים שונים, מה שמאפשר מגוון של ישומים ותעשיות, בדרך כלל לצורכי ביטחון.

רשתות נוירוניות של למידה עמוקה הן יעילות מאוד למגוון משימות, אבל בגלל העובדה שהן פותחו ויושמו במהירות, השלכות האבטחה של האלגוריתמים לא נלקחה בחשבון במלואה. בעוד שמערכות לעיבוד תמונה הן חיוניות להגנה על חיים ורכוש, גורמים בעלי כוונות זדון עלולים להטעות את האלגוריתמים.
טכניקות חדשות שפותחו על ידי מהנדסים ממכון המחקר SwRI שבטקסס, מסוגלות להפוך עצמים ל"בלתי נראים" למערכות איתור תמונה המבוססות על אלגוריתמים של למידה עמוקה. טכניקות אלה יכולות גם להטעות מערכות ולגרום להן "לחשוב" שהן רואות עצם אחר, או לשנות את מיקום העצמים. הטכניקה מצמצמת את הסיכון לפגיעה במערכות אוטומטיות לעיבוד תמונה.
חוקרי אבטחה שעובדים על "הטעיה בלמידה עמוקה" מתעדים פרצות באלגוריתמים של למידה עמוקה ולמידת מכונה. מהנדסי המחקר אייב גרזה מחטיבת המערכות החכמות ב-SwRI ודייויד צ'יימברס פיתחו טכנולוגיה עתידנית שדפוסי הצורות שלה יכולות להטעות מצלמות לאיתור עצמים, כאשר הצורות נלבשות על ידי אדם או מורכבות על רכב. הן גורמות למצלמה לחשוב שהעצמים אינם שם, או שהם משהו אחר ממה שהם. גורמים בעלי כוונות זדון עלולים להציב דפוסים אלה בסמוך כבישים, וליצור כאוס בקרב מכוניות שמצוידות בטכנולוגיות לאיתור עצמים, כך לפי eurekalert.org.
“דפוסי צורות אלה גורמים לאלגוריתמים של המצלמה לקטלג בצורה מוטעה או לטעות במיקום של העצמים, וכך ליצור פרצה", אומר גרזה. "הדפוסים לא חייבים לכסות את כל העצם או להיות מקבילים למצלמה כדי להטעות את האלגוריתם, מספיק גם חלק מהדפוס כדי להטעות".
דפוסי הצורות תוכננו כך שמערכות מצלמה לאיתור עצמים רואות אותם בצורה ספציפית מאוד. צורה שמוסווית כפרסומת על דפנות אוטובוס חונה עלולה לגרום למערכת ההמנעות מהתנגשות לחשוב שהיא רואה שקית קניות בלתי מזיקה, ולא אוטובוס. אם מצלמת הרכב אינה מאתרת את העצם הנכון, היא עלולה להמשיך להתקדם ולפגוע באוטובוס, מה שיגרום להתנגשות חמורה.
הצוות פיתח מסגרת שמסוגלת לבחון באופן חוזר ונשנה את ההתקפות האלה נגד מגוון תוכניות איתור שמבוססות על למידה עמוקה.