כיצד ניתן "לעבוד" על מחשבים בעזרים אשליות אופטיות, ומדוע זה צריך להדאיג

This post is also available in: English (אנגלית)

ראייה ממוחשבת עברה כברת דרך בשנים האחרונות. מכונות יכולות כעת לזהות עצמים טוב כמעט כמו בני אדם. אך הדמיון לא נגמר שם. חוקרים גילו כי בדיוק כמו בני האדם, גם מחשבים נוטים לחזות באשליות אופטיות. דבר זה מעלה חששות בטיחותיות רציניות, תוך פתיחת שער למחקר ראייה ממוחשבת נוסף.

ג'ייסון יוזינסקי, סטודנט מתקדם באוניברסיטת קורנל, יחד עם קולגות ממעבדת פיתוח הבינה המלאכותית באוניברסיטת וויומינג, הצליחו לייצר תמונות אשר נראות לעין האנושית כמו רעש לבן, אך בהן מזהים מחשבים עצמים ברמה גבוהה של ודאות. החבורה הציגה את ממצאיה בכנס לראייה ממוחשבת וזיהוי תבניות בבוסטון בחודש יוני האחרון.

“אנחנו חושבים שהתוצאות שלנו חשובות משתי סיבות," אמר יוזינסקי. "ראשית, הן מדגישות עד כמה מערכות ראייה ממוחשבת שמבוססות על למידת מכונות מפוקחת יכולות להיות מוטעות, ולכך יש השלכות אבטחה בתחומים רבים. שנית, השיטות בהן השתמשנו מספקות כלי חשוב לניפוי שגיאות על מנת לגלות בדיוק אילו חלקים ברשתות לומדים."

מחשבים יכולים להיות "מאומנים" לזהות עצמים בתמונות על ידי הצגת תמונות של אותם עצמים, מהן בונים האלגוריתמים מעין מודל גס בו יכול המחשב להשתמש לצורך זיהוי העצמים. בשנים האחרונות הושגה התקדמות גדולה בתחום בעזרת שימוש במערכות הנקראות רשתות עצביות עמוקות (Deep Neural Networks) אשר מדמות סינפסות כמו-אנושיות על ידי הגברת הערך של זכרון מסוים בכל פעם שהוא מופעל. רשתות עצביות עמוקות מדמות מספר שכבות של נוירונים על מנת להשיג מספר שכבות של הפשטה. ראשית מזהה המחשב שבתמונה יש חיה בעלת ארבע רגליים. אז, שהחיה היא כלב. לבסוף, הוא מסיק שזהו כלב לברדור.

אך למרות הדמיון, מחשבים מזהים תמונות באופן שונה מאיתנו, בני האדם. "הבנו כי הרשתות העצביות אינן מקודדות ידע הכרחי להפיק תמונה של כבאית אש, רק את הידע ההכרחי להבחין בכבאית אש מקבוצות אחרות," הסביר יוזינסקי. מחשב יכול לקרוא לכל תבנית של מקשים מרובעים "מקלדת".

מצוידים בידע הזה, הקבוצה החלה "לעוות" תמונות על ידי מיקוד והרחבת המאפיינים בהם השתמש המחשב על מנת לזהות תמונות. אם המכונה הכירה את העצם בוודאות גבוהה יותר בתמונה החדשה, הם נפטרו מהתמונה שקדמה לה. באופן זה, הגברת המאפיינים המשמעותיים לזיהוי ממוחשב אך התעלמות מהמאפיינים להם נזקקים בני אדם, הצליח הצוות לייצר תמונות שאינן ניתנות לזיהוי על ידי בני אדם, אך מחשבים מכירים בהן את העצמים.

"המחקר מראה כי זה אפשרי "לעבוד" על מערכת למידה עמוקה כך שהיא לומדת משהו שאינו אמתי אלא משהו שאתה רוצה שהיא תלמד," אמר פרד שניידר, פרופסור למדעי המחשב. "באופן פוטנציאלי זה מהווה בסיס לאפשר לפורעי חוק לגרום למערכות אוטומטיות לענות תשובות שגויות בכוונה תחילה לשאלות מסוימות. מערכות רבות ברשת האינטרנט משתמשות בלמידה עמוקה כדי לנתח ולהסיק מסקנות ממצבורים גדולים של נתונים. רשתות עצביות עמוקות משמשות למשל מפרסמים אינטרנטיים כדי להחליט איזו מודעה להציג בפניכם בפייסבוק או סוכנויות מודיעין על מנת להחליט אם התנהלות מסוימת ברשת היא חשודה."

החוקרים אז ניסו "להסב" את המערכת על ידי תיוג תמונות מטעות ככאלו. בצורה זו הם השיגו שיפור מסוים, אך לא רב, והמערכות המוסבות עדיין הוטעו על ידי תמונות אחרות. על מנת שמכונות אלו ישמשו לצורכי אבטחה, מחקר בתחום החדש הזה הוא חשוב ביותר.

“התחום של זיהוי תמונות עבר מהפכה בשנים האחרונות," אמר יוזינסקי. "[לחוקרי למידה ממוחשבת] יש הרבה דברים שעובדים, אבל מה שאין לנו, מה שאנחנו עדיין צריכים, היא הבנה של מה באמת קורה בתוך הרשתות העצביות האלו."