פתרון צבאי לאתגר הדיפ-פייק

This post is also available in: English (אנגלית)

תופעת ה-deepfake מתייחסת לתכני וידאו היפר ריאליסטיים, שסונתזו באמצעות בינה מלאכותית, ומזייפים התנהגות או דיבור של אדם מסוים. רוב השיטות המובילות לאיתור וזיהוי deepfake מבוססות על למידה עמוקה, ויש בכך כמה חולשות בסיסיות מבחינת איתנות, סקיילביליות ויכולת ליישם את הטכנולוגיה במכשיר נישא.

חוקרים מצבא ארה"ב פיתחו שיטה לאיתור deepfake, שתאפשר פיתוח של טכנולוגיה נישאת עבור חיילים לצורך תמיכה במשימות חיוניות כגון איתור וזיהוי איומי אויב.

המחקר מתמקד בפרט בטכניקה של ביומטריית פנים, במכשיר בעל משקל קל, שתפעולו אינו דורש מורכבות וביצועיו גבוהים, טכניקה שעונה על דרישות הגודל, משקל ואנרגיה לגבי מכשירים לשימוש חיילים בשדה הקרב.

חוקרים בפיקוד DEVCOM לפיתוח יכולות קרב בצבא ארה"ב, מעבדת המחקר הצבאית, בשיתוף עם קבוצת מחקר באוניברסיטת דרום קליפורניה, פיתחו פתרון טכנולוגי חדשני בשם DefakeHop.

לדברי דר' סויה יו מה-ARL, "בגלל ההתקדמות של רשתות נוירוניות גנרטיביות, התופעות של deepfake המבוסס על בינה מלאכותית מתקדמות במהירות כזו שאין מספיק אמצעים אמיניםלאיתור ולהתגוננות מפני התופעה". "קיים צורך דחוף בפרדיגמה חלופית שתבין את המנגנון שמאחורי התופה ותפתח פתרונות הגנה אפקטיביים הנתמכים על ידי תאוריה מוצקה".

החוקרים שילבו את ניסיונם בתחומי למידת מכונה, ניתוח אותות וראייה ממוחשבת ופיתחו תאוריה חדשנית ומסגרת מתימטית בשם SSL כארכיטקטורת רשת נוירונית חדשנית. זהו המפתח לטכנולוגיה שפיתחו, DefakeHop.

רוב הטכנולוגיות המובילות הקיימות לאיתור deepfake והשיטות הפורנזיות מבוססות על מנגנון של למידה עמוקה. לעומת זאת הטכנולוגיה החדשה שפותחה בנוייה על כל יצוג ה-SSL החדש והיא שקופה מבחינה מתימטית, כיוון שהמודולים הפנימיים והעיבוד שלה ניתנים להסבר.

"אנחנו צופים כי החיילים בעתיד יצטרכו לשאת לשדה הקרב מכשירים חכמים ביחס גודל-משקל-אנרגיה נמוך מבוססי חוזי", יו מציין. "הפתרון הקיים כיום בתחום למידת מכונה הוא רגיש מידי לסביבת נתונים ספציפית. כשהנתונים מגיעים לסביבה אחרת, הרשת זקוקה לאימון מחדש, דבר שקשה לבצע במערכת משובצת. הפתרון החדש שבפיתוח כולל מספר מאפיינים רצויים, ביניהם גודל קטן, צורך בכמות נתונים מוגבלת לאימון, במורכבות נמוכה, והמסוגל לעבד תמונות ברזולוציה נמוכה. הודות לאה ניתן להגיע לפתרונות פורצי דרך עם יישומים נרחבים עבור הצבא העתידי", כך לפי eurekalert.org.