מדענים משתמשים בבינה מלאכותית כדי לזהות בהצלחה סרטוני וידאו Deepfake

This post is also available in: English (אנגלית)

בעוד תכני מדיה שנוצרו על ידי בינה מלאכותית נפוצים באינטרנט כבר זמן מה, לאחרונה נראתה התקדמות אדירה וחסרת תקדים בכל הנוגע ליכולות ייצור וידאו באמצעות בינה מלאכותית.

תוכנת Sora של חברת OpenAI, שפורסמה לציבור בחודש פברואר השנה, מדהימה משתמשים ביכולותיה ליצור תוכן סינתטי היפר-מציאותי רק באמצעות הנחיות טקסט. עם זאת, התפוקה המשכנעת מאוד שלה מפילה אנשים רבים בפח, מה שגורם לחששות גוברים לגבי תרומתה להתפשטות מידע שגוי.

מומחים ממעבדת MISL (מולטימדיה ואבטחת מידע) במכללת דרקסל להנדסה עובדים על יצירת טכנולוגיות לעיבוד תמונות כבר מעל לעשור. על פי Cybernews, השיטות הקיימות כיום לא הוכחו כיעילות נגד סרטונים שנוצרו על ידי בינה מלאכותית – המומחים מהמעבדה בחנו כ-11 תוכנות זמינות לציבור לזיהוי תמונות "סינתטיות" ומצאו שהן הפגינו לפחות 90% דיוק בזיהוי תמונות "מזויפות". עם זאת, הביצועים שלהן ירדו ב-20-30% כאשר התבקשו לזהות קטעי וידאו שנוצרו על ידי מייצרי AI הזמינים לציבור.

ד"ר מתיו סטאם, מנהל ה-MISL, אמר בהודעה לעיתונות: "זה יותר מקצת מרגיז שטכנולוגיית הוידאו הזאת יכולה לצאת לציבור לפני שיש מערכת טובה לזיהוי זיופים שנוצרו על ידי גורמים זדוניים", והוסיף כי ברגע שהטכנולוגיה זמינה לציבור, שימוש זדוני הוא בלתי נמנע. "זו הסיבה שאנחנו פועלים כדי להקדים אותם על ידי פיתוח הטכנולוגיה לזיהוי סרטונים סינתטיים מדפוסים ותכונות התואמים למדיה".

הדרך שבה MISL זיהתה מדיה ששונתה או נוצרה ע"י AI עד כה היא על ידי זיהוי עקבות דיגיטליים שנותרו מאחור לאחר שהתוכנות לעריכת התמונות והוידאו שינו פיקסלים, התאימו מהירות, או עיוותו פריימים. למרבה הצער, התוכנות החדשות המייצרות ווידאו מטקסט לא הופקו על ידי מצלמה ולא נערכו על ידי תוכנה, ולכן הן מציבות אתגרים חדשים בזיהוי של מניפולציה.

במחקר האחרון שלהם, מדעני MISL ניסו להשתמש בבינה מלאכותית כדי לזהות כיצד תוכנות בינה מלאכותית גנרטיביות "בונות" את הסרטונים שלהן, ואכן הצליחו לאמן בהצלחה אלגוריתם למידת מכונה שנקרא "רשת עצבית מוגבלת" – הרשת הצליחה ללמוד איך נראה וידאו סינתטי ברמה הפרטנית, וליישם את הידע הזה על סט חדש של סרטונים שנוצרו עם תוכנות AI שונות לייצור וידאו.

האלגוריתם הוכיח את עצמו כיעיל ביותר מ-93% מהזמן בזיהוי סרטונים "סינתטיים", ואפילו ידע לנקוב בשם התוכנה שיצרה את הסרטונים.