כיצד מזהים דיפ-פייק?

This post is also available in: English (אנגלית)

Deepfake, טכנולוגיה מבוססת בינה מלאכותית ליצירת תוכן מזויף, הפכה לפשוטה מתמיד ליישום. ה-FBI בארה"ב חושד כי גורמים מרוסיה ומסין משתמשים בתמונות פרופיל סינתטיות בניסיון לגרום דיסאינפורמציה. בהודעה שהוציאה הסוכנות, היא הודיעה על אזהרה חמורה מפני "שחקנים זדוניים, שקרוב לוודאי ינצלו תכנים סינתטיים לצורך פעולות השפעה בסייבר במהלך 12-18 החודשים הקרובים".

"תוכן סינתטי" זהו כל תוכן וידאו, תמונה, טקסט או אודיו שעבר מניפולציה. בכלל זה תכני deepfake, שמשתמשים בבינה מלאכותית כדי להחליף אדם אחד באחר.

לפי ההודעה שדווחה על ידי businessinsider.com, שחקנים אלה משתמשים בתמונות פרופיל מזויפות שנוצרו על ידי GAN – רשתות גנרטיביות יריבות. כמו כן, נמסר כי חלה עליה במספר העיתונאים והכתבות המזויפים באינטרנט. בעוד שעיתונאים אלה הם בעלי "נוכחות איתנה אונליין", הרי שניתן לחשוף את התרמית בעזרת "בדיקת עובדות פשוטה".

ה-FBI מסר כי זיהה "קמפיינים רבים שניצלו תוכן סינתטי" מאז סוף 2019, ונראה כי מספרם במגמת עלייה. התקפות אלה בוצעו במטרה "לקדם יכולות מסחריות והשפעה" מצד התוקפים. 

ה-FBI מפרט בהודעתו איך ניתן לאתר מקרים של deepfake:

1. רווח גדול מידי בין העיניים של הדמות וכן תנועות ראש ופלג גוף עליון, סינכרוניזציה בין פנים לתנועת שפתיים גם הם מהווים רמזים לזיוף.

2. ה-FBI ממליץ לאנשים להתגונן מפני התקפות סייבר, ומדגיש כי אין להניח מראש שאכן אדם עומד מאחורי פרופיל אונליין.

3. על המשתמשים לחפש מקורות מידע רבים ולנהוג בזהירות כשהם מוסרים מידע מסווג אונליין או בטלפון.

מעוניינים לצלול אל תוך עולם העתידנות הטכנולוגית? – הירשמו ל-INNOTECH 2022, הכנס והתערוכה הבינלאומיים לסייבר, HLS וחדשנות באקספו תל אביב ב2-3 בנובמבר.

מעוניינים בחסות / ביתן תצוגה בתערוכת ה-INNOTECH 2022? לחצו כאן לפרטים!