שימוש ב-Deepfakes ככלי נשק זורעי כאוס

This post is also available in: English (אנגלית)

דו"ח חדש של המרכז הפדרלי להערכת טרור משולב (ITAC) בקנדה מזהיר כי טכנולוגיות דיפ-פייק מאיימות על ביטחון הציבור, במיוחד בידיהם של גורמים קיצונים ואלימים.

תמונות, סרטונים וקבצי אודיו שנוצרו על ידי בינה מלאכותית הופכים קלים יותר ויותר לייצור, ומאפשרים לאנשים להפיץ מידע כוזב ולזרוע כאוס, בלבול, ומידע שגוי. אחד הגורמים העיקריים של הדו"ח של ITAC היה תמונה מזויפת של עשן עולה מהפנטגון האמריקאי שפורסמה בחודש מאי במדיה החברתית, וגרמה לירידה זמנית במניות.

הניתוח של ITAC טוען כי גורמים קיצונים יכולים להשתמש בדיפ-פייק כדי לתמוך באלימות, לקדם נרטיבים מזיקים, לגרום לפאניקה, לפגוע במוניטין ולחבל באמון במוסדות ממשלתיים.

"זיופים מספקים לגורמים אלימים וקיצונים טכניקה יעילה לשבש את חיי היומיום או להפחיד קבוצות או יחידים מסוימים, לעיתים על ידי הסטת משאבי הביטחון מתפקידיהם הרגילים", נכתב בדו"ח. "זיופי דיפ-פייק אלה יכולים לגרום לסביבה תחרותית בקרב גורמי איום, שם המטרה היא לגרום להשפעות הולכות וגוברות בעולם האמיתי, כמו פגיעה כלכלית".

הדו"ח מסכם כי גורמים קיצוניים וזדוניים בעלי יכולות מוגבלות נוטים יותר להשתמש במזימות כמו יצירת והפצת דיפ-פייק מאשר כאלה המסוגלים לבצע פעולות ישירות יותר בעולם האמיתי.

שירות הביון הביטחוני הקנדי הזמין מומחים ואנשי אבטחה לסדנה במאי 2023 במטרה לבחון את האיומים הנשקפים מטכנולוגיות אלה המפיצות דיסאינפורמציה. בדו"ח נטען כי ארגוני הטרור מכירים בפוטנציאל של טכנולוגיית דיפ-פייק בהפצת תעמולה ותיאום פיגועים.

הדו"ח קובע בנוסף כי מדינות דמוקרטיות חייבות להשקיע בטכנולוגיות חדשניות לגילוי דיפ-פייק שיכולות לחשוף מתחזים דיגיטליים, ואף להפליל באופן חוקי את היצירה וההפצה של חומרים אלה.

עם זאת, את המאבק נגד הדיפ-פייק לא ניתן לנצח באמצעות טכנולוגיה וחקיקה בלבד. אסטרטגיה עוצמתית וחשובה נוספת היא חימוש האזרחים בחשיבה ביקורתית ואוריינות תקשורתית התאפשר להם להבחין בין אמת לבדיה.

על ידי טיפוח חברה שהיא ספקנית, מושכלת ועמידה, ממשלות יוכלו לבנות מגן מפני ההשפעות ההרסניות של יצירות הדיפ-פייק והבינה המלאכותי.

מידע זה נמסר על ידי CTV News.