היורופול בעקבות האתגר הבא: דיפ-פייק

This post is also available in: English (אנגלית)

טכנולוגיית הדיפ-פייק (deepfake) הפכה לאחד האיומים הגדולים ביותר איתם מתמודדת החברה כיום, כך טוען פרסום חדש של יוניברסיטי קולג' לונדון (UCL). למעשה, עד שנת 2026 יגיע היקף התוכן הסינתטי באונליין ל-90%, לפי הערכה אחרת.

רשויות אכיפת החוק האירופיות מודאגות מפני ההשלכות. ארגון Europol, המהווה את מרכז המידע הפלילי עבור סוכנויות אכיפת החוק באירופה, פרסם לאחרונה סקירה מקיפה על השימוש הפלילי בטכנולוגיית דיפ-פייק, והוא שופך אור על האתגרים איתם מתמודדים ארגוני האכיפה בהקשר זה.

טכנולוגיית דיפ-פייק עושה שימוש בבינה מלאכותית ליצירת תוכן קולי וקולי-ויזואלי. הטכנולוגיה יכולה לייצר תוכן שמציג בצורה משכנעת אנשים שאומרים או עושים דברים שלא ביצעו או ליצור פרסונות שאינן קיימות. הכלים בקמפיינים של דיסאינפורמציה כוללים דיפ-פייק, תמונות מזויפות, אתרים מזויפים ומידע אחר שהוצא מהקשרו כדי להטעות את הציבור.

לפי הדוח שפרסמה מעבדת החדשנות של ה-Europol, תחת הכותרת 'התמודדות עם המציאות? אכיפת חוק ואתגר הדיפ-פייק, פיתוחים חדשים בתחום הבינה המלאכותית והזמינות של מאגרי נתונים של וידאו ותמונות מאפשרים את העלייה בהיקף ובאיכות תכני דיפ-פייק, תופעה שמאיצה פשיעה המבוססת על טכנולוגיה זו. בין הדוגמאות שמציג הדוח לגבי שימוש פוטנציאלי בדיפ-פייק בפשעים חמורים כולל הונאות מנכ"ל, כלומר התחזות למנכ"ל חברה במטרה להעביר סכומי כסף גבוהים, זיוף ראיות וייצור תכנים פורנוגרפיים.

לכן על רשויות אכיפת החוק להיות מודעות לזיופים אלה ולהשלכותיהם על המשך עבודת המשטרה בעתיד.

בהתבסס על נסיון מעשי של רשויות האכיפה, הדוח מזהה סדרה של אתגרים חדשים, ביניהם סיכונים הקשורים בטרנספורמציה דיגיטלית, 

אימוץ ופריסה של טכנולוגיות חדשות, ניצול טכנולוגיות חדשות על ידי גורמי פשע, ואימוץ דרכים חדשות לעבודה ולשמירת אמון אל מול העליה בהיקף הדיסאינפורציה.

רוב תכני הדיפ-פייק המיוצרים כיום ניתנים לזיהוי בשיטות ידניות המבוססות על ניתוח אנושי, המזהה בעזרת הלשנות את הסימנים בתמונות ובסרטונים. אבל מדובר במשימה גדולה מאוד שאינה מאפשרת עבודה בקנה מידה גדול, כך לפי hstoday.us. 

אילו פעולות נוקטים שחקנים אחרים, כמו הפלטפורמות הדיגיטליות (פייסבוק, טיקטוק ועוד) בהן משותפים רוב אירועי הדיפ-פייק? ברוב המקרים המדיניות מתבססת על "כוונה" כאמצעי בוחן להחלטה האם להסיר פרסום דיפ-פייק.

אבל הגדרת "כוונה" עלולה להיות מאתגרת וסובייקטיבית מאוד מפני שהיא מבוססת על הערכה של שחקנים אינדיבידואליים. נראה שפלטפורמות האונליין יוכלו למלא תפקיד מפתח בסיוע לקורבנות הדיפ-פייק בזיהוי המבצעים אם כי עדיין לא ברור איך זה יתבצע בפועל.

באשר לחקיקה, החוק האירופי מנסה לעמוד בקצב של התפתחות הטכנולוגיה וההגדרות המשתנות של הפשיעה. מסגרת הרגולציה הרלבנטית ביותר לאכיפת חוק בתחום הדיפ-פייק תהיה המסגרת הרגולטורית של הבינה המלאכותית, שנמצאת עדיין בשלבים ראשוניים לפי הצעה של המועצה האירופית ועדיין אינה מיושמת בפועל, כך טוען הדוח.