האם ניתן לנצח זיופים מבוססי בינה מלאכותית?

This post is also available in: English (אנגלית)

טכניקת הזיוף deepfake (שילוב של דיפ לרנינג וזיוף) היא שיטה מבוססת בינה מלאכותית, המשמשת לשילוב תמונות וסרטי וידאו קיימים לתוך תמונות או וידאו מקור. התמונות והסרטים שטופלו עלולים לשמש לתעמולה או תקשורת מטעה, כגון נאומים פוליטיים מפוברקים או פורנוגרפיה.

הסוכנות האמריקאית למחקרי ביטחון דארפ"א כבר הוציאה סך של $68 מיליון במהלך השנתיים האחרונות על אמצעי זיהוי דיגיטליים כדי לאתר זיופים.

עבור דארפ"א, איתור ולוחמה בזיופים אלה מהווים עניין של ביטחון לאומי, כך מדווח CBC. התוכנית שלה העוסקת בזיהוי פלילי במדיה הוקמה במטרה ליצור אוטמציה בכלים הקיימים של הזיהוי הפלילי, ולאחרונה משכה את תשומת הלב לזיוף מבוסס בינה מלאכותית.

אחת הטכנולוגיות הפועלות נגד זיופים אלה פותחה על ידי צוות בראשותו של סיווי ליו, מרצה באוניברסיטת ניו יורק באלבני ואחד הסטודנטים שלו. הם חקרו מספר מקרים של זיוף וגילו כי הפרצופים הנוצרים באמצעות הזיוף כמעט אף פעם אינם ממצמצים, וגם אם הם עושים זאת, תנועת העין אינה נראית טבעית. זאת מפני שזיופים אלה מאומנים על בסיס תמונות סטילס, שבדרך כלל מציגות אדם כשעיניו פתוחות, כך מדווח technologyreview.com.

כפי שמציג זאת האני פאריד, מדען מחשבים ואמצעי זיהוי דיגיטילים מדארטמות' קולג', מדובר במאבק אבוד: "היריב תמיד ינצח, בכל זמן ניתן יהיה לייצר תמונה או וידאו מזויפים משכנעים, אך אם נצליח במאמצי הנגד שלנו זה פשוט יעלה ליריב יותר זמן, מאמץ, כישרון וסיכון".

תמונות וסרטים שהוצגו על ידי CBC משקפים את החוסרים בטכניקת הבינה המלאכותית של דארפ"א לאיתור הזיופים. גורמים שמעוניים ליצור זיוף מטעה יהיו תמיד צעד אחד לפני אלה שמנסים לבלום אותם. יחד עם זאת, לתוכנית של דארפ"א לפיתוח כלים דיגיטליים נגד התופעה עדיין נשארו שנתיים של מחקר, כך לפי futurism.com.