הפתרון הטוב ביותר לגילוי זיופי deepfake? תשתמשו ב-AI

This post is also available in: English (אנגלית)

מגמת ההתקדמות ההולכת וגוברת של טכנולוגיית הבינה המלאכותית מקשה יותר ויותר לזהות הקלטות מזויפות, או deepfakes, אך ייתכן והפתרון לבעיה יגיע מהבינה המלאכותית עצמה.

מדענים מחברת Klick Labs קיבלו השראה מהמחקרים הקליניים שערכו באמצעות סמנים ביולוגיים קוליים כדי לעזור לשפר תוצאות בריאותיות, ויצרו שיטת זיהוי אודיו שנוצר ע"י AI המשתמשת בזיהוי סימני חיים (כמו דפוסי נשימה והפסקות מזעריות במהלך הדיבור).

יאן פוסאט, סגן נשיא בכיר ב- Klick Labsוהחוקר הראשי של המחקר, מסביר: "הממצאים שלנו מדגישים את הפוטנציאל להשתמש בסמנים ביולוגיים ווקאליים כגישה חדשנית לסימון יצירות deepfake, משום שאין להן את הסימנים מסגירי-החיים הטבועים בתוכן אמיתי ואותנטי. סימנים אלה בדרך כלל אינם ניתנים לגילוי באמצעות האוזן האנושית בלבד, אך כיום ניתן להבחין בהם הודות ללמידת מכונה וסמנים ביולוגיים ווקאליים".

המחקר, "חקירה של זיהוי קול deepfake באמצעות דפוסי השהיית דיבור: פיתוח אלגוריתם ואימות", מתאר כיצד ניתן לשלב סמנים ביולוגיים ווקאליים ולמידת מכונה כדי להבחין בין אודיו deepfake לאודיו אותנטי, עם דיוק אמין ומרשים.

על פי Techxplore, פוסאט וצוות החוקרים של Klick Labs יצרו מודלי deepfake מדגימות קול שסופקו על ידי 49 משתתפים מרקעים שונים ועם מבטאים שונים. לאחר ניתוח מדדי השהיית הדיבור, המדענים גילו שהמודלים שפיתחו יכולים להבחין בין הקלטות קול אמיתיות ומזויפות עם דיוק של כ-80%.

ממצאים אלה מגיעים זמן קצר לאחר שחברת Meta הודיעה על תוכניתה לכלול תוויות לסימון תוכן שנוצר על ידי בינה מלאכותית, וועדת התקשורת הפדרלית הוציאה מהחוק את השימוש בקולות deepfake בשיחות אוטומטיות. זה בנוסף למספר הקלטות ויראליות של מפורסמים וידוענים כמו הנשיא ג'ו ביידן והזמרת טיילור סוויפט, והחשש הציבורי ההולך וגובר כי שימוש בזיופי  deepfakeרק יגדל עם הבחירות הקרבות לנשיאות ארה"ב.

פוסאט הודה כי בעוד שהמחקר החדש מציע פתרון אחד לבעיה ההולכת וגדלה הזו, יש יותר ויותר צורך להמשיך לפתח את טכנולוגיית הגילוי ככל שזיופי ה- deepfake הופכים ליותר ויותר מציאותיים.