טכנולוגיה חדשנית מונעת שימוש זדוני בהקלטות ע"י עברייני סייבר

This post is also available in: English (אנגלית)

ידוע כיום שטכנולוגיות המבוססות על בינה מלאכותית הביאו איתן מדיה המחקה את המראה והקולות של בני אדם אמיתיים (עם ייצור קל ונגיש של תמונות, סרטונים והקלטות). התקדמות זו מביאה יתרונות עצומים של נגישות ויצירתיות, אך גם מביאה איתה איום של הונאות ההולכות ומשתכללות והתקפות סייבר באמצעות deepfakes.

כדי להילחם בחסרונות וההשפעות השליליות האפשריות של טכנולוגיית השיבוט הקולי, ועדת הסחר הפדרלית של ארה"ב (FTC) קראה למגוון חוקרים ומומחי טכנולוגיה לפתח רעיונות פורצי דרך למניעה, ניטור והערכה של שיבוטי קול זדוניים.

לפי Techxplore, נינג ג'אנג, פרופסור למדעי המחשב והנדסה בבית הספר להנדסה McKelvey, היה אחד משלושת הזוכים באתגר שיבוטי הקול של קול של ועדת הסחר הפדרלית. הפרויקט המנצח של ג'אנג, הנקרא "DeFake", מוסיף מה שמתפקד בתור מעין "חותמת מים" להקלטות, ומטביע בהן עיוותים בעלי מבנה קפדני שלא נשמעים לאוזן האנושית, ובכך הופך את דוגמיות הקול ללא שמישות ומקשה על שיבוט לא חוקי של ההקלטה.

ג'אנג הסביר: "DeFake משתמשת בטכניקה של בינה מלאכותית 'יריבה' שהייתה במקור חלק מארגז הכלים של פושעי הסייבר, אבל עכשיו אנחנו משתמשים בה כדי להגן מפניהם. שיבוט קול מסתמך על שימוש בדגימות דיבור קיימות מראש כדי לשכפל קול, אשר נאספות בדרך כלל מהמדיה החברתית ופלטפורמות אחרות. על ידי הפרעה מינימלית של אות השמע המוקלט, ברמה המינימלית שאינה נשמעת לאוזן אנושית רגילה אבל נשמעת שונה לחלוטין לבינה מלאכותית. כך DeFake מונעת שיבוט קול וגורמת לדיבור המסונתז להשמע כמו קולות אחרים, ולא כמו קול הקורבן המיועד".

הפרויקט החדשני הזה מבוסס על עבודתו המוקדמת של ג'אנג, שעסקה במציאה וחיסול של יצירת אודיו לא חוקי של דיבור עוד לפני שהיא מתרחשת. ג'אנג ושני הזוכים האחרים של אתגר שיבוט קול (שהצעותיהם התמקדו בזיהוי ואימות) מדגימים את הגישות השונות הרבות שמפתחים כיום כדי למנוע שימושים מזיקים בטכנולוגיה ולהגן על הצרכנים מפני גורמים זדוניים.