בינה מלאכותית ודיסאינפורמציה

This post is also available in: English (אנגלית)

בין אם נרצה בכך או לא דעותינו מעוצבות כל הזמן ע"י המדיה החברתית, ובעידן של בינה מלאכותית מתוחכמת זה עלול להפוך למסוכן.

המחקר החדש "רשתות חברתיות והתפשטות דיסאינפורמציה במדיה החברתית: האתגרים של בינה מלאכותית" חושף את היכולת של בוטים חברתיים המופעלים על ידי AI להפיץ מידע שגוי, ובוחן את הצורך של ארגונים לזהות ולהפחית את ההשפעות המזיקות הללו.

על פי Techxplore, את המחקר הוביל צוות של חוקרים מקנדה ומבריטניה שהשתמש בשיטות כריית טקסט ולמידת מכונה חדשניות כדי לנתח את ההתנהגות של בוטים חברתיים ב-X (לשעבר טוויטר). לאחר ניתוח מערך נתונים של 30,000 פוסטים באנגלית, החוקרים חשפו רשת מורכבת של אינטראקציות בין חשבונות אנושיים ולא אנושיים, ובכך שפכו אור על התפשטות של מידע שגוי ודיסאינפורמציה באינטרנט.

ד"ר מינה טג'בידי, מכותבות המחקר, מסבירה: "בוטים חברתיים אינם רק ישויות בלתי מזיקות; יש להם את הכוח להשפיע על דעת הקהל ואפילו להשפיע על השווקים. המחקר שלנו מדגיש את החשיבות של הבנת כוונותיהם וגילוי נוכחותם בשלב מוקדם כדי למנוע התפשטות של מידע כוזב".

המחקר מתבסס על תאוריית השחקן-רשת (ANT) המספקת מסגרת תיאורטית באמצעותה ניתן לבחון את הדינמיקה בין בני אדם, בוטים והנוף הדיגיטלי. החוקרים שילבו את התיאוריה במודלים של למידה עמוקה, גילו את הקשר הסימביוטי בין הגורמים לבין השפה שבה הם משתמשים, והציעו תובנות חדשות על התפשטות הדיסאינפורמציה.

"הממצאים שלנו מדגישים את הצורך בטכניקות זיהוי משופרות ובמודעות רבה יותר לתפקיד שרובוטים חברתיים משחקים בעיצוב השיח המקוון. בעוד המחקר שלנו מתמקד ב-X, ההשלכות משפיעות על כל פלטפורמות המדיה החברתית, שם ההשפעה של הבינה המלאכותית נהיית יותר ויותר נפוצה", הוסיפה ד"ר טג'בידי.

עם זאת, החוקרים הכירו במספר מגבלות שהיו למחקר זה (כולל חוסר במטה-דאטא והתמקדות בפוסטים בשפה האנגלית בלבד) והדגישו את הצורך במחקרים עתידיים כדי לחקור שפות נוספות ושיטות תקשורת כדי לספק הבנה מקיפה של התנהגות של בוטים חברתיים.

החוקרים מסכמים כי ככל שהנוף הדיגיטלי ממשיך להתפתח, יש לשמור על דריכות ולפתח אמצעים פרואקטיביים להילחם בהפצת מידע מוטעה. זה יכול להיעשות באמצעות שימוש בכוח ה-AI לטובה, וציוד ארגונים בכלי זיהוי ומזעור ההשפעה של בוטים חברתיים מזיקים.