כוח השכנוע: בינה מלאכותית משתמשת במידע אישי כדי לשנות את דעתכם

This post is also available in: English (אנגלית)

מחקר חדש של EPFL מדגים את כוח השכנוע של מודלי שפה גדולים (LLM), בכך שמצא כי כאשר משתתפים דנו עם צ'אטבוט GPT-4 (לו הייתה גישה למידע האישי שלהם) הסיכוי שישנו את דעתם היה גבוה בהרבה לעומת אלה שדנו מול בני אדם.

פרופסור רוברט ווסט, ראש מעבדת מדעי הנתונים בבית הספר למדעי המחשב והתקשורת, דיבר על הנושא הזה. הוא דיבר על הפחד האמיתי מאוד של משתמשים שהם ידברו עם ישות לא אנושית ללא יודעין: "הסכנה היא ישויות על-אנושית כמו צ'טבוטים שיוצרים טיעונים מותאמים אישית ומשכנעים כדי לדחוף נרטיבים כוזבים או מטעים באינטרנט".

עבודה קודמת בנושא חשפה כי בעוד מודלי שפה גדולים יכולים להיות משכנעים לפחות כמו בני אדם, ביצועיהם משתפרים מאוד מונים כשמוצג להם מידע אישי על האדם איתו הם מדברים (גיל, מין, מוצא אתני, רמת חינוך, מצב תעסוקה, והשתייכות פוליטית). ווסט מוסיף כי מידע מסוג זה הוא רק חלק קטן ממה שמודל בינה מלאכותית יכול לדעת על אדם דרך האינטרנט.

על פי Techxplore, במחקר קודם, החוקרים גייסו 820 אנשים להשתתף בניסוי מבוקר בו כל משתתף קיבל באופן אקראי נושא לדיון באחד מארבעה תנאים: לדון אדם אחר עם/בלי מידע אישי עליו, או לדון עם צ'אט-בוט שיש/אין לו מידע אישית עליו. המאמר שפורסם על הניסוי ("על שכנוע שיחתי של מודלי שפה גדולים: ניסוי אקראי מבוקר") הראה כי משתתפים שדנו מול צ'אטבוט לו הייתה גישה למידע האישי שלהם היו בעלי סיכוי גבוה ב-81.7% להסכים עם יריביהם בהשוואה למשתתפים שדנו מול בני אדם. GPT-4 עדיין התעלה על ביצועי המשתתפים בני האדם גם ללא מידע אישי, אך ההבדל היה פחות משמעותי.

נראה כי לאחר שהוכשרו על אינספור פוסטים במדיה החברתית וספרים ומאמרים בפסיכולוגיה על שכנוע, המודלים הצליחו ללמוד באמצעות תבניות מקוונות שסביר יותר שדרך מסוימת של הצגת טיעון תוביל לתוצאה משכנעת.

ווסט סיכם: "מודלי שפה גדולים הראו סימנים שהם יכולים לחשוב על עצמם בהיגיון, ולכן בהתחשב בכך שאנחנו יכולים לחקור אותם, אני יכול לדמיין שנוכל לבקש ממודל להסביר את הבחירות שלו ולמה הוא אומר דבר מדויק לאדם מסוים עם תכונות מסוימות. יש הרבה מה לחקור כאן כי המודלים עשויים לעשות דברים שאנחנו אפילו לא יודעים עליהם עדיין במונחים של שכנוע, שיחוברו יחד מתוך חלקים רבים ושונים של הידע שיש להם".