האם בינה מלאכותית יודעת כשאנחנו משקרים?

This post is also available in: English (אנגלית)

חוקרים פיתחו כלי הכשרה חדש המסייע לתוכנות מבוססות בינה מלאכותית להתמודד עם העובדה שבני אדם לא תמיד אומרים את האמת כאשר הם מספקים מידע אישי. הכלי נועד לשמש בהקשרים בהם לאנשים יש תמריץ כלכלי לשקר (בקשה לסיוע כלכלי בקבלת משכנתא וכדומה). המחקר פורסם בכתב העת Journal of Business & Economic Statistics.

מהמט קנר, ממחברי המאמר על ההמצאה, מסביר: "מגוון רחב של הקשרים עסקיים משתמשים בתוכנות בינה מלאכותית, כמו סיוע לקבוע את גודל המשכנתא שאדם יכול להרשות לעצמו, או מה צריכים להיות דמי הביטוח שלו. תוכנות הבינה המלאכותית האלה בדרך כלל משתמשות באלגוריתמים מתמטיים המונעים אך ורק על ידי סטטיסטיקה לביצוע החיזויים. הבעיה היא שגישה זו יוצרת גורמת לאנשים לראות תמריצים לשקר כדי שיוכלו לקבל משכנתא, להוריד את דמי הביטוח שלהם, וכו'".

לפי Techxplore, החוקרים רצו לראות אם יש דרך לשנות את האלגוריתמים של הבינה המלאכותית כדי להתמודד עם התמריצים הכלכליים של אנשים לשקר. הם פיתחו לשם כך מערך חדש של פרמטרים להכשרה בהם ניתן להשתמש כדי להבין איך בינה מלאכותית מלמדת את עצמה לבצע תחזיות, תוך התמקדות מיוחדת בזיהוי והתחשבות בתמריצים כלכליים של משתמשים.

"זה מצליח להפחית את התמריץ של המשתמש לשקר באת מילוי המידע", אומר קנר, אך מוסיף כי שקרים קטנים לעיתים עוברים את ה-"בדיקה", וכי האלגוריתם זקוק לעבודה נוספת כדי להבין טוב יותר את הסף בין שקר "קטן" לשקר "גדול".

בנוסף לכך, החוקרים מפרסמים את הפרמטרים החדשים להכשרת בינה מלאכותית באופן שזמין לציבור, כך שמפתחי מערכות בינה מלאכותית יכולים להתנסות איתם.

"העבודה הזו מראה שאנחנו יכולים לשפר תוכניות בינה מלאכותית כדי להפחית תמריצים כלכליים הגורמים לבני אדם לשקר. בשלב מסוים, אם נהפוך את הבינה המלאכותית לחכמה מספיק, אולי נוכל לחסל את התמריצים האלה לגמרי", מסכם קנר.