ממצאים מפתיעים להשוואה בין בני אדם ובינה מלאכותית

This post is also available in: English (אנגלית)

לבני אדם ולבינה מלאכותית יש רמת סבילות שונה לגבי סיכון, כאשר כמות הנתונים מוגבלת. ממצאים ממחקר שנערך לאחרונה על ידי סוכנות המודיעין DIA של מחלקת ההגנה האמריקאית חושף את העובדה שבמצב אמיתי, כשגורמים אנושיים ובינה מלאכותית בוחנים את פעילות האויב, העמדות שלהם יהיו הפוכות. בינה מלאכותית תהיה זהירה יותר במסקנותיה מאשר הגורמים האנושיים, במצבים בהם אין מספיק נתונים.

התוצאות האלה הן אמנם ראשוניות אבל יש בהן רמז לגבי הדרך שבה בני אדם ובינה מלאכותית ישלימו זה את זה בתחומים קריטיים של הביטחון הלאומי.

טרי בוש, המנהל הטכני של מערכת MARS לאנליטיקה מבוססת-מכונה בסוכנות המודיעין האמריקאית מסר ל-defenseone.com פרטים על הניסוי. החלק הראשון כלל שימוש בנתונים זמינים כדי לקבוע אם ספינה מסוימת נמצאת במימי ארה"ב.

"ארבעה אנליסטים הציעו ארבע שיטות שונות, והמכונה הציעה עוד שתי מתודולוגיות שונות, אך כולם הסכימו שאותה ספינה היתה במימי ארה"ב", לדבריו. עד כאן הכל בסדר. בני אדם ומכונות שמשתמשים בנתונים זמינים יכולים להגיע למסקנות דומות.

בשלב השני, נבדק משהו אחר: שכנוע. האם בני אדם ומכונות יהיו בטוחים במידה שווה במסקנות שלהם כאשר יש פחות נתונים זמינים? בניסוי נותק הקשר למערכת AIS לזיהוי אוטומטי, שעוקבת אחרי ספינות ברחבי העולם. תאורטית, כאשר יש פחות נתונים, האנליסט האנושי יהיה פחות בטוח במסקנותיו, אבל החוקרים גילו תוצאה הפוכה. "כשצמצמנו את המקורות, לכולם היה אותו חומר – דוחות רבים, מדיה חברתית, מודיעין ממקורות גלויים או רפרנסים לספינה בארה"ב – כך שלכולם היתה גישה לאותם נתונים. ההבדל שהתגלה היה בכך שהמכונה ומי שמפעיל את למידת המכונה נטו לקחת הרבה פחות סיכונים, תוך שמירה על ביטחון עצמי (condifdence), בהשוואה לבני האדם". "למעשה, המכונה עושה עבודה טובה יותר בהנמכת הביטחון העצמי בהשוואה לבני אדם.. "

הניסוי מספק הצצה לדרך בה בני אדם ובינה מלאכותית יפעלו יחד כצוות במשימות אנליטיקה חשובות. הוא גם מגלה כיצד השיפוט האנושי מוגבל כשמדובר בגאווה.