This post is also available in:
English (אנגלית)
בינה מלאכותית יכולה לעבד כמויות גדולות של מידע מודיעיני במהירות, אך היתרון הזה יוצר בעיה משמעותית כאשר מסקנה שגויה נראית משכנעת מספיק כדי להיכנס לתהליך קבלת ההחלטות הצבאי הרגיל. תקרית שדווחה לאחרונה כמעט והמחישה עד כמה חמורות עלולות להיות ההשלכות של טעות כזו.
לפי מידע שדווח ב־CNN, הערכת מודיעין שגויה שנעזרה בבינה מלאכותית כמעט והובילה כוחות אמריקניים להשתלט על כלי שיט סיני שהיה בדרכו למזרח התיכון. המבצע נעצר זמן קצר לפני תחילתו, לאחר שהמידע שעליו התבססה ההערכה נבחן מחדש לעומק.
התקרית החלה כאשר אנליסט צבאי נתקל במידע שעורר חשד במצהר המטען של הספינה והשתמש בבינה מלאכותית כדי לסייע בניתוחו. המערכת שילבה מידע מסווג ומידע ממקורות גלויים והגיעה למסקנה כי כלי השיט נושא ככל הנראה רכיבים הקשורים לתוכנית נשק גרעיני.
אלא שהמסקנה הזו הייתה שגויה.
במקום לאמת באופן עצמאי את הפרשנות שסיפקה הבינה המלאכותית לפני המשך התהליך, האנליסט השתמש לפי הדיווחים בטכנולוגיה כדי להפוך את הממצאים לדוח מודיעין צבאי במתכונת מקובלת. המסמך נכנס לאחר מכן לערוצי ההפצה הרגילים, שבהם הנמענים יכלו להניח באופן סביר שהמסקנות המופיעות בו כבר עברו את הבדיקות הנדרשות.
הדוח נתפס כאמין מספיק כדי להתחיל בהכנות למבצע השתלטות. לפי הדיווחים, כוחות חמושים נערכו לעלות על כלי השיט, בעוד שכלי טיס כבר היו באוויר.
אולם לפני תחילת המבצע נבדק המידע הבסיסי פעם נוספת. התברר כי זיהוי המטען היה שגוי, והמשימה בוטלה.
על פי דיווח של Interesting Engineering, התקרית ממחישה בעיה ייחודית של הזיות בינה מלאכותית בעבודה מודיעינית. קל יותר לזהות מידע שגוי כאשר ברור שהוא מומצא. במקרה הזה, לעומת זאת, המסקנה השגויה של המערכת הייתה מוקפת בפרטים אמיתיים על כלי שיט קיים, מצהר מטען ולוח זמנים אמיתי. השילוב הזה עלול לגרום להסקה שאינה מבוססת להיראות אמינה יותר.
המקרה ממחיש גם את הסיכון שבתהליך שניתן לתאר כ"הלבנת סמכות". כאשר פלט לא ודאי של בינה מלאכותית הופך לדוח מודיעין רשמי, עצם צורתו של המסמך יכולה להעניק למידע מראית עין של אמינות וסמכות ככל שהוא עובר בין גורמים שונים בארגון.
התקרית מעלה גם שאלות בנוגע להסתמכות על מודל פשוט של "אדם בלולאה" כאמצעי הגנה. בני אדם נותרו מעורבים לאורך כל התהליך, ובכל זאת ההערכה השגויה התקדמה עד לשלב שבו כבר נערכו הכנות למבצע.
גורם מסבך נוסף הוא היעדר תקן אחיד לאימות מידע המופק באמצעות בינה מלאכותית בשימוש צבאי. יחידות שונות משתמשות כיום במודלים שונים ובנהלים פנימיים שונים.
ככל שצבאות משתמשים יותר בבינה מלאכותית כדי להאיץ ניתוח מודיעיני וקבלת החלטות מבצעיות, המקרה ממחיש מדוע מהירות אינה יכולה לבוא במקום אימות. בינה מלאכותית יכולה לסייע לאנליסטים להגיע למסקנות מהר יותר, אך ממצאים בעלי השלכות משמעותיות עדיין חייבים להיבדק מול הראיות שעליהן הם מבוססים לפני שהם הופכים לבסיס לפעולה.
