נשק אוטונומי חדש מעורר מחלוקת קשה

This post is also available in: English (אנגלית)

הסכנה הטמונה במערכות נשק אוטונומיות אינה נובעת רק מכך שהן עלולות לצאת משליטה ולהרוג את האדם הלא נכון, אלא גם מכך שהגורם המפקח האנושי עלול להאמין בצורה עיוורת למה שאומר לו המחשב, תופעה שנקראת הטייה בגלל אוטומציה.

פיתוח חדש עלול להעלות חששות מפני כלי נשק שאינם בשליטה. מעבדת ראיית לילה בצבא ארה"ב עוסקת בפיתוח צריח אוטומטי לקראת ניסויים באש חיה בקיץ הבא. הטכנולוגיה תשתמש במערכת ATLAS – מערכת איכון מבוססת בינה מלאכותית – מפיתוח המעבדה, המיועדת לאתר מטרות פוטנציאליות, לקבוע אם הן עוינות ולכוון תותח 50 מ"מ במהירות ובדיוק על-אנושיים.

מערכת ATLAS שהושקה בראשית השנה היא חלק מתוכנית שאפתנית המשלבת ראיית מחשב, בינה מלאכותית ולמידת מכונה במטרה ליצור כלי רכב קרקעיים שמסוגלים לבצע החלטות לגבי איכון ולנקוט בהכנות לכך במהירויות על-אנושיות.

יחד עם זאת, ATLAS לא תלחץ בעצמה על ההדק כיוון שאין לה חיבור פיזי למנגנון ההדק, מה שמשאיר את ההחלטה הסופית על הירי בידי האדם. אם כי בעתיד, הצבא עשוי לבחון צורת בקרה פחות הדוקה, כך אמר ברוס ג'ט, מפקד הרכש בצבא ארה"ב, לbreakingdefense.com. הוא הוסיף כי מהנדסי הצבא ינקטו בכל אמצעי האבטחה הדרושים, וכי המוצר הסופי למעשה עשוי להיות בעל יכולת הבחנה טובה יותר מאשר נשק שמופעל אך ורק על ידי אדם.

לדוגמא, יתכן מצב שקצין יבחן את נתוני המעקב, כגון תמונות מרחפן, ויורה לפלוגת רובוטים לפתוח באש על קבוצת מטרות, לדבריו. הדבר עשוי לעמוד בסטנדרט של "גורם אנושי בתהליך", גישה שתדרוש הדק אוטומטי שעדיין לא קיים ב-ATLAS.

אבל גם מערכת כזו עשויה להדליק נורה אדומה אצל פעילים שכבר מביעים ספק לגבי מערכת ATLAS, וטוענים כי ניתן בקלות לשנות אותה כך שתעקוף את השליטה האנושית.

הטכנולוגיה מפותחת בעקבות דרישה ממינהל החיישנים האלקטרוניים וראיית לילה בארה"ב, שיספק את האוטומציה, מרכז החימוש יספק את הנשק הפיזי, התחמושת והצריח. שניהם מהווים כעת חלק מפיקוד הצבא העתידי.

שלב הפיתוח הראשון יתמקד בייצור מערכת אוטומטית במהירות האפשרית. המערכת תיבחן ביסודיות לפתרן בעיות ואז יתוספו לה יכולות אבטח ובקרות אנושיות לפני שמחברים אותה לכלי נשק לצורך ירי "על יבש" ללא תחמושת, ורק לאחר מכן – ירי חי, שמתוכנן ליוני 2020.