This post is also available in: enEnglish (אנגלית)

בעקבות הפיתוח המהיר של בינה מלאכותית, מערכות נשק אוטונומיות (או רובוטי הרג/killer robots) יהפכו בקרוב למציאות, וארגונים בינלאומיים רבים קוראים להגביל אותם או אפילו לאסור את השימוש בהם באופן גורף.

על פי Techxplore, רובוטי הרג הם מערכות שבוחרות מטרה ויורות עליה על בסיס קלט חיישנים ולא קלט אנושי. מערכות אלה הופכות במהירות למציאות, ומומחים מאוד מודאגים.

מערכות נשק עם אוטונומיה משמעותית כבר נמצאות בשימוש בשדה הקרב, אם כי עדיין יש קו (דק ככל היהיה) כשמדובר בשאלה מה נחשב רובוט הרג ומה לא. ניקח לדוגמה תחמושת משוטטת המשתמשת יותר ויותר באוטונומיה המאפשרת לה לרחף מעל שדה הקרב ולחכות לתקוף עד שהיא מזהה מטרה.

בוני דוקרטי, מרצה למשפטים במרפאת זכויות האדם הבינלאומית של בית הספר למשפטים בהרווארד, רואיינה על הנושא על ידי עיתון הארוורד גאזט. "הבעיות האתיות חמורות מאוד. האצלת החלטות של חיים ומוות למכונות חוצה קו אדום עבור אנשים רבים. זה יגרום לדה-הומניזציה של האלימות ויקטין את בני האדם לערכים מספריים בלבד".

סיכונים אחרים שדוקרטי מעלה כוללים את הסיכון הרציני להטיה אלגוריתמית, העלולה לאפשר אפליה נגד אנשים מסוימים עקב כך שמכונות מתוכנתות לחפש קריטריונים מסוימים. סיבה נוספת היא הדאגה המשפטית, כמו חוסר היכולת של מכונות להבדיל בין חיילים לאזרחים, ומה המשמעות של זה כשמחוקקים חוקים בנושא.

כשמדובר בנושא של לקיחת אחריות, ישנה הסכנה שמערכות נשק אוטונומיות יפלו לתוך פער אחריות כי אי אפשר לדרוש ממערכת הנשק עצמה לקחת אחריות. יתר על כן, זה עלול להיות בעייתי לשים את האחריות על המפעיל כאשר המכונה פועלת באופן אוטונומי.

אף על פי שהיו מאמצים בינלאומיים לאסור על קיום רובוטי הרג, הם נכשלו עד כה. יכולות להיות מספר סיבות, אחת מהן היא שמדובר במערכות נשק הנמצאות כרגע בפיתוח בניגוד לכלי נשק קיימים כמו מוקשים ותחמושת מצרר שנאסרו לאחר שבחנו את הנזק המתועד שכבר גרמו.

כשנשאלה לגבי השתתת איסור בינלאומי על מערכות נשק אוטונומיות, דוקרטי הסבירה: "אנחנו קוראים כיום לאמנה בעלת שלושה חלקים. הראשון הוא איסור על מערכות נשק אוטונומיות חסרות שליטה אנושית משמעותית. השני הוא איסור על מערכות נשק אוטונומיות שפוגעות באנשים משום שהן מעלות חששות לגבי אפליה ואתגרים אתיים. השלישי הוא שאנחנו קוראים לתקנות על כל מערכות הנשק האוטונומיות האחרות כדי להבטיח שניתן יהיה להשתמש בהן רק בטווח גיאוגרפי או זמני מסוים. אנחנו אופטימיים שמדינות יאמצו הסכם כזה בשנים הקרובות".