מומחים רבים קוראים לרגולציה של רובוטי הרג ונשקי AI

This post is also available in: English (אנגלית)

טכנולוגיית הבינה המלאכותית מתקדמת במהירות שיא, והגיעה אף לשימוש בטכנולוגיה צבאית – מערכות נשק שיכולות להרוג כמעט ללא התערבות אנושית. מומחים רבים טוענים כי שימוש זה מציב אתגרים אתיים ומשפטיים עצומים שהעולם צריך להתמודד איתם, ובקרוב.

הכנס בינלאומי שנערך בווינה בשם "האנושות בצומת החלטה: מערכות נשק אוטונומיות ואתגר הרגולציה" כלל דיונים בנוגע למאמצים המתחדשים להסדיר את השימוש בבינה מלאכותית במערכות נשק אוטונומיות (AWS), המכונות גם "רובוטי הרג".

שר החוץ האוסטרי אלכסנדר שלנברג אמר בנאומו: "אנחנו לא יכולים לתת לרגע הזה לעבור מבלי לפעול. עכשיו זה הזמן להסכים על כללים ונורמות בינלאומיים כדי להבטיח שליטה אנושית", וקרא להשאיר את ההחלטה האחרונה והחשובה ביותר, מי יחיה ומי ימות, בידי בני אדם.

משתתפים רבים אחרים הביעו את הסכמתם שחלון הפעולה הולך ונסגר במהירות, ויש שהוסיפו כי הבינה המלאכותית כבר נמצא בשימוש בשדה הקרב – למשל, מזל"טים באוקראינה שמתוכנתים למצוא את דרכם למטרה במקרה בו טכנולוגיית שיבוש אותות מנתקת את התקשורת שלהם עם המפעיל.

"כבר ראינו את הבינה המלאכותית עושה טעויות בחירה באספקטים קטנים וגם גדולים…עלינו להיות זהירים מאוד בהסתמכות על הדיוק של המערכות הללו, בין אם זה במגזר הצבאי או האזרחי", אמר מתכנת ומשקיע הטכנולוגיה ג'אן טאלין, ראש מחלקת התוכנה של מיקרוסופט, שטען נחרצות במהלך כל השנה האחרונה שהסיכון להכחדה בידי ה-AI הוא לא רק אפשרי, אלא אף קרוב.

לפי Cybernews, מערכות נשק אוטונומיות הן מערכות שבוחרות יעד ויורות עליו על בסיס קלט חיישנים ולא קלט אנושי. בוני דוקרטי, מרצה למשפטים במרפאת זכויות האדם הבינלאומית של בית הספר למשפטים של הרווארד (IHRC) אמרה בריאיון כי מערכות 'רובוטי הרג' כאלה "נמצאות בפיתוח כבר זמן מה, אבל הופכות במהירות למציאות.. האצלת יכולת ההחלטה של חיים ומוות לידי המכונות חוצה קו אדום עבור אנשים רבים. זה יגרום לדה-הומניזציה של האלימות וירסק את בני האדם לערכים מספריים בלבד".