הטוב, הרע והאוטונומי בשדה הקרב

This post is also available in: English (אנגלית)

מכונות אוטונומיות מתפתחות בקצב מסחרר, ואפשר שבקרוב נגיע למצב בו הן לוחמות את הקרבות שלנו במקומנו. בעוד שהאפשרויות של הטכנולוגיה הזו הולכות וגדלות, בד בבד הן גם מעלות כמה שאלות אתיות בעייתיות שיש לתת עליהן את הדעת.

נציגים מיותר מ- 82 מדינות התאספו בז'נבה מוקדם יותר השנה על מנת לדון בנושא הזה, ולאחר דיונים רבים המליצו כי "הגוף מטעם האו"ם אשר דואג לנורמות בנושאי כלי נשק למלחמה צריך לשים את נושא הרובוטים לשדה הקרב בסדר היום שלו," כך מדווח אתר NPR.

ארגונים מסוימים, כמו המשמר לזכויות האדם והקליניקה לזכויות אדם בינלאומיות של בית הספר למשפטים באוניברסיטת הרווארד, קוראים באופן דחוף לשלילה מוחלטת של שימוש ברובוטים קרביים לפני שהטכנולוגיה הזו תחצה "סף מוסרי," במילותיה של בוני דוקרטי מבית הספר למשפטים בהרווארד. דוקרטי מזהירה ממירוץ חימוש רובוטי אשר עלול לערפל את כל נושא האחריות.

אך לא כולם בטוחים כל כך כי רובוטים קרביים אוטונומיים הם דבר נורא כל כך.

פול שאר, אשר עומד בראש התכנית לאוטונומיה מוסרית במרכז לאבטחה אמריקנית חדשה (Center for a New American Security) מעלה נקודות דמיון לטילים לטווח-ארוך נגד ספינות של לוקהיד מרטין. הטילים הללו, במקרה והם מאבדים מגע עם המפעילים האנושיים שלהם, יכולים עדיין לתור בים אחר המטרה אותה הם מיועדים לתקוף.

“זה נשמע פשוט להגיד דברים כמו: 'מכונות לא צריכות להחליט החלטות של חיים ומוות'. אבל מה זה אומר בכלל להחליט החלטה?" שואל שאר. "האם שואב הרומבה שלי מחליט החלטה כאשר הוא נתקל בספה ונע אחורנית? האם מוקש מחליט החלטה? האם טורפדו מחליט החלטה?"

אך אתיקה בנושא הרובוטיקה יכולה להיות מסובכת עוד יותר מכך, טוען רון ארקין, מומחה בתחום אתיקה רובוטית בג'ורג'יה-טק. הוא אומר כי הרווח הפוטנציאלי אשר יכול להיות מופק מהמכונות האלו יכול להיות רב יותר מההפסד.

“הן יכולות לקחת סיכון רב הרבה יותר מאשר שכל בן אדם שפוי יהיה מוכן לקחת," הוא אומר. "יכולים להיות להן באופן פוטנציאלי חיישנים טובים יותר לחצות מבעד למסך המלחמה. אפשר לתכנן אותן מבלי כל רגש – דוגמת כעס, פחד, תסכול, רגשות אשר גורמים לבני אדם, לרוע המזל, לעשות טעויות."

בעוד שהעתיד הזה הוא עדיין בגדר אפשרות רחוקה בלבד, רובוטים יוכלו יום אחד להפוך לסוג של נשק מונחה. רובוט יוכל לחסל צלפים בסביבה עוינת מבלי לסכן את חייהם של החיילים – דבר שיוכל להציל את חייהם של רבים. יותר מדי חיים של חפים מפשע נגדעים במלחמות, אומר ארקין. "אנחנו מוכרחים לעשות משהו בנידון… טכנולוגיה מציעה לנו דרך אחת לעשות זאת ואנחנו לא צריכים לתת למדע בדיוני לערפל את שיקול הדעת שלנו מלהמשיך לנוע קדימה."

ארקין טוען כי רובוטים קרביים יוכלו יום אחד להפוך למדויקים כל כך עד שיהיה זה לא-אתי לא להשתמש בהם.