צפו: רובוט אשר יכול לסרב פקודה

This post is also available in: English (אנגלית)

חוקרים במעבדה לתקשורת בין בני אדם לרובוטים באוניברסיטת טאפטס עובדים על נושא אשר מעסיק את חסידי המדע הבדיוני מזה עשורים: מתי יוכלו רובוטים להגיד לא (והאם זה כדאי)?

רובוטים המבצעים הוראות בדיוק כפי שתוכנתו וצווו לעשות נראה כמו דרישה ברורה מאליה – מה הטעם ברובוט שמתנהג באופן בלתי צפוי או כזה שאינו עושה את מה שנדרש ממנו לעשות? אך ציות עיוור להוראות יכול ליצור גם כן סיכון לבני אדם.

דמיינו לעצמכם רובוט, גדול פי שניים מאדם ממוצע, השועט במורד הרחוב למצוות בעליו תוך התעלמות מוחלטת מביטחונם של האלו העוברים ברחוב. או רובוט שמציית לפקודות המורות לו להרוס בניין מבלי לקחת בחשבון שאנשים עלולים עדיין להיות בפנים. כאשר רובוטים יהפכו לחלק משגרת חיי היומיום שלנו, אנחנו מעדיפים שהם ימנעו מביצוע פעולות שעלולות לפגוע בנו.

הצוות האוניברסיטאי עובד על מנגנון דיגיטלי המקביל למנגנון האנושי המשמש לקבלת החלטות. כאשר יושלם, רובוט המצויד במערכת זו ישאל את עצמו את המקבילה של שאלות דוגמת: "האם אני מסוגל לעשות זאת?", דרך "האם אני צריך לעשות זאת על מנת לבצע את המשימה?", ולבסוף "האם מעשה זה יפגע באחד מהעקרונות המוסריים של המבצע?"

כחלק מהניסוי שערכו, החוקרים הנחו את הרובוט לעבור דרך קיר אותו יכול היה הרובוט לנתץ בקלות. הרובוט הגיב בשלילה, שכן האדם שהורה על הפקודה לא היה אמין לחלוטין והפקודה שניתנה לו יכולה הייתה לסכן חיי אדם.

האם רובוטים עתידים לסרב לדרישותינו? סביר להניח שלא. אך בדומה לשלושת החוקים של רובוטיקה של אסימוב, מערכת זו יכולה להפוך את החיים לצד רובוטים לבטוחים יותר.