עד כמה אנחנו יכולים לסמוך על רובוטים?
This post is also available in: 
English (אנגלית)
בעתיד רובוטים יהיו חלק מהעולם שלנו, ונשאלת השאלה האם יהיו גם רובוטים רעים. אולי רוע היא מילה חזקה מדי, אבל האם רובוט יוכל לחרוג מהתיכנות שלו ולפגוע בבני אדם?
לפי מאמרו של אדם פרנק בבלוג Cosmos & Culture לא מדובר בשאלה שלקוחה מעולם המדע הבדיוני, אלא בנושא רציני שנמצא כעת תחת מחקר.
קצת מוקדם מדי לחשוש מהשתלטות המכונות על העולם, מה שידרוש פיתוח תבונה מלאכותית של ממש, אבל אפשר בהחלט לשאול עד כמה בטוחה נוכחותם של רובוטים בין בני אדם – נוכחות שכבר קיימת בקנה מידה מוגבל בתחומים כמו תעשייה ובריאות. צוות מדענים בריטים חנך את פרוייקט "העוזר הרובוט האמין" (Trustworthy Robot Assistant) כדי לנסות ולענות על שאלה זו, ולנסות להבין האם רובוטים יכולים ביודעין או שלא ביודעין לפגוע בבני אדם.
ללא תבונה מלאכותית מדובר למעשה ברובוטים שמשועבדים לתכנות שלהם, אבל אם לוקחים בחשבון את רמת המורכבות של התוכנות, ואת הסביבה העשירה בפרטים ומלאת האקראיות שבה הם פועלים, עד כמה בעצם אנחנו יכולים לתת בהם אמון?
כפי שנאמר באתר הפרוייקט, robosafe.org, פיתוח הרובוטים מתעכב בגלל חוסר בתקנות בטיחות מקיפות. מסיבה זו עוזרים רובוטיים נמצאים כרגע רק במעבדות מחקר או במצבים אחרים שבהם אין כמעט מגע עם בני אדם – בתחומי התצפית, ההסעים והבידור. המטרה הסופית של הפרוייקט היא להוציא את הרובוטים החוצה אל העולם הגדול, ולשם כך החוקרים צריכים להבין מהם הגבולות של ההתנהגות הרובוטית.
לדברי פרופסור מייקל פישר מאוניברסיטת ליברפול יש הרבה פנים לאופן שבו נמדדת מידת האמון ברובוטים – ניתוחי בטיחות של התנהגותם, עד כמה מסוכנת השהייה בחברתם מבחינה פיזית, וגם הדרך שבה בני אדם מסתכלים על המצב. לתוצאות הפרויקט עשויות להיות השלכות משמעותיות על הצורה שבה חיינו יראו בעתיד.
קשה לסיים מאמר שעוסק בהתנהגות רובוטים בלי להזכיר את חוקי הרובוטיקה של אייזיק אסימוב, אותם העלה הסופר והמדען על הכתב לפני 70 שנה.
-
החוק הראשון – רובוט לא יפגע בבן אדם, ולא יתן לבן אדם להפגע בלי לנסות ולמנוע זאת
-
החוק השני – רובוט יציית להוראות בני האדם אלא אם תהיה התנגשות עם החוק הראשון.
-
החוק השלישי – רובוט יגן על קיומו שלו אלא אם תהיה התנגשות עם החוקים השני והראשון.
