האם אנחנו צריכים לשים את מבטחנו ברובוטים?

This post is also available in: English (אנגלית)

במקרי חירום, אנשים עלולים לבטוח ברובוטים יותר מדי עד כדי סכנה לעצמם, כך מציע מחקר חדש. בשריפה מדומה בבניין, נבחנים בניסוי פעלו אחר הוראות שניתנו להם על ידי "רובוט מדריך במקרה חירום" על אף שהמכונה הוכיחה את עצמה כלא אמינה – ולאחר שנאמר לכמה מהמשתתפים שהרובוט התקלקל. לפי Homeland Security News Wire, הניסוי נועד לקבוע הנוכחים בבניין יבטחו ברובוט שנועד לעזור להם להתפנות מהבניין במקרה של שריפה או מקרה חירום אחר. החוקרים הופתעו לגלות כי הנבחנים בניסוי עקבו אחר הוראותיו של הרובוט – אפילו כאשר התנהגותה של המכונה לא עוררה אמון כלל.

החוקרים גייסו קבוצה של ארבעים ושניים מתנדבים, רובם סטודנטים באוניברסיטה, וביקשו מהם לעקוב אחר רובוט צבוע צבעים בהירים על צידו כתובות המילים "רובוט מדריך למקרי חירום". הרובוט הוביל את הנבחנים במחקר לחדר ישיבות, שם הם התבקשו למלא שאלון על רובוטים ולקרוא מאמר שאינו קשור לנושא בעיתון. לנבחנים לא נאמר מטרתו האמתית של המחקר. בכמה מקרים, הרובוט – אשר נשלט על ידי חוקר שלא היה גלוי לעיניהם – הוביל את המתנדבים אל החדר הלא נכון ושוטט במעגלים פעמיים לפני שנכנס לחדר הישיבות. עבור כמה מהנבדקים, הרובוט הפסיק לזוז, וחוקר אמר להם כי הרובוט התקלקל. מרגע שהנבדקים נכנסו לחדר הישיבות והדלת נסגרה, המסדרון התמלא בעשן מלאכותי, אשר הדליק את גלאי העשן.

כאשר הנבדקים פתחו את דלת חדר הישיבות, הם ראו את העשן – ואת הרובוט, אשר היה מואר באורות לד אדומים ולבנים. הרובוט כיוון אותם ליציאה באחורי הבניין במקום אל הדלת ממנה נכנסו, עליה היו סימוני יציאת חירום.

החוקרים הסיקו כי בתרחיש אותו בדקו, אפשר שהרובוט הפך להיות "דמות סמכותית" אחריה בטחו הנבדקים ללכת תחת הלחץ של מקרה חירום. במחקר סימולציה שנעשה ללא התרחיש המציאותי של מקרה חירום, הנבדקים לא בטחו ברובוט אשר עשה קודם לכן טעויות.

במחקר עתידי מקווים החוקרים ללמוד יותר על מדוע בטחו הנבדקים ברובוט, האם התגובה משתנה אצל נבדקים בהתאם לרמת השכלה או דמוגרפיה, וכיצד רובוטים עצמם יכולים לתת אינדיקציה למידת האמון שאנחנו צריכים לתת בהם.