עבודת צוות אדם-מכונה: גישה חדשה

This post is also available in: English (אנגלית)

בשנים האחרונות, פיתח הצבא האמריקאי תוכניות רבות ודגמי אבטיפוס שמצוותים גורמים אנושיים עם מכונות חכמות, החל מרובוטים שמסייעים ליחידות חי"ר לשאת תחמושת וציוד ועד רחפנים אוטונומיים מבוססי-AI (בינה מלאכותית) שפועלים בשיתוף עם מטוסי קרב ומספקים תמיכה במשימות איסוף מודיעין ותקיפות אוויר. ככל שתחום ה-AI הופך להיות חכם ואמין יותר, נראה שאין גבול לפוטנציאל לעבודה משותפת של אדם ומכונה עם מערכות בלתי מאוישות, רובוטים, מסייעים וירטואליים, אלגוריתמים וסוכנים חכמים לא-אנושיים אחרים.

ציוות אדם-מכונה (human-machine teaming) מהווה גורם חשוב בלוחמה העתידית, והוא חלק מהאסטרטגיה של מחלקת ההגנה האמריקאית לגבי AI. שיתוף הפעולה המוצלח והאפקטיבי בין בני אד למכונות חכמות תלוי במידה רבה על אמון. האמון קריטי לציוות אדם-מכונה בגלל השפעתו על הרצון של אנשים להשתמש במכונות חכמות ולקבל את המלצותיהן.

במקום לחקור את נושא האמון באופן ישיר, חוקרים ומפתחים בתחומי הביטחון העדיפו להציע פתרונות ממוקדי-טכנולוגיה, "שבונים אמון לתוך המערכת", על ידי כך שהפכו את מרכיב ה-AI לשקוף, ניתן להסבר ואמין. אבל פתרונות ממוקדי-טכנולוגיה אינם מכסים את הגורם האנושי במשוואה.

brookings.edu מציע שהבנה כוללת של נושא האמון, שמתייחסת לאדם, למכונה, ולאינטראקציה ולתלות-ההדדית ביניהם, יכולה לסייע לצבא ארה"ב להתקדם בחזון שלה להשתמש במכונות חכמות כשותפות למפעילים אנושיים. 

הדרך להבטיח כי מערכות אוטונומיות מבוססות-AI יפעלו בדרכים בטוחות, מאובטחות, אפקטיביות ואתיות תלויה במידה רבה בכך שלחיילים יהיה אמון מספיק במכונות הפועלות איתם בצוות.

בהקשר של ציוות אדם-מכונה, אמון פירושו שאדם שם את מבטחו באמינות המסקנות של הטכנולוגיה ויכולתה להשלים מטרות מוגדרות. כשאין מספיק אמון בטכנולוגיה בעלת יכולות גבוהות, יכול להיגרם שימוש בחסר ואפילו המנעות משימוש במערכות מבוססות AI. לעומת זאת, כשיש יותר מידי אמון במערכות שהן מוגבלות או כאלה שלא נבדקו, עלולה להיות הסתמכות-יתר על AI.

פיתוח מערכת AI שניתן לסמוך עליה, עם שקיפות, יכולת פרשנות, אמינות ומאפיינים ויכולות שמגבירים אמון היא הכרחית ביצירת צוותים אפקטיביים של אדם-מכונה. יחד עם זאת, נדרשת הבנה טובה של הגורם האנושי במערכת היחסים בצוות.

מה נדרש כדי שאנשים ישימו את מבטחם בטכנולוגיה? האם אנשים או קבוצות מסוימים נוטים יותר לסמוך על מערכות מתקדמות בהשוואה לאחרים? איך הסביבה משפיעה על האמון? מדעי הקוגניציה, נוירולוגיה, פסיכולוגיה, תקשורת, מדעי החברה ותחומים קשורים שבוחנים את עמדות האדם ההתנסויות שלו עם טכנולוגיה מספקים תובנות עשירות במענה לשאלות האלה.

לדוגמא, מחקר מראה כי גורמים דמוגרפיים כמו גיל, מין ורקע תרבותי משפיעים על האופן שבו אנשים מתייחסים לטכנולוגיה, בכלל זה רמת האמון.

גם תנאים רוויי מתח ולחצים מנטליים וקוגניטיביים לבצע משימות מורכבות משפיעים על האמון, ומחקר הראה כי אנשים נוטים בדרך כלל לסמוך יותר מדי על ההמלצות של המכונה במצבים רוויי מתח.

גם מבנים חברתייים רחבים יותר ממלאים תפקיד, כשתרבות ארגונית מתנה את האופן בו אנשים מתייחסים לטכנולוגיה. כך לדוגמא, ענפים שונים בתוך הצבא ואפילו יחידות מסוימות יכולים להיות בעלי תרבות ארגונית יחודית, בכלל זה עמדות כלפי טכנולוגיה שמחוזקות באימונים ובתרגילים.

לכן ההתמקדות בגורם האנושי הכרחית כהשלמה לפתרונות ממוקדי-הטכנולוגיה. תובנות ממחקרים על גורמים קוגניטיביים, דמוגרפיים, רגשיים והיבטים מצביים שמעצבים את הדרך בה אנשים פועלים עם טכנולוגיה, לצד מבנים חברתיים ומוסדיים רחבים יותר, יכולים לסייע בהעצמה וחידוד של גישות הנדסיות לבניית מערכות AI מעוררות אמון.