איך לחזק אמון בצוותים מאוישים-בלתי מאוישים?
This post is also available in: 
English (אנגלית)
הפנטגון מעוניין לשלב יותר ויותר מערכות אוטונומיות בתרגילים ובמבצעים. מפקדי הצבא האמריקאי מקדמים תפיסות מבצעיות חדשות המבוססות על עבודת צוות בין אדם למכונה כבר שנים, כשהמטרה היא להעצים את יכולות החיילים לסחוב משאות, לחוש את הסביבה ולהגיב לאיומים בעזרות רובוטים קרקעיים, רחפנים טקטיים ואף רובוטים חמושים.
אבל נראה שהחיילים בחזית מקבלים טוב יותר את הציוות עם המערכות הבלתי מאוישות בהשוואה למפקדיהם. זו מסקנתו של מחקר חדש של כתב העת של חיל האוויר האמריקאי בנושא אזור הודו והאוקינוס השקט, המבוסס על סקר בקרב 800 צוערים וחיילים באקדמיה הצבאית האוסטרלית.
הסקר הראה כי "רוב משמעותי לא יהיה מעוניין לפעול לצד מערכות נשק קטלניות אוטונומיות במלואן (LAWS), וכי "הבטיחות, הדיוק והאמינות של המערכת האוטונומית כפי שהן נתפסות, והפוטנציאל לצמצם פגיעה באזרחים, כוחות ידידותיים וחיילים בצבא אוסטרליה הם היתרונות המשכנעים ביותר", בהשוואה לגורמים אחרים כמו חיסכון בעלויות וכו',
איך ניתן לשכנע את הכוחות שנדרשים להילחם לצד רובוטים לתת בהם אמון? מחקר שהתפרסם לאחרונה על ידי בית הספר לבוגרים של חיל הים מציע הסתכלות חדשה על הבעיה, מנקודת מבטו של המפעיל.
רס"ן דניאל יורקוביץ מחיל הנחתים טוען במחקר כי "חוסר היכולת להבין בינה מלאכותית ולהתאמן באופן יומיומי יגרמו ליצירת אווירה של חוסר אמון במערכות יקרות ערך, שהיו יכולות לשפר את הקטלניות של נחתי החי"ר".
על פי גישה זו, שנקראת למידת מכונה אינטראקטיבית, המפתח לבניית האמון הוא בכך שיאפשרו למפעילים לסייע באימון המכונות המבוססות-AI שאמורות לפעול לצידם, ולא רק ימסרו את הרובוט לידי החייל, הנחת או הטייס וישגרו את השניים למלחמה יחד.
"כאשר משתמש הקצה מלמד ומפתח את סוכני ה-AI בסביבת סימולציה, יש פוטנציאל לאמון רב יותר ברובוט כעמית לצוות" בצוות המשלב אדם ומכונה, מציין יורקוביץ.
לפי defensesone.com, למידת מכונה אינטראקטיבית משתפת לא רק את מתכנן האלגוריתם אלה גם את המשתמש בתהליך תכנון העדכונים. כך המשתמשים יכולים "לבחון באופן אינטראקטיבי את ההשלכות של פעולותיהם ולהתאים תשומות לצורך השגת ההתנהגות הרצויה.. גם כשמדובר במשתמשים בעלי הבנה מועטה או ללא כל הבנה בלמידת מכונה, גם הם יכולים לכוון התנהגויות של למידת מכונה באמצעות תהליך חסכוני של ניסוי וטעיה או ניסוי ממוקד עם תפוקות ותשומות".
