This post is also available in: enEnglish (אנגלית)

על רקע ההתפתחות המואצת של טכנולוגיות בינה מלאכותית, קהיליית המודיעין האמריקאית פרסמה לאחרונה עקרונות ומסגרת אתית לבינה מלאכותית, במטרה להבטיח שארגוני המודיעין מפתחים מערכות בינה מלאכותית בצורה בטוחה וחוקית. הטיה באלגוריתמים, הגדרת תפקיד הגורם האנושי בתהליכי בינה מלאכותית ועוד הם רק כמה מהאתגרים.

מה שחשוב הוא שאנליסטים בקהיליית המודיעין יבינו את המקורות של הנתונים, ההטיות המובנות בתוך נתונים אלה, כדי לדעת להסיק מסקנות על בסיס ההבנה הזאת.

רשימת העקרונות והמסגרת, להם ציפו כבר זמן רב, אמורים לבטא את הערכים הרחבים וההנחיות של קהיליית המודיעין לגבי שימוש אתי בבינה מלאכותית. הם כוללים שישה עקרונות:

  • כבד את החוק ופעל ביושר.
  • פעל בשקיפות ודווח.
  • היה אובייקטיבי והוגן.
  • התמקד בפיתוח ושימוש ממוקד-אדם.
  • יש להבטיח שכלי הבינה המלאכותית מאובטח ועמיד.
  • החלטות מודעות על בסיס מדע וטכנולוגיה.

לדברי בן הובנר, ראש הלשכה לזכויות אזרח, פרטיות ושקיפות במשרד מנהל המודיעין הלאומי ODNI, עקרונות המסגרת "הם כלי שמספק לקהיליית המודיעין גישה עקבית" לבינה מלאכותית.

קהיליה זו היא למעשה קונגלומרט מסיבי של סוכנויות, לכל אחת משימות משלה, דבר שמקשה על אימות היישום של כללי אתיקה אלה.

כדי להקל על האתגרים, על משתמשי בינה מלאכותית במודיעין לתעד בצורה נאותה מידע על טכנולוגיית בינה מלאכותית שנמצאת בפיתוח.

דברים אלה יכללו הסברים על השימוש המיועד בבינה מלאכותית, המגבלות, מערכי נתונים קשורים ושיוניים באלגוריתם לאורך זמן.

הקווים המנחים לגבי התיעוד יהיו נגישים ליועצים משפטיים, בוחנים ואנשים הממונים על שמירת זכויות אזרח ופרטיות. 

אחת הבעיות המרכזיות עם בינה מלאכותית, ללא קשר לזהות המפתחים, היא הטיה באלגוריתמים. עקרונות המסגרת מורים לעוסקים בתחום לנקוט צעדים לגילוי הטיות בלתי רצויות שעלולות להיכנס לאלגוריתמים לאורך מחזור החיים של תוכנית בינה מלאכותית.

כשקהיליית המודיעין ממונה על אספקת מודיעין אובייקטיבי למקבלי ההחלטות לצורך קבלת החלטות מודעות, הסוכנויות שלה צריכות להבטיח שכל מערכות הבינה מלאכותית שבשימוש המודיעין הן אכן מדויקות. לשם כך, גורמים אנושיים צריכים לדעת להבין איך האלגוריתמים השפיעו על המסקנות.

גורמים אנושיים ישארו חלק חיוני מתהליך איסוף המודיעין, כך לפי מסמך העקרונות, על בסיס "סיכון מוערך". בנוסף, בני אדם ימשיכו להוות את אבן היסוד של דוחות המודיעין מפני שבינה מלאכותית אמנם מסוגלת לספור מטוסי אויב על מסלול אבל לא תוכל להשיב למה המספר גבוה או נמוך יותר מאשר יום קודם לכן, כך לפי c4isrnet.com.