משרד ההגנה האמריקאי מגדיר כללי אתיקה לטכנולוגיות AI מסחריות
This post is also available in: 
English (אנגלית)
למשתמשים בטכנולוגיות המבוססות על בינה מלאכותית (AI) חשוב לדעת שהם יכולים לתת אמון בכך שהכלים שבידיהם מגינים על אינטרסים אמריקאים, בלי להתפשר על הערכים הקולקטיביים של ארה"ב. יחידת החדשנות במשרד ההגנה האמריקאי, DIU, פרסמה לאחרונה הנחיות חדשות לגבי תוכניותיה להשתמש בקווים המנחים שפרסם הפנטגון לאחרונה בנושא במסגרת תהליכי יצירת דגמי אבטיפוס מסחריים ומהלכי רכש שהיא מבצעת.
הקוונים המנחים יסייעו ליחידה להפוך את חמשת עקרונות האתיקה לגבי שימוש ב-AI למבצעיים. מועצת החדשנות בביטחון, גוף שמייעץ לפנטגון, המליצה עליהם בשנת 2020.
לפי הודעת ה-DIU שמביא c4isrnet.com, לקווים המנחים כבר היו מספר השלכות:
- תוכניות מואצות על ידי הבהרת יעדים ותפקידים, תיאום ציפיות והכרה בסיכונים ובמחירים מלכתחילה.
- אמון מוגבר בכך שמערכות AI מפותחות, נבחנות ונבדקות לפי הסטנדרטים הגבוהים ביותר של אמינות, הוגנות ושקיפות.
- תמיכה בשינויים בדרך בה מעריכים, בוחרים, יוצרים דגמי אבטיפוס ומאמצים טכנולוגיות AI מוערכות, וסיוע בהמנעות מתוצאות פוטנציאליות גרועות.
יחידת החדשנות DIU שהוקמה בשנת 2015 נועדה לסייע לארגוני מחלקת ההגנה להשתמש בחדשנות מסחרית. בתוקף כך, היחידה פועלת מאז מרץ 2020 לשילוב העקרונות האתיים של הפנטגון בנושא AI במסגרת מהלכיה בתחום, והתייעצה בנושא עם מומחים בתעשיה, בממשל ובאקדמיה, ביניהם חוקרים מהמכון להנדסת תוכנה באוניברסיטת קרנגי מלון.
