הפנטגון מודאגים מהרעלת נשקי AI

This post is also available in: English (אנגלית)

יותר ויותר צבאות ברחבי העולם מתחילים להשתמש במודלי AI, מה שמעלה את הסיכון שיריבים יוכלו להרעיל ולחבל באלגוריתמים ולהביא תוצאות קטסטרופליות.

כל אלגוריתם של למידת מכונה מאומן באמצעות כמויות אדירות של נתונים, וצבאות המשתמשים באלגוריתמים האלה צריכים לא רק לאסוף, לארגן, לאצור ולנקות נתונים כדי לאמן אותם, אלא גם להבטיח שאין מידע "מושחת" או מסוכן שיכול ללמד את ה-AI משהו לא נכון.

קחו לדוגמה את צ'אט GPT, שכאשר אימנו אותו על כל המידע שהיה באינטרנט הוא ספג גם מידע שגוי וגזעני. ההבדל כשמדובר בטכנולוגיה צבאית הוא שעלולים להרעיל בכוונה את המודולים האלה עם מידע כוזב ומזיק.

בשל כך, גורמים בפנטגון טוענים כי הצבא צריך להכשיר את מודלי ה-AI שלו על בסיס נתונים צבאיים אמינים ומאומתים בתוך סביבה מאובטחת ומוגנת בחומות אש. סגנית המזכיר ג'ניפר סוונסון אמרה כי הדאגה העיקרית של הפנטגון היא האלגוריתמים שעומדים ליידע את ההחלטות בשדה הקרב: "ההשלכות של נתונים רעים או אלגוריתמים רעים או נתונים מורעלים או סוסים טרויאנים או כל הדברים האלה גדולות בהרבה במקרים אלה. בשבילנו זה באמת הנושא עליו אנחנו ממקדים את רוב הזמן שלנו".

הפנטגון, שמתכוון להשתמש בבינה מלאכותית כדי לתאם פעולות לחימה עתידיות ביבשה, באוויר, בים, בחלל ובמרחב הסייבר, מתמקד בעיקר בלמצוא את נתוני האימון הצבאיים שהוא צריך. הם מנסים ליישם על למידת מכונה את לולאת המשוב בין פיתוח, אבטחת סייבר, ופעולות נוכחיות בה משתמשים מפתחי תוכנה סנטרדרטית.

למרות כל זאת, סוונסון עדיין מודאגת מכמה שהתעשייה עדיין לא יודעת בכל הנוגע לבינה מלאכותית, ואחת הדאגות הגדולות שלה היא כמה קשה לבחון ולבדוק אותה.

בעוד שקודים מסורתיים משתמשים באלגוריתמים נוקשים של IF-THEN-ELSE שתמיד נותנים את אותה תפוקה עבור קלט נתון, למידת מכונה מודרנית מסתמכת על רשתות עצביות המבוססות באופן כללי על המוח האנושי ועובדות על חיבורים סטטיסטיים מורכבים והסתברויות (זו הסיבה שצ'אט GPT פעמים רבות נותן תשובות שונות לאותה השאלה).

יתר על כן, אלגוריתמים של למידת מכונה ממשיכים ללמוד כאשר הם נחשפים לנתונים חדשים, מה שהופך אותם לסתגלניים הרבה יותר מקוד מסורתי הדורש מבני אדם לבצע שינויים באופן ידני, אבל גם אומר שהם יכולים פתאום "לשנות את מסלולם" ממה שיועדו לעשות ע"י היוצרים שלהם.

"מכיוון שהוא ממשיך ללמוד, איך ניתן לוודא שהוא לא ישתולל לגמרי בשדה הקרב? איך ניתן לדעת שהנתונים שלו לא הורעלו?" שאלה סוואנסון, וסיכמה: "יש הרבה עבודה כרגע. התקווה שלי היא שהרבה מהעבודה הזו תפיק תשובות בשנה-שנתיים הקרובות ותאפשר לנו לבנות את הבסיס כראוי מההתחלה".

מידע זה נמסר על ידי Breaking Defense.