This post is also available in: enEnglish (אנגלית)

צבאות בכל רחבי העולם מוכרחים בדחיפות לפעול למען מניעת "אינטראקציות בלתי צפויות" בין מערכות בינה מלאכותית יחידניות, כך מזהיר ארגון למען זכויות אלקטרוניות.

לאחרונה, פורסם ספר לבן חדש, המיועד בעיקר לקהילת ההגנה. הספר, בשם "הדרך הזהירה ליתרון אסטרטגי", מדגיש סכנות צפויות כגון הסכנה שבשגיאות שעלולות להיות בלמידת מכונה, הפגיעות של מערכות בינה מלאכותית לפריצות והחוסר ביכולות חיזוי של מערכות למידה.

“אנו נמצאים בצומת משמעותית", אומר מחבר הספר, פיטר אקרסלי. "התפתחויות טכנולוגיות הבינה המלאכותית הובאו תחת אור הזרקורים ואכן הן עברו התקדמות מרגשת מבחינות מסוימות, אך טכנולוגיות אלו עוד שבריריות, רגישות לשינויים וכשלונות וכמו כן פגיעות לתקיפות ומניפולציות מצד גופים יריבים".

"למחלקת ההגנה של ארה"ב ועמיתיה יש כעת הזדמנות להדגים מנהיגות ולהסיט את כל טכנולוגיות הבינה המלאכותית לכיוון שישפר את הסיכוי לשמר בטיחות, שלווה ויציבות לטווח הרחוק – מנגד הם יכולים באותה מידה להסיט לכיוון ההפוך והפחות חיובי."

על פי itpro.co.uk, הדאגה העיקרית שהודגשה במחקר הינה הנטייה של מערכות עצביות, שביסודן מערכות למידת מכונה, להיות חשופות לתקיפות חדשניות בעתיד כגון "הרעלת מידע" בעוד שישנו צורך לחקור באופן מעמיק את הנושא על מנת להבין כיצד ניתן לזהות ולהתגונן מכזו פעילות.

בנוסף לכך, הספר מדגיש כי אפליקציות בינה מלאכותית עלולות להיות מופעלות על פלטפורמות לא מאובטחות. הדבר מגביר את הסיכוי של מערכות בינה מלאכותית, כגון נשקים אוטונומיים, להיות מנוצלות לרעה על ידי גורמים זדוניים. יתר על כן, החשש העיקרי של מחבר הספר הינו הפוטנציאל לכשלונות ותקלות במערכות שכבר נמצאות בשימוש – נשקים אוטונומיים או מרכזי שליטה חכמים, לדוגמא -אלו עלולות לעורר עימותים חדשים ואף להחמיר עימותים קיימים, בעקבות תקלות.

אקרסלי מזהיר שכשלונות רצופים בטכנולוגיות בינה מלאכותית אשר מערכות משתמשות בה לצרכים כמו בקרת אש, בחירת יעד או תגובה לאיום מתקרב, עלולים להוביל בטעות למעורבות בלתי רצויה בין מערכות אוטונומיות.

בין המלצות הספר היו בראש ובראשונה אבטחת סייבר הגנתית ומימון מוגבר כדי להאיץ את מחקר הבינה המלאכותית. זאת, כדי שכל סיכון שעלול לעלות מפריסה של טכנולוגיות אלה יוכל להיות מטופל ובכך להימנע.

“בינה מלאכותית הייתה בראש הכותרות בשנים האחרונות", ממשיך אקרסלי. "למרות שהתחום הזה מתקדם למדי, לשיטות לימוד המכונה כיום, חסר חוסן ויכולות חיזוי וכן, הן מושא לתקיפות מורכבות, בעיתיות בשליטה ואף יש להן נטיה לגרום להשלכות בלתי מכוונות. העת הנוכחית תהיה מכריעה: בשנים הקרובות או שקהילת ההגנה תפענח כיצד לתרום לבעיה המורכבת של בנית מערכות בינה מלאכותית בטוחות וקלות לשליטה, או שהן יתרמו להמשך ההידרדרות בכך שיתרמו לתעשית המערכות הכה פגיעות וניתנות לניצול לרעה, דבר שכנראה נתחרט עליו בשנים שיבואו."