ההבטחות והאיומים של הבינה המלאכותית

This post is also available in: English (אנגלית)

התפתחות בתחום טכנולוגיות בינה מלאכותית (AI) היא גם מבטיחה וגם מדאיגה. השימוש בטכנולוגיות בינה מלאכותית כולל מערכות לוחמה אוטונומיות (AWS), מערכות זיהוי פנים ואלגוריתמים המשפיעים על תהליכי קבלת החלטות. היתרונות ברורים, אבל חשובה גם הבנת הסיכונים.
כל אלגוריתם חדש שיכול להיות מיושם על הבנת מבנה והתנהגות הכלכלה למשל יוכל באותה מידה גם להוביל לייצור חסר תקדים של נשק להשמדה המונית בקנה מידה שקשה להכיל. כתוצאה מכך, החששות סביב אוטומציה המבוססת בינה מלאכותית גדלים, לפי forbes.com.
עם ההתקדמות בלמידת מכונה, כוח מחשוב, השקעה חסרת גבול ונגישות מידע, יש לבינה המלאכותית פוטנציאל ליישום אוניברסלי, עובדה המעצימה את סיכוני האבטחה המעורבים. בנוסף, מכיוון שהשילוב של טכנולוגיות בינה מלאכותית בטכנולוגיה הקיימת לא ניתן לזיהוי על ידי העין האנושית, היכולת לחשוב כל דבר והכל משתנה באופן יסודי את הרקע הבטיחותי עליו אנו נשענים.
האבולוציה של טכנולוגיות מחשב עושה דמוקרטיזציה להתפתחות של הטכנולוגיה, הידע, מידע ומודיעין. הצמיחה המהירה של מערכות לניתוח ועיבוד מידע שמים זה לצד זה נשקים אוטונומיים המשתמשים בטכנולוגיות סייבר, אלקטרוניקה וקוונטום עם נשקים ביולוגים וכימיים המסוגלים להפיץ הרס קטסטרופי לאנושות.
הסיבה לכך היא שמחשבים מחוברים, רשתות ומרחב סייבר הפכו להיות חלק בלתי נפרד מכל התהליכים הדיגיטליים. מאז שקוד ממוחשב ורשתות מחשבים חיברו את מרחב הסייבר אל המרחב הגיאוגרפי כל המידע הקיים מתרכז במרחב הסייבר.
מאחר ולבינה מלאכותית יש את הפוטנציאל להשתלב בכל סוג מוצר ושירות לרוחב מרחב הסייבר, הגיאוגרפי והחלל ובכך להפוך אותם לחכמים, היכולת הקוגניטיבית המתקדמת הזו משנה באופן מהותי את סוגיות הביטחון של האנושות כעת.
כאשר לכולם יש גישה למידע דיגיטלי, לטכניקות הכרחיות של למידת מכונה ולכח מחשוב בשביל לייצר בינה מלאכותית למטרותיהם שלהם, קשה לטפל בבעיות האבטחה העולות מתוך כך. לא רק המספר של אמצעי הלחימה הפוטנציאלים להשמדה המונית עולה, אלא גם פלטפורמות התקיפה האפשריות והאויבים. האיומים הביטחוניים העולים מן האיום של הכלול בפיתוחים בתחום הבינה המלאכותית מבשרים רעות.
בעוד שמידע דיגיטלי במרחב הסייבר הופך להיות נחלת הכלל, הדמוקרטיזציה של Big Data מביאה איתה סדר עולמי חדש. הסדר החדש הזה מביא אותנו אל מציאות חדשה – מציאות בה כל אחד מכל מקום יכול לגשת אל מידע דיגיטלי ולהשתמש בו כפי שירצה. היום, כל פרט או ישות שיש לה את הרצון ויודעת כיצד לגשת ל-Big Data ויש לה יכולות מדעיות לניתוח מידע יכולה להתשמש בו לכל מטרות מודיעין, אוטומציה, מעקב וסיור שתרצה, ללא התחשבות בהשכלה, רקע, מצב או כוונות חברתיות.
בעוד הדמוקרטיזציה של Big Data מביאה איתה נגישות למידע ומחזקת פרטים וישויות, היא גם מעמידה אותנו אל מול אתגרים ביטחוניים קריטיים. כל אחד בלי אימון רשמי יכול בטעות או גם בכוונה לגרום לכאוס, קטסטרופה וסכנה קיומית לכל היבטי החיים.
הרעיון המסורתי לפיו ביטחון עומד אל מול אלימות המגיעה מסוכנים פרטיים כמו מדינות במרחב הגיאוגרפי הופך לאור הקידמה הטכנולוגית למיושן, ויש להעריך אותו מחדש.
הופעת העולם החדש עליו הבינה המלאכותית מכריזה היא פחות או יותר כמו טריטוריה זרה בה מעט מאוד ידוע והעיקר לא ידוע. הדבר הוביל להפצת פחדים, חוסר וודאות, תחרות, ומירוץ חימוש שמוביל אותנו אל שדה קרב ללא גבולות, שאולי או אולי לא יערב בני אדם, ויהיה בלתי ניתן להבנה ואולי גם לשליטה.
האתגרים והמורכבויות של איומים הקשורים בבינה מלאכותית כבר חצו את גבולות המרחב, האידאולוגיה, והפוליטיקה, ודורשים מאמץ משותף ומבנה מכל בעלי העניין ברחבי העולם.