מה הקשר בין אבטחת בינה מלאכותית לביטחון פנים?

This post is also available in: English (אנגלית)

חברות ברחבי העולם ממהרות להצטרף לשיגעון הבינה המלאכותית, ומומחים חוששים שהן מדלגות על פרטי אבטחה חיוניים. גורמת ביטחונית בכירה טוענת כי אבטחת סייבר חייבת להיות מובנית בדחיפות במערכות בינה מלאכותית, או שהתקפות זדוניות יביאו לתוצאות הרסניות.

לינדי קמרון מהמרכז הלאומי לאבטחת סייבר אמרה לחדשות BBC שזה הכרחי להתקין מערכות מאובטחות עכשיו, כל עוד הבינה המלאכותית נמצאת בשלבי הפיתוח המוקדמים שלה.

מערכות מבוססות בינה מלאכותית הולכות ומשתלבות ביותר ויותר היבטים של חיי היומיום שלנו, ובעתיד הלא רחוק היא עשויה למלא תפקידים בבתינו ובערינו, בביטחון הלאומי המתקדם ואפילו במלחמות. אבל כמובן, יחד עם היתרונות באים הסיכונים, ומומחים ברחבי העולם מביעים דאגה.

על פי חדשות ה-BBC, החשש הוא כי חברות המתחרות על מעמדן בשוק ההולך וגדל, יתמקדו בלהוציא את המערכות שלהן מהר ככל האפשר ולא יחשבו על הסיכונים האפשריים של שימוש לרעה.

"הגודל והמורכבות של המודלים האלה הם כאלה שאם לא ניישם את העקרונות הבסיסיים הנכונים כרגע בעודם בשלבי פיתוח מוקדמים, יהיה הרבה יותר קשה לתקן את האבטחה מאוחר יותר", אמרה קמרון.

גורמים זדוניים יכולים בקלות להשתמש במערכות AI בתור כלים, או אפילו להחריב אותן.

במשך שנים רבות, קבוצה קטנה של מומחים התמחתה בתחום שנקרא "למידת מכונה יריבה", הבוחן כיצד ניתן לרמות את הבינה המלאכותית ואת מערכות הלמידה של המכונה כדי שיניבו תוצאות שליליות.

לדוגמה, בואו ניקח מערכת בינה מלאכותית לזיהוי תמונות. על פי ה-BBC, חוקרים ערכו בדיקה בכך שהדביקו מדבקות על תמרור "עצור", מה שגרם לבינה המלאכותית לחשוב שזה היה שלט להגבלת מהירות – מה שיכול לגרום להשלכות חמורות על מכוניות אוטונומיות.

סכנה נוספת היא 'הרעלה' של הנתונים מהם הבינה המלאכותית לומדת – כלומר, יצירת הטיה מכוונת על ידי הזרקת נתונים רעים לתהליך הלמידה.

סכנות אלה אינן רק האקרים המבקשים לגרום לשיבוש, אלא עלולות להוות סיכון לביטחון לאומי רחב יותר.

לדוגמה, בינה מלאכותית המשמשת לניתוח תמונות לוויין עשויה להיות "מרומה" כך שתפספס את האובייקט האמיתי או לחלופין תראה מערך של אובייקטים מזויפים.

חששות אלה, שהיו תיאורטיים בעבר, מתגשמים כעת כהתקפות על מערכות בעולם האמיתי. נראה שזה קורה קודם היכן שיש שימוש בבינה מלאכותית כדי לזהות תקיפות סייבר. במקרה זה גורמים זדוניים מחפשים דרכים לחתור תחת המערכות כדי שהתוכנה הזדונית שלהם תוכל לנוע מבלי שיבחינו בה.

תופעה זו תגיע באופן בלתי נמנע לכל תחומי חיינו, החל מקניות בסופר ועד לביטחון המולדת. נראה כי מומחים בתחום צריכים להמשיך לדחוף להשרשת תקנות ובניית אמצעי אבטחה לפני שיהיה מאוחר מדי.