This post is also available in:
English (אנגלית)
מערכות בינה מלאכותית הופכות ליקרות ערך וגם ליעד מועדף להתקפות. מחקר חדש מאוניברסיטת המדינה של צפון קרוליינה מציג מנגנון הגנה ראשון מסוגו שמסוגל להגן על מודלי בינה מלאכותית מפני התקפות קריפטו־אנליטיות – שיטה שבאמצעותה האקרים מצליחים לחשוף מתמטית את הפרמטרים הפנימיים שמגדירים כיצד פועל המודל.
בשונה מהאקרים המנצלים חולשות תוכנה ישירות, התקפות קריפטו־אנליטיות מתנהלות כמעין ריגול דיגיטלי דרך תצפית. התוקף מזין למודל נתוני קלט שונים, מנתח את התוצאות, ומצליח "להנדס לאחור" את המבנה הפנימי שלו, ובכך לשכפל את המערכת מבלי לגשת לקוד המקור או לשרתים שלה. עבור חברות, גופי ביטחון ומכוני מחקר המתבססים על אלגוריתמים ייחודיים, מדובר בסיכון ממשי.
על פי דיווח של TechXplore, הגישה החדשה מתמקדת בארכיטקטורה של רשתות עצביות – המבנים השכבתיים המאפשרים למערכות AI לעבד מידע. החוקרים גילו שהתקפות אלו מנצלות את ההבדלים בין נוירונים בתוך אותה שכבה: ככל שהנוירונים מגוונים יותר, קל יותר לזהות את היחסים המתמטיים שמגדירים את הרשת.
כדי לבלום את התהליך, פיתח הצוות שיטת אימון חדשה לרשתות עצביות, שבה הנוירונים באותה שכבה מתנהגים בצורה דומה יותר. כך נוצר “מחסום דמיון” שמונע מהתוקפים לבודד דפוסי נוירונים ייחודיים, מבלי לפגוע בתפקוד הרגיל של המודל. בניסויים, המודלים שעברו התאמה עם מנגנון ההגנה החדש איבדו פחות מאחוז אחד בדיוק הביצועים – אך הפכו לעמידים בפני ניסיונות חילוץ פרמטרים שבעבר הצליחו בתוך שעות ספורות. החוקרים גם הציגו מסגרת מדידה חדשה המאפשרת להעריך עד כמה מודל עמיד בפני התקפות מסוג זה – מבלי לבצע סימולציות ממושכות.
מבחינה ביטחונית, המשמעויות רחבות. בינה מלאכותית משולבת כיום במערכות קריטיות – מניתוח מודיעין ומערכות אוטונומיות ועד הגנת סייבר. הגנה על האלגוריתמים מפני שיבוט או הנדסה לאחור היא חיונית לשמירה על יתרון אסטרטגי ועל סודיות נתונים רגישים.
בעוד שמנגנון ההגנה החדש עדיין מצוי בשלב המחקר, הוא מדגיש הבנה הולכת ומתרחבת שלפיה לבינה המלאכותית נדרש מערך אבטחת מידע ייעודי משלה. ככל שמערכות AI משתלבות בתשתיות קריטיות, בתחומי הפיננסים, הביטחון והשירותים היומיומיים, הגנה על האלגוריתמים הליבתיים שלהן תהפוך לחשובה לא פחות מהגנה על המידע שהן מעבדות. העבודה הזו מסמנת את תחילתה של תקופה חדשה בהגנה הדיגיטלית – כזו שבה אבטחת ה"אינטליגנציה" שמאחורי המכונה חשובה בדיוק כמו אבטחת הרשתות שעליהן היא פועלת.
