This post is also available in:
English (אנגלית)
פעילות סייבר הופכת מורכבת יותר, והמעורבות הגוברת של בינה מלאכותית מאיצה את השינוי הזה. צוותי אבטחה כבר נאבקים להתמודד עם הקצב וההיקף של התקיפות המודרניות; האפשרות שמערכות AI מתקדמות יבצעו משימות שבעבר נדרשו להן קבוצות חדירה מומחיות — מעלה את רמת האיום עוד יותר. ככל שמודלי AI משתפרים בזיהוי חולשות, כתיבת קוד ניצול וניווט ברשתות מורכבות, השאלה אינה עוד האם יוכלו לתמוך בפעילות סייבר התקפית — אלא כיצד למנוע את ניצולם לרעה.
זינוקי ביצועים אחרונים ממחישים את קצב ההתפתחות. לפי OpenAI, המודלים הייעודיים לסייבר עברו מפתרון 27% מאתגרי Capture the Flag בתחילת השנה — ל־76% בגרסה חדשה כמה חודשים לאחר מכן. אם מגמה זו תימשך, מערכות קרובות עשויות להגיע לדרגת "יכולת גבוהה" כפי שמוגדר במסגרת המוכנות של החברה — מודלים היכולים, בנסיבות מסוימות, לייצר ניצולי zero-day תקפים או להנחות חדירות מתקדמות בזמן אמת.
כדי להתמודד עם האתגר, החברה מאמצת אסטרטגיית "הגנה תחילה", המבוססת על שכבות של הגנות מובנות. המיקוד הוא בהבטחת התאמה בין עלייה ביכולות לבין בקרה הדוקה על האופן שבו ניתן לגשת ליכולות הללו, לפרש אותן ולהפעילן. גישה זו משמעותית במיוחד עבור ארגוני ביטחון וביטחון פנים, המתמודדים מול יריבים המעצימים את כוחם בעזרת אוטומציה, ערכות תקיפה ושירותי סייבר בחסות צד שלישי. מערכות AI המסייעות באופן אמין בניתוח קוד, הערכת תשתיות וזיהוי נקודות תורפה עשויות להטות את הכף לכיוון המגן.
על פי דיווח של Interesting Engineering, ברמת המערכת, החברה הציגה בקרות גישה מחמירות יותר, תשתיות מוקשחות, סינון פלטים, ניטור מתמשך ומודיעין איומים פנימי. גישות אימון חדשות נועדו ללמד מודלים לזהות ולסרב לבקשות מזיקות, תוך יכולת להמשיך לתמוך במחקר ובחינוך לגיטימיים. כלים אוטומטיים ובודקי תוכן אנושיים עובדים יחד כדי להתערב כאשר התנהגות נראית מסוכנת — ולהסלים לטיפול נוסף לפי הצורך.
החברה משקיעה גם ביוזמות מערכתיות רחבות. תוכנית גישה מבוקרת תאפשר למגיני סייבר מוסמכים להשתמש ביכולות משופרות תחת פיקוח. "ארדווארק" (Aardvark), סוכן AI לחקר והערכת בסיסי קוד מלאים, כבר זיהה חולשות חדשות ומיועד להינתן לצוותי קוד פתוח ללא מטרת רווח. שיתופי פעולה בתעשייה מתרחבים באמצעות "מועצת סיכוני החזית" ועבודת מודלינג משותפת עם מעבדות נוספות.
בסיכומו של דבר, צעדים אלו משקפים מציאות מתפתחת: ככל שבינה מלאכותית מתקדמת הופכת ליכולה יותר טכנית — כך הופכת לבלתי נמנעת המשימה של הבטחת אופן השימוש בה, לא פחות מאשר פיתוחה עצמה.
