This post is also available in:
English (אנגלית)
קהילת הסייבר חוששת כבר שנים שבינה מלאכותית עשויה להאיץ בעתיד פיתוח מתקפות סייבר מתוחכמות. אף שכלי AI כבר משמשים כיום לפישינג, אוטומציה ושדרוג נוזקות, עד כה היו מעט מאוד עדויות לכך שהם שימשו ישירות לאיתור חולשות תוכנה לא מוכרות. כעת נראה שהמצב מתחיל להשתנות.
דו"ח מודיעין איומים חדש של Google Threat Intelligence Group (GTIG) מתאר מה שחוקרים סבורים שעשוי להיות אחד המקרים המתועדים הראשונים של פיתוח מתקפת Zero-Day בסיוע בינה מלאכותית. לפי הדיווחים, החולשה כוונה לפלטפורמת ניהול מבוססת־ווב ואפשרה לתוקפים לעקוף אימות דו־שלבי לאחר השגת פרטי התחברות תקפים. על פי דיווח של Interesting Engineering, הפירצה אותרה ונחסמה לפני שנעשה בה שימוש בקמפיין רחב־היקף.
בניגוד לניצולים קלאסיים המתמקדים בשגיאות קוד כמו שחיתת זיכרון, הפירצה תוארה כ”חולשת לוגיקה סמנטית" (Semantic Logic Flaw). חולשות מסוג זה נובעות מהאופן שבו מערכות תוכנה פועלות ומתקשרות ביניהן, ולא מטעות תכנות פשוטה. החוקרים מציינים כי מודלי שפה מתקדמים הופכים ליעילים יותר בזיהוי בעיות לוגיות נסתרות מסוג זה, משום שהם מסוגלים לנתח קשרים הקשריים בתוך ארכיטקטורת התוכנה.
לפי הדיווחים, קוד הניצול עצמו כלל מספר סימנים המעידים על מעורבות AI, בהם תיעוד במבנה חריג, עיצוב בסגנון "ספר לימוד" והפניות לדירוגים מומצאים – מאפיינים המזוהים לעיתים עם פלטים של מודלי שפה גדולים. החוקרים הגיעו למסקנה ברמת ביטחון גבוהה שמערכת AI שימשה ככל הנראה הן לאיתור החולשה והן להפיכתה לכלי תקיפה פעיל.
הדו"ח הדגיש גם מגמות רחבות יותר בתחום מתקפות הסייבר מבוססות AI. לפי החוקרים, גורמי איום כבר משתמשים בכלי AI לצורך ניתוח קושחה (Firmware), חיפוש חולשות במערכות משובצות, יצירת קטעי קוד מטעים שנועדו לחמוק מגילוי ואוטומציה של חלק מהתנהגות הנוזקות. באחת הדוגמאות, נוזקת אנדרואיד תוארה כמסוגלת לפרש ממשקי משתמש בסמארטפון ולדמות אינטראקציות משתמש, תוך מינימום שליטה ישירה מצד המפעיל.
מנקודת מבט ביטחונית, הממצאים מחזקים את החשש שבינה מלאכותית הופכת גם לכלי תקיפה וגם למשטח תקיפה חדש. ככל שמערכות אוטונומיות ומערכות בסיוע AI משתלבות יותר בתשתיות קריטיות ובשרשראות אספקת תוכנה, המהירות וההיקף של מתקפות סייבר עשויים לגדול משמעותית.
במקביל, גם כלי ההגנה המבוססים על AI ממשיכים להתפתח. חוקרי אבטחה עושים יותר ויותר שימוש במערכות AI כדי לזהות חולשות, לאתר התנהגות זדונית ולאוטומט תיקוני אבטחה עוד לפני שמתקפות מתפשטות בהיקף רחב.
