This post is also available in:
English (אנגלית)
השילוב של בינה מלאכותית (AI) בפיתוח תוכנות זדוניות מתגלה כאיום אבטחת סייבר משמעותי, המסמן שלב חדש באופן שבו שחקנים זדוניים פועלים. באופן מסורתי, בינה מלאכותית לא הייתה קשורה באופן נרחב לתוכנות זדוניות, אבל עם העלייה של כלי בינה מלאכותית גנרטיביים, עברייני סייבר מנצלים יותר ויותר את הטכנולוגיה הזו כדי לשפר את המתקפות שלהם.
למרות המאמצים הכבירים של חברות ה-AI למזער את סיכויי ההאקרים להשתמש בכלים שלהם למטרות זדוניות, AI יכול לשמש בפיתוח תוכנות זדוניות בכמה דרכים. בינה מלאכותית יכולה לשמש כדי לחפש חולשות סייבר הניתנות לניצול, וכלים זמינים כמו ChatGPT מאפשרים אפילו להאקרים בלתי-מנוסים לכתוב סקריפטים זדוניים. קוד זדוני המופעל על ידי בינה מלאכותית יכול גם להסתגל לסביבתו, ולשנות את ההתנהגות ואת מבנה הקוד שלו באופן דינמי כדי להתחמק מגילוי.
על פי דו"ח של Cybernews הסוקר את השימוש ב-AI על ידי גורמי איום, אחת הקבוצות הראשונות שהתחילו להשתמש בכוח של AI ליצירת תוכנות זדוניות היא CyberAv3ngers, קבוצת האקרים בחסות משמרות המהפכה המתמקדת בתשתיות קריטיות כמו מערכות מים, אנרגיה וייצור. הקבוצה משתמשת בבינה מלאכותית כדי לשפר את חקר החולשות, להפוך את איתור באגים לאוטומטי, וליצור סקריפטים שמפעילים מערכות בקרה תעשייתיות (ICS) ובקרי לוגיקה ניתנים לתכנות (PLCs).
באופן דומה, SweetSpecter, קבוצה סינית בחסות המדינה, ממנפת את שירותיה של OpenAI כדי לפתח כלים לאיסוף מודיעין ותוכנות זדוניות המסוגלות לעקוף מנגנוני זיהוי מסורתיים. היכולת הזו להתחמק מאמצעי אבטחה הופכת את הקוד הזדוני שלהם לחזק במיוחד, ומאפשרת לו להתמיד ברשת מבלי שיבחינו בו.
קבוצת פורסט בליזארד, הידועה גם בשם APT28, השתמשה בבינה מלאכותית כדי ליצור מסמכים ממשלתיים מזויפים משכנעים לקמפיינים של פישינג. על ידי ניתוח דפוסי התקשורת של קורבנותיהם, הם בונים מתקפות ממוקדות שיכולות לקצור מידע רגיש בדיוק רב.
כלל הקבוצות הללו מייצגות את השימוש ההולך והגדל בבינה מלאכותית במתקפות סייבר, מגמה שמתרחבת בקרב קבוצות האקרים מאורגנות היטב וגם בקרב כאלה פחות מנוסות. ככל שטכנולוגיית הבינה המלאכותית ממשיכה להתפתח, כך גם התחכום של איומי הסייבר. כעת, פתרונות האבטחה יצטרכו להסתגל למציאות זו כדי להקדים את מתקפות הסייבר המתקדמות הללו.
