כנופיות סייבר מתחילות להשתמש בקוד שנוצר על ידי AI – מהן ההשלכות?

This post is also available in: English (אנגלית)

פושעי סייבר המתחזים לחברות גרמניות לגיטימיות תוקפים ארגונים בתעשיות שונות במדינה באמצעות בינה מלאכותית, כפי שדווח על ידי חברת אבטחת הסייבר Proofpoint.

ההאקרים, שזוהו כקבוצה הנקראת TA547, שולחים לקורבנות מיילים עם חשבוניות מזויפות בקבצי ZIP מוגנים בסיסמה (אותה הם מספקים בדוא"ל עצמו) כדי שהקורבן ישתמש בה לפתוח את הקובץ ו-"לשחרר" את הקוד הזדוני. על פי הדיווחים, התוכנה הזדונית מכילה קובץ LNK שמפעיל סקריפט PowerShell, שבתורו מפעיל גנב מידע.

על פי הדיווח, מומחים חושדים שהסקריפט PowerShell נוצר על ידי מודל שפה גדולה (כמו צ'אט GPT, ג'מיני, וכדומה), מה שהופך אותו למקרה הראשון בו נרשם פשע סייבר שבוצע באמצעות קוד שנוצר ע"י בינה מלאכותית. יש מספר סימנים שגורמים למומחים לחשוד בשימוש בבינה מלאכותית, כולל כמה הערות הנמצאות לכל אורך הסקריפט ונראות יסודיות מדי, מושלמות מבחינה דקדוקית, והיפר-ספציפיות. "זוהי תפוקה טיפוסית של תוכן קידוד שנוצר על ידי LLM ומצביע על כך ש-TA547 השתמשו בסוג כלשהו של כלי מבוסס-LLM לכתוב (או לשכתב) את PowerShell או להעתיק את הסקריפט ממקור אחר שהשתמש בו."

אבל למה זה בכלל משנה? על פי Cybernews, השינוי המתעורר בטכניקות תקיפה מסוימות מצביע על כך שגורמי סייבר זדוניים נשענים יותר ויותר על מודלי שפה גדולים ועל בינה מלאכותית כדי לצאת למתקפות סייבר מתוחכמות יותר, מכיוון שהמודלים הללו עוזרים ליצור פיתיונות הנדסה חברתית וקוד המאפשר לגורמי האיום לשדרג את הקמפיינים הזדוניים שלהם.

בהתקפות האחרונות הללו, התוכן שנוצר על ידי בינה מלאכותית לא שינה את הפונקציונליות או את היעילות של הקוד הזדוני בו השתמשו, וגם לא השפיע על יכולתם של מומחי האבטחה לזהות את הפעולות הזדוניות. בעוד שהקוד שנכתב ע"י הבינה המלאכותית סייע בהעברת מטען של תוכנות זדוניות, הוא לא שינה את המטען עצמו.

חברת Proofpoint טוענת כי כנופיית TA547 מהווה איום סייבר כלכלי המתפקד בתור "ברוקר גישה ראשונית" (IAB) שתוקף אזורים גיאוגרפיים שונים. הם גם מדווחים כי מאז שנת 2023, TA547 הייתה בדרך כלל מספקת "NetSupport RAT", אבל מדי פעם סיפקה נוזקות גונבות מידע אחרות. בנוסף לקמפייני התקיפה הללו בגרמניה, הכנופייה תועדה תוקפת יעדים גיאוגרפיים אחרים הכוללים ארגונים בספרד, שוויץ, אוסטריה וארצות הברית.