This post is also available in:
English (אנגלית)
פושעי הסייבר פונים יותר ויותר למודלי בינה מלאכותית כדי לשפר את הפרודוקטיביות שלהם, על פי אזהרה אחרונה של ה-Google Threat Intelligence Group (GTIG). למרות שהניסיונות הללו עד כה לא צלחו במידה רבה, האקרים ממשיכים לחקור את הפוטנציאל של מערכות מבוססות בינה מלאכותית למשימות כגון יצירת קוד, פישינג ולוקליזציה של תוכן.
על פי GTIG, האקרים ניסו להשתמש בעוזר הבינה המלאכותית של גוגל, ג'מיני, בניסיונותיהם לייעל את הפעילויות הזדוניות שלהם. הם ניסו להשתמש במודל למשימות כגון ניסוח הודעות פישינג לדואר אלקטרוני, יצירת תוכן זדוני ומחקר חולשות. חוקרי GTIG מצאו כי תקיפות רבות התבססו על פריצות מוכרות ופשוטות של ה-AI, ללא פריצות דרך משמעותיות עדיין. עם זאת, האבולוציה המתמשכת של כלי בינה מלאכותית מגבירה חששות בקהילת האבטחה בסייבר.
קבוצות האקרים צפון קוריאניות, למשל, השתמשו בג'מיני כדי לנסח מכתבים עבור חיפוש הזדמנויות עבודה בחברות זרות. בנוסף, הם השתמשו בכלי כדי לחקור נושאים בעלי עניין אסטרטגי לממשלת קוריאה הצפונית, כגון טכנולוגיה גרעינית דרום קוריאנית ומטבעות קריפטו. קבוצות אלה השתמשו גם בכלי בינה מלאכותית אחרים, כגון מודלי יצירת תמונות עבור פרופילים מזויפים או כלי כתיבה המסייעים ליצירת פיתיונות פישינג.
האקרים איראנים, המקושרים ליותר מ-10 קבוצות, היו משתמשים כבדים בג'מיני למגוון מטרות, כולל איסוף מודיעין על ארגוני ביטחון וטכנולוגיה, חקר חולשות ויצירת תוכן לקמפיינים זדוניים. הם גם השתמשו במודל לחקר מערכות ההגנה של ישראל ו"נושאים הקשורים לסכסוך בין איראן לישראל".
קבוצות איום סיניות, השתמשו בג'מיני בעיקר למשימות מחקר ותסריטאות, תוך התמקדות בטכניקות פריצה כגון תנועה לרוחב, הרחבת הרשאות, והתחמקות מגילוי. באופן דומה, גורמים הנתמכים על ידי ממשלת רוסיה השתמשו בבינה המלאכותית בעיקר ככלי עזר לקידוד תוכנות זדוניות ועבור מחקר הקשור למלחמה בין רוסיה לאוקראינה.
בעוד שמודלי בינה מלאכותית עכשוויים כמו ג'מיני עדיין אינם מסוגלים לאפשר התקדמות משמעותית בפשעי הסייבר, חוקרי גוגל מזהירים כי טכנולוגיות בינה מלאכותית חדשות עולות במהירות. ככל שמערכות אלה מתפתחות, שחקני איום עשויים למצוא דרכים חדשות לנצל אותן. במקביל, גוגל רואה גם את הפוטנציאל של AI לשפר את ההגנה הדיגיטלית, עם LLM שעוזר לנפות נתונים מורכבים, לגלות חולשות ולייעל את פעולות אבטחת הסייבר.
השימוש הגובר בבינה מלאכותית על ידי האקרים מדגיש את החשיבות של הישארות לפני ההתקדמות הטכנולוגית בעולם הסייבר. ככל שהבינה המלאכותית תמשיך להתפתח, פושעי סייבר ואנשי מקצוע בתחום האבטחה כאחד ימצאו דרכים חדשות למנף את הכלי רב העוצמה הזה.
