האיום המתהווה של פושעי סייבר אוטונומיים המופעלים על ידי בינה מלאכותית

This post is also available in: English (אנגלית)

ככל שהבינה המלאכותית ממשיכה להתפתח, מומחים מזהירים מפני שינוי קרב בעולם פשעי הסייבר, בו בינה מלאכותית תהפוך לאיום מרכזי על אבטחת הסייבר העולמית. על פי דו"ח חדש של Malwarebytes, עלייתם של סוכני AI אוטונומיים יכולה בקרוב לשנות לחלוטין את טבען של התקפות סייבר ולהפוך אותן למורכבות יותר.

השינוי למעשה כבר בעיצומו. מאז שחרורו של ChatGPT ב-2022, כלי הבינה המלאכותית העצימו את פושעי הסייבר וסייעו להם לבצע התקפות בקלות וביעילות חסרות תקדים. החל מניסוחים משכנעים של הודעות פישינג ועד לסיוע בפיתוח תוכנות זדוניות ואפילו יצירת סרטוני דיפ פייק, הבינה המלאכותית מקלה על פושעי הסייבר לנצל חולשות ולרמות קורבנות.

דו"ח Malwarebytes ThreatDown מדגיש מספר מגמות מדאיגות. תקרית בולטת אחת בינואר 2024 כללה שיחת וידאו בה כל יושביה היו למעשה דיפ פייק של מנהלים בכירים שנוצרו על ידי בינה מלאכותית. הדבר גרם להונאה של עובד בחברת ההנדסה העולמית Arup בה העביר 25 מיליון דולר לפושעי סייבר. באופן דומה, תועדה עלייה חדה בהתקפות פישינג בסיוע AI, כאשר חלק מהחוקרים דיווחו על עלייה בלתי-נתפסת של 1,265% בהתקפות פישינג זדוניות בעקבות יציאתו של ChatGPT.

אך ההשפעה של AI מגיעה מעבר לרק פישינג. הדו"ח גם מצביע על השימוש ההולך והגובר בבינה מלאכותית כדי ליצור ביקורות מוצר מזויפות, מסמכי זהות ואפילו תעמולה. ב-2024, the Transparency Company  מצאה כי בינה מלאכותית עומדת מאחורי לפחות 2.3 מיליון ביקורות מוצר כוזבות, בעוד שקמפיינים של דיסאינפורמציה חדרו לכלי בינה מלאכותית פופולריים עם תוכן מגובה על ידי הקרמלין.

עם זאת, העתיד של פשיעת הסייבר עשוי להיות מדאיג עוד יותר. חוקרי Malwarebytes צופים כי ככל שסוכני AI ישתפרו, פושעי סייבר ישתמשו בהם כדי להוציא לפועל התקפות מסיביות ואוטומטיות, כגון מתקפות כופרה גדולות, הפועלות 24/7. סוכני בינה מלאכותית אלה יכלו לפרוס "נחילים" של בוטים זדוניים, ולהגביר את קנה המידה והמהירות של התקפות סייבר בדרכים שהיו כמעט בלתי אפשריות עם מעורבות אנושית בלבד.

כדי להילחם באיום הגובר הזה, מומחי אבטחת סייבר ממליצים לארגונים לתעדף את הפחתת הפגיעות שלהם להתקפות, לנטר באופן רציף על המערכות שלהם ולפעול במהירות לטיפול בכל התרעות האבטחה. על ידי נקיטת צעדים פרואקטיביים אלה, עסקים יכולים להגן על עצמם טוב יותר מפני הגל המתרחב של פשעי סייבר המופעלים על ידי בינה מלאכותית.