This post is also available in:
English (אנגלית)
בינה מלאכותית צפויה לשנות באופן משמעותי את עולם הסייבר, וקיימים חששות שפושעי סייבר ישתמשו בכלי AI מתקדמים כדי לאטמט מתקפות, לייצר נוזקות או להרחיב הונאות בקנה מידה גדול יותר. אך מחקר רחב־היקף חדש מצביע על כך שלפחות בשלב זה, אימוץ ה־AI בקהילות פשיעת הסייבר עדיין מוגבל יותר מכפי שרבים חששו.
חוקרים שניתחו יותר מ-100 מיליון פוסטים בפורומים של פשיעת סייבר מצאו כי מרבית הגורמים הזדוניים עדיין מתקשים להשתמש ב־AI באופן שמשפר משמעותית את יכולותיהם. המחקר התמקד בדיונים שהתפתחו לאחר השקת כלי AI גנרטיביים פופולריים, ובחן כיצד קהילות עברייניות ניסו לשלב את הטכנולוגיות הללו לאורך זמן.
על פי דיווח של TechXplore, כלי AI התגלו כיעילים בעיקר במשימות ממוקדות יחסית, ולא במתקפות סייבר מתוחכמות. בפרט, נראה כי עבריינים משתמשים בבינה מלאכותית כדי להסוות דפוסים שמערכות אבטחה נוטות לזהות, וכן כדי לאטמט בוטים ברשתות חברתיות המשמשים להונאות ולהטרדות. עם זאת, המחקר מצא מעט מאוד עדויות לכך שה־AI הורידה באופן דרמטי את רף הכניסה לביצוע מתקפות סייבר מתקדמות.
אחת הסיבות לכך היא שגם שימוש יעיל בכלי קוד ואוטומציה מבוססי AI עדיין דורש ידע טכני משמעותי. עוזרי קוד מבוססי AI עשויים לשפר יעילות עבור גורמים מנוסים, אך אינם מחליפים מומחיות אמיתית. החוקרים הגיעו למסקנה כי השימוש הנוכחי ב־AI מייצג יותר התפתחות הדרגתית בפשיעת הסייבר, ולא מהפכה מבצעית של ממש.
המחקר הדגיש גם את תפקידם של מנגנוני הבטיחות המובנים במערכות AI מסחריות. ההגנות הקיימות מצליחות ככל הנראה לצמצם חלק מהשימושים הזדוניים, אף שהחוקרים זיהו ניסיונות מצד משתמשים לעקוף או לתמרן את מנגנוני ההגנה הללו.
מעניין במיוחד כי החוקרים טוענים שהסיכון המיידי יותר עשוי שלא להגיע ישירות מעברייני סייבר המשתמשים ב־AI, אלא דווקא מארגונים שמטמיעים מערכות AI בצורה לא מאובטחת. כלי AI אוטונומיים, או "Agentic AI", המסוגלים לקבל החלטות ולבצע פעולות באופן עצמאי, עלולים ליצור פגיעויות חדשות אם אינם מתוכננים ומוגנים כראוי. בנוסף, תוכנות המפותחות במהירות באמצעות קוד שנוצר על ידי AI עשויות להכניס חולשות אבטחה אם אינן עוברות בדיקות מספקות.
מנקודת מבט ביטחונית, הממצאים מצביעים על כך שהחשש מאיומי AI בתחום הסייבר צריך להתמקד לא רק בגורמים זדוניים, אלא גם באופן שבו תעשיות וארגונים לגיטימיים משלבים בינה מלאכותית במערכות התפעוליות שלהם.
למרות שניסויים של עברייני סייבר עם AI כבר מתבצעים בפועל, המחקר מצביע על כך שהשיבוש הרחב שציפו לו מצד פשיעת סייבר מבוססת AI עדיין לא התממש בהיקף שרבים העריכו.
המחקר פורסם כאן.
