This post is also available in:
English (אנגלית)
סוכני בינה מלאכותית אוטונומיים הופכים למסוגלים יותר ויותר לכתוב קוד, להתקין תוכנות, לשנות קבצים ולבצע פעולות במערכת ההפעלה, וכל זאת תוך התערבות אנושית מינימלית. יכולות אלו מבטיחות להאיץ את פיתוח התוכנה ואת פעילות מחלקות ה־IT, אך הן גם יוצרות בעיה חדשה עבור צוותי אבטחת המידע: רבות מהפעולות שמבצעים סוכני הבינה המלאכותית דומות מאוד לאלו שמבצעים תוקפים אנושיים.
מחקר חדש מצביע על כך שהדמיון הזה כבר גורם להפעלת התרעות אבטחה שנועדו לזהות פעילות זדונית.
החוקרים ניתחו את התנהגותם של מספר סוכני תכנות מבוססי בינה מלאכותית במהלך פעילות רגילה, וגילו כי הם הפעילו לעיתים קרובות מערכות לזיהוי ולתגובה בתחנות קצה (EDR). ההתרעות לא הצביעו על כך שהבינה המלאכותית פעלה בזדון, אלא על כך שרבות ממשימות הפיתוח הלגיטימיות משתמשות באותן שיטות המקובלות גם במהלך מתקפות סייבר.
פעולות כמו פתיחת מסוף פקודות, הרצת פקודות PowerShell, התקנת חבילות תוכנה, שינוי מספר רב של קבצים, התחברות לשירותי ענן וגישה לפרטי גישה שמורים הן חלק טבעי מעבודתם של עוזרי בינה מלאכותית מתקדמים. אותן פעולות בדיוק מאפיינות גם את השלבים הראשונים של מתקפות סייבר רבות.
מערכות EDR מודרניות מתמקדות בניתוח התנהגות ולא רק בזיהוי תוכנות לפי שמן. לכן, אם יישום מבצע פעולות המזוהות עם טכניקות תקיפה מוכרות, הוא עלול לעורר התרעה, גם אם מדובר בתוכנה לגיטימית.
מצב זה יוצר אתגר חדש עבור מגיני הסייבר. על פי דיווח של Cyber News, במקום לשאול רק האם התרחשה פעילות חשודה, מערכות האבטחה יצטרכו יותר ויותר להבין מדוע היא התרחשה והאם סוכן הבינה המלאכותית היה מורשה לבצע אותה.
החוקרים סבורים שמערכות הזיהוי של העתיד יסתמכו פחות על ההתנהגות עצמה ויותר על ההקשר המבצעי, על כוונת המשתמש ועל מדיניות ההרשאות. ארגונים עשויים להגדיר במפורש אילו פעולות מותר לסוכני בינה מלאכותית לבצע, בעוד שמערכות האבטחה יוודאו באופן רציף שהפעילות נשארת במסגרת ההרשאות שנקבעו.
מנקודת מבט ביטחונית ותשתיתית, הסוגיה חורגת הרבה מעבר לעולם פיתוח התוכנה. רשתות צבאיות, מערכות ממשלתיות וסביבות ארגוניות רגישות מתחילות לבחון שילוב של סוכני בינה מלאכותית אוטונומיים לצורך תמיכה בפעילות מבצעית, ולכן הופך חיוני להבחין בין פעילות אוטומטית לגיטימית לבין חדירה אמיתית.
מעניין לציין כי החוקרים מעריכים שסוכני בינה מלאכותית עשויים לפתח גם דפוסי התנהגות ייחודיים משלהם. "טביעות אצבע" דיגיטליות אלו עשויות בעתיד לסייע לצוותי אבטחה לזהות מתי בינה מלאכותית מעורבת בפעילות, גם אם משתמשים או תוקפים ינסו להסתיר זאת.
ככל שסוכני בינה מלאכותית הופכים אוטונומיים יותר, עולם הסייבר נכנס לעידן חדש שבו השאלה המרכזית כבר אינה רק האם הפעילות נראית חשודה, אלא האם ניתן לקבוע באופן אמין מי, או מה, מבצע אותה, והאם הוא פועל בהתאם להרשאות ולמטרה שלשמן הוסמך.
