This post is also available in:
English (אנגלית)
הופעתם של סוכני בינה מלאכותית – תוכנות אוטונומיות המסוגלות לבצע משימות מקוונות כמו הזמנת טיסות או ניהול לוחות זמנים – יוצרת חששות חדשים בתחום הסייבר. מומחים מזהירים כי סוכנים אלו, הפועלים באמצעות פקודות בשפה טבעית, עלולים להיות מנוצלים על ידי גורמים זדוניים, ולפתוח דרכי תקיפה חדשות הדורשות מעט מיומנויות טכניות בלבד.
בשונה מהתקפות סייבר מסורתיות, שנדרש להם ידע בתכנות, סוכני בינה מלאכותית ניתנים למניפולציה באמצעות פקודות מתוכננות בקפידה, טכניקה המכונה "הזרקת שאילתות"(Query Injection). בתקיפות מסוג זה, הוראה שנראית תמימה, כמו "הזמן חדר במלון", יכולה לעבור שינוי על ידי תוקף במטרה לבצע פעולות לא מורשות, כולל הונאה כלכלית. במקרים מסוימים, הסוכנים נתקלים בהוראות זדוניות מוסתרות המוטמעות ברשת, ויכולים לבצע משימות מזיקות מבלי שהמשתמש מודע לכך.
מומחי סייבר מודאגים יותר ויותר מהשינוי הזה, שלדבריהם משנה את נוף ההגנה הדיגיטלית. "אנחנו נכנסים לתקופה שבה אבטחת הסייבר אינה מתמקדת עוד בהגנה מפני האקרים מיומנים במיוחד," ציינו בחברת הסטארטאפ לבינה מלאכותית Perplexity. האיומים כיום יכולים לנבוע מהבינה המלאכותית עצמה אם היא מנותבת בצורה שגויה.
על פי דיווח של TechXplore, בתעשייה מדגישים את הקושי לאזן בין נוחות לבין אבטחה. סוכני בינה מלאכותית מתוכננים ליעילות, אך מתן גישה בלתי מוגבלת למידע או למערכות רגישות מגדיל את הסיכון. פתרונות כמו פיקוח בזמן אמת, אישור משתמש לפני פעולות קריטיות, ומעקב אחר פקודות זדוניות כבר מיושמים על ידי ספקי בינה מלאכותית גדולים. לדוגמה, מיקרוסופט משתמשת בכלי זיהוי כדי לסמן הוראות חשודות, בעוד ש-OpenAI מגבילה את גישת הסוכנים לאתרים רגישים עד לקבלת אימות אנושי.
חוקרים מדגישים שסוכני בינה מלאכותית עדיין אינם מוכנים לנהל משימות קריטיות באופן עצמאי. לפי מומחי סייבר, הזרקת שאילתות מהווה את החולשה המשמעותית ביותר עבור מודלים גדולים של שפה המפעילים את המערכות הללו. בנוסף, הם מציינים כי ההתקפות מתפתחות במהירות ויכולות להקדים בקלות את אמצעי ההגנה.
ככל שסוכני בינה מלאכותית מתרחבים בשימוש, האתגר עבור מפתחים ומשתמשים יהיה לשמור על נוחות השימוש בכלים האוטונומיים תוך מניעת חטיפתם. עד שהגנות האבטחה יתבגרו, מומחים ממליצים לנהוג בזהירות בעת הקצאת משימות הכוללות מידע רגיש או פעולות כלכליות, ומדגישים שסוכני בינה מלאכותית, על אף הפוטנציאל שלהם, עדיין עלולים להיות "מוסטים ממסלולם".
