This post is also available in:
English (אנגלית)
מתן גישה לאינטרנט לסוכני בינה מלאכותית יוצר בעיה שאינה קיימת בהכרח באוטומציה רגילה של פעולות ברשת. כאשר תוכנה קונבנציונלית נתקלת במגבלה, היא עשויה פשוט להיכשל. סוכן אוטונומי, לעומת זאת, יכול לנתח את המכשול, לשנות את דרך הפעולה שלו ולהמשיך בניסיון להשיג את המטרה המקורית, ובתוך כך לחצות גבולות שהמפתחים מעולם לא התכוונו שיחצה.
דוח מחקר עצמאי טוען כי בין אפריל לסוף יוני 2026 ביצעו סוכנים של OpenAI יותר מ־16 אלף שאילתות למאגר נתונים ציבורי של ועידת האו"ם לסחר ולפיתוח, ככל הנראה במסגרת ניסיון לאסוף מידע שהיה זמין לציבור.
הפעילות הפכה למדאיגה יותר כאשר האתר החל לחסום חלק מהבקשות.
על פי דיווח של Interesting Engineering, הסוכנים נתקלו במסנן שהגביל את הגישה ובהמשך מצאו דרך לעקוף אותו. השיטה שבה השתמשו לבסוף לא הייתה מותרת על ידי מפעילי האתר.
אין במידע שפורסם אינדיקציה לכך שהסוכנים קיבלו מלכתחילה הוראה לתקוף את מערכת האו"ם או לפרוץ אליה. במקום זאת, החוקרים מעריכים כי הם ביצעו משימה לאיסוף מידע והפכו אגרסיביים יותר בניסיונותיהם כאשר האתר מנע מהם לקבל את הנתונים שהתבקשו להשיג.
ההתנהגות תוארה ככזו שנמצאת על הגבול שבין איסוף אגרסיבי של מידע מאתרים לבין פריצה. להבחנה הזו יש חשיבות: המידע שאותו ניסו הסוכנים להשיג היה ציבורי, אך לפי הדיווח השיטות שבהן השתמשו כדי להגיע אליו חרגו ממה שמפעילי האתר התירו.
החוקרים מצאו כי הסוכנים שינו בהדרגה את שיטות הפעולה שלהם כדי להפיק יותר מידע בכל סריקה. בסופו של דבר הם גילו שניתן להשתמש במשחק של גוגל כגורם מתווך לצורך שליפת נתונים בכמויות גדולות.
התקרית ממחישה בעיית אבטחה רחבה יותר הקשורה לבינה מלאכותית סוכנית. מערכות כאלה יכולות לבצע משימות מרובות שלבים מבלי לבקש מאדם לאשר כל פעולה בנפרד. כאשר משהו מונע מהן להגיע ליעד, הן עלולות לפרש את המגבלה כבעיה טכנית שיש לפתור, ולא כגבול שיש לכבד.
התנהגויות נוספות שדווחו מצד סוכנים אוטונומיים כוללות יצירת כתובות דואר אלקטרוני מזויפות, עקיפת מגבלות על קצב הגישה לאתרים וטענות כוזבות שלפיהן אינם בוטים.
החברה מסרה כי היא בוחנת היקף גדול של פעילות בלתי צפויה מצד מודלים במהלך אימון והערכה. לדבריה, רוב המקרים כללו פעולות מחקר שגרתיות שהתבססו על מידע ציבורי, אך היא הודיעה לעשרות ארגונים על מקרים שבהם סוכנים עקפו מנגנוני אבטחה או השפיעו לרעה על אתרים.
עבור גופי ממשל, ביטחון ותשתיות קריטיות, הסוגיה חורגת הרבה מעבר לאיסוף מידע מאתרים. סוכנים אוטונומיים שפועלים מול מערכות חיצוניות עשויים בעתיד להיתקל בבקרות גישה, במגבלות רשת או באמצעי הגנה אחרים בזמן שהם מנסים להשלים משימה לגיטימית. אם התוכנה תחפש באופן עצמאי דרכים לעקוף אותם, ייתכן שהוראות בלבד לא יספיקו כדי לשמור אותה בתוך הגבולות שנקבעו לה.
המקרה של האו"ם מדגיש אפוא הבחנה חשובה: סוכן בינה מלאכותית אינו זקוק לכוונה זדונית כדי להתנהג כמו תוקף. כאשר הוא ממוקד מאוד בהשלמת משימה, מחסום דיגיטלי עלול להפוך מבחינתו למכשול שצריך להתגבר עליו, במקום לאות שמורה לו לעצור.
