This post is also available in:
English (אנגלית)
דפדפני אינטרנט מבוססי בינה מלאכותית מתחילים לעשות הרבה יותר מאשר לענות על שאלות. רבים מהם כוללים כיום סוכנים אוטונומיים המסוגלים לגלוש באתרים, להשוות מוצרים, להזמין נסיעות, למלא טפסים ולבצע פעולות במגוון שירותים מקוונים בשם המשתמש. אף שהיכולות הללו מבטיחות נוחות רבה יותר, חוקרי אבטחת מידע מזהירים כי הענקת גישה כה רחבה לדפדפן עלולה ליצור סיכוני סייבר חדשים.
מחקר חדש מצא כי מספר דפדפנים פופולריים המשלבים בינה מלאכותית, בהם ChatGPT Atlas, Chrome עם Gemini, Claude for Chrome ו־Perplexity Comet, מחלישים את אחד ממנגנוני האבטחה הבסיסיים ביותר של האינטרנט – מדיניות אותו מקור (Same-Origin Policy).
מדיניות זו מגינה על משתמשי האינטרנט כבר עשרות שנים באמצעות מניעת גישה של אתר אחד למידע השייך לאתר אחר. היא מאפשרת למשתמשים לגלוש במספר אתרים במקביל, מבלי שאתר אחד יוכל לגשת ישירות למידע הרגיש של האחר.
החוקרים מצאו כי חלק מסוכני הבינה המלאכותית המשולבים בדפדפנים פועלים באופן שונה. על פי דיווח של TechXplore, מאחר שהם נועדו לקרוא מידע ממספר לשוניות ואתרים במקביל כדי להשלים משימות, הם עלולים לגשר שלא במתכוון על גבולות אבטחה שדפדפנים רגילים מקפידים להפריד ביניהם.
כדי להמחיש את הסיכון, בנו החוקרים מתקפת הדגמה שהראתה כיצד אתר זדוני מסוגל להטעות את סוכן הבינה המלאכותית ולגרום לו לחשוף מידע שמקורו באתר אחר. במקום לפרוץ ישירות לדפדפן, המתקפה מנצלת את הבינה המלאכותית עצמה באמצעות הוראות נסתרות המוטמעות בתוכן דף האינטרנט.
שיטה זו, המכונה הזרקת הנחיות (Prompt Injection), פועלת באמצעות שתילת הוראות שהבינה המלאכותית עלולה לפרש כפקודות לגיטימיות. כך, למשל, סוכן שהתבקש לסכם עמוד אינטרנט עלול לפעול בהתאם להוראות נסתרות, לשלב במענה שלו מידע רגיש מלשוניות אחרות ואף להעביר אותו לגורם חיצוני.
החוקרים זיהו גם איום נוסף המכונה הרעלת זיכרון (Memory Poisoning). סוכני בינה מלאכותית רבים שומרים מידע בזיכרון פנימי כדי לשפר אינטראקציות עתידיות. אם מידע זדוני חודר לזיכרון הזה, הוא עלול להשפיע על התנהגות הסוכן גם בגלישות עתידיות, לאחר שמקור המידע המקורי כבר אינו קיים.
מנקודת מבט של סייבר, לממצאים יש חשיבות מיוחדת משום שדפדפנים משמשים כיום כשער גישה לדואר אלקטרוני, לשירותים פיננסיים, למערכות ארגוניות, לפורטלים ממשלתיים וליישומי ענן. סוכני בינה מלאכותית בעלי הרשאות רחבות עלולים לקבל גישה למידע רגיש במיוחד אם לא ייושמו מנגנוני הגנה מתאימים.
המחקר מצא כי דווקא הדפדפנים המציעים את יכולות האוטונומיה המתקדמות ביותר היו גם אלה שהציגו את החשיפה הגדולה ביותר לסיכונים, בעוד שמערכות שבהן הרשאות הבינה המלאכותית מוגבלות יותר נמצאו עמידות יותר בפני המתקפות שנבדקו.
ככל שעוזרי בינה מלאכותית משתלבים עמוק יותר בדפדפני האינטרנט, החוקרים סבורים כי אחד האתגרים המרכזיים שעדיין נותרו בלתי פתורים הוא כיצד לשמר את מודלי האבטחה הקונבנציונליים של הדפדפנים, ובמקביל לאפשר יכולות אוטומציה מתקדמות.
המחקר פורסם כאן.
