מחקר חדש מראה שסוכני בינה מלאכותית בדפדפן נופלים גם לפישינג הברור ביותר

This post is also available in: English (אנגלית)

דפדפנים אוטונומיים מבוססי בינה מלאכותית נועדו לטפל במשימות דיגיטליות ללא התערבות אנושית – החל מהזמנת טיסות ועד לניהול מיילים. אך ניסויים חדשים מצביעים על כשלי אבטחה מהותיים: מערכות אלו ניתנות להטעיה על ידי אתרי פישינג וחנויות מזויפות, מה שעלול לחשוף את המשתמשים להונאות ולגניבת מידע.

מחקר חדש של חברת האבטחה Guardio מראה כי למרות שהכלים האלו נועדו לפשט את הגלישה ברשת ולהגביר את הפרודוקטיביות, הם עדיין בעלי חולשות מוכרות של בינה מלאכותית גנרטיבית – בראשן חוסר סקפטיות, שיפוט לקוי בהקשרים מורכבים, ונטייה לבצע הוראות באופן מילולי מדי.

במסגרת אחד הניסויים, החוקרים בחנו את דפדפן הבינה המלאכותית Perplexity Comet, עוזר אינטרנטי המסוגל לבצע משימות גלישה באופן עצמאי. הדפדפן הונחה לרכוש שעון Apple Watch. במקום לוודא את אמינות האתר, הוא השלים את הרכישה באתר "וולמארט" מזויף שיצרו החוקרים באמצעות מחולל אתרים. למרות סימנים ברורים לכך שהאתר אינו לגיטימי, Comet מילא אוטומטית את הפרטים האישיים והפיננסיים – וביצע את הרכישה מבלי לבקש אישור מהמשתמש.

בניסוי נוסף, החוקרים סימלצו תרחיש פישינג: הם שלחו מייל מזויף שהתחזה למנהל השקעות מבנק Wells Fargo, שכלל קישור זדוני. Comet לחץ על הקישור, ניגש לעמוד הפישינג, ומילא בטופס פרטים רגישים – מבלי לזהות את ההונאה.

הממצאים ממחישים בעיה מהותית: ברגע שהבינה המלאכותית שולטת בתהליך, האינטואיציה ושיקול הדעת האנושיים יוצאים מהמשוואה. ללא מנגנוני הגנה מובנים, המערכת עלולה להיות מנוצלת בקלות.

אמנם מדובר בטכנולוגיה שעדיין נמצאת בשלבי פיתוח מוקדמים, אך עם התקדמותה והשתלבותה הפוטנציאלית במערכות קריטיות – גוברת הדאגה מהשלכות עתידיות. ב-Guardio מדגישים כי על המפתחים להתמקד לא רק בתפקודיות, אלא גם בהיבטי אבטחת מידע.

החוקרים מציינים כי המודלים הנוכחיים חסרים אמצעי בטיחות מספקים. ככל שכלים אלו יהפכו לחלק בלתי נפרד מהפעילות היומיומית באינטרנט, המחיר של אמון עיוור במערכת כזאת עלול להיות גבוה מאוד.

המסקנה המרכזית של המחקר היא שיש צורך דחוף בכלי אבטחה חזקים יותר, לפני שסוכני ה-AI ייכנסו לשימוש רחב בגלישה אינטרנטית עצמאית.