תוכנה חדשה זו מונעת מצ'אטבוטים להשתתף בהתקפות פישינג

images provided by pixabay

This post is also available in: English (אנגלית)

בשנים האחרונות, פושעי סייבר משתמשים יותר ויותר בטכנולוגיה מבוססת בינה מלאכותית כדי לתכנן ולבצע הונאות והתקפות סייבר. צ'אטבוטים (כמו Bard וצ'אט GPT) הפכו את תהליך ביצוע הונאות ומתקפות סייבר נגיש ביותר עבור תוקפים עם כל רמה של ידע טכני, ודורשים רק לדעת איזה הוראות לתת ובאיזה כלי AI להשתמש.

צוות חוקרים מאוניברסיטת טקסס פיתח תוכנה שעשויה להיות הפתרון לבעיה ההולכת וגדלה הזאת – תוכנה המונעת מצ'טבוטים מבוססי AI ליצור אתרי פישינג בכך שהיא מאפשרת להם לזהות כאשר הם מקבלים הנחיות המכוונות ליצירת אתרים כאלה, ולדחות אותן.

הצוות הסביר כי למרות שיש לכאורה יכולות זיהוי מובנות בצ'אטבוטים של היום, הם מצאו פרצות רבות אותן ניתן לעקוף בקלות ולנצל את הצ'אטבוטים כדי ליצור התקפות.

על פי Interesting Engineering, הקבוצה פיתחה את התוכנה שלה על ידי זיהוי הנחיות שונות בהן ניתן להשתמש כדי ליצור אתרי פישינג. באמצעות מינוף הידע הזה, הם אימנו בהצלחה את התוכנה לזהות ולהגיב למילות מפתח ודפוסים ספציפיים אלה, ובכך שיפרו את יכולתה לזהות בקשות זדוניות כאלה ולמנוע מהצ'אטבוטים להוציא אותן לפועל.

קהילת אבטחת הסייבר התעניינה מאוד בעבודת הצוות, והפרסום האחרון שלהם ב-IEEE Symposium על אבטחה ופרטיות אפילו קיבל את פרס Distinguished Paper Award והדגיש את ההשפעה המשמעותית של המחקר שלהם.

החוקרים פנו לענקיות הטכנולוגיה שמפעילות את הצ'טבוטים האלה (כמו גוגל ו-OpenAI) במטרה לשלב את הממצאים שלהם באסטרטגיות אבטחת בינה מלאכותית רחבות יותר. הדוקטורנטים סייק סאהא רוי ופוג'יטה ת'וטה שעבדו על ההמצאה הביעו שניהם מחויבות חזקה להשלכות החיוביות של המחקר על עולם אבטחת סייבר.

"אני רוצה שאנשים יהיו פתוחים לעבודה שלנו ויראו את הסיכון", אמר רוי. "זה מתחיל בקהילת הביטחון ומחלחל משם למטה".

"אני באמת שמחה שהצלחתי לעבוד על המחקר החשוב הזה", הוסיפה ת'וטה, "אני גם מצפה לחלוק את העבודה הזו עם עמיתינו בתחום אבטחת הסייבר ולמצוא דרכים לקדם את העבודה הזאת".