צ'אט GPT טוב בפישינג כמעט כמו בני אדם

This post is also available in: English (אנגלית)

מחקר חדש של IBM מוכיח עד כמה כלים מבוססי בינה מלאכותית שיכללו את האמנות של כתיבת הודעות פישינג והונאת קורבנות אנושיים. כבר זמן רב שמומחי אבטחת סייבר ופקידי ממשל הזהירו מפני גורמים זדוניים העלולים להשתמש בכלים מבוססי בינה מלאכותית (כמו צ'אט GPT) כדי להרחיב את תקיפות הפישינג שלהם.

כחלק מהניסוי של IBM, מחצית מהמשתתפים קיבלו הודעת פישינג שנכתבה במלואה על ידי בני אדם, והחצי השני קיבל אימייל שכתב צ'אט GPT. התוצאות מראות כי בני אדם טובים רק במעט בהטעיית אנשים אחרים – 14% מהעובדים נפלו קורבן להודעת פישינג שנכתבה על ידי בני אדם ואף לחצו על קישור זדוני, ו-11% מהעובדים נפלו בהונאה שנכתבה על ידי צ'אט GPT.

סטפני קראתרס, האקרית האנשים הראשית של IBM שהובילה את הניסוי, אמרה כי לקח רק חמש דקות לחוקרים כדי לגרום לצ'אט GPT ליצור דוא"ל משכנע – "עם רק חמש הנחיות פשוטות, הצלחנו להערים על מודל בינה מלאכותית גנראטיבית כדי לפתח הודעות פישינג משכנעות ביותר בתוך חמש דקות בלבד – באותו זמן שלוקח לי להכין כוס קפה".

"בדרך כלל לוקח לצוות שלי כ-16 שעות לבנות הודעת פישינג בדואר האלקטרוני, וזה בלי לקחת בחשבון את הגדרת התשתית. לכן, תוקפים יכולים לחסוך כמעט יומיים של עבודה באמצעות מודלים של בינה מלאכותית", היא הוסיפה.

על פי Cybernews, למרות כך שהמפתחים של צ'אט GPT כמו אמצעי הגנה המונעים ממנו להגיב לבקשות ישירות ליצירת הודעות פישינג, תוכנות זדוניות או כלי סייבר זדוניים אחרים, קראתרס וצוותה הצליחו למצוא דרך לעקיפת הבעיה.

החוקרים החלו בכך שביקשו מצ'אט GPT לרשום את תחומי הדאגה העיקריים לעובדים בתעשיית הבריאות, ולאחר מכן גרמו לו לספק רשימה של טכניקות ההנדסה החברתית והשיווק המובילות בגוף האימייל. פעולות אלה בעצם מיטבו את הסבירות שמספר גדול יותר של עובדים ילחצו על קישור זדוני בהודעת האימייל. לאחר מכן, החוקרים שאלו את צ'אט GPT מי שולח ההודעה צריך להיות, ולבסוף ביקשו מהבוט לעצב דואר פישינג המבוסס על המידע שזה עתה סיפק.

בנוגע לתהליך הנ"ל, אמרה קרותרס: "יש לי כמעט עשור של ניסיון בהנדסה חברתית, עיצבתי מאות הודעות פישינג ואפילו אני מצאתי את הודעות הפישינג שנוצרו על ידי בינה מלאכותית משכנעות למדי". היא גם הסבירה כי בני אדם עדיין טובים יותר ממכונות ביצירת הודעות פישינג משום שלמודלים של בינה מלאכותית עדיין חסרה האינטליגנציה הרגשית הדרושה כדי להערים על מספר גדול יותר של אנשים.

עם זאת, X-Force של IBM כבר הבחינו כי כלים כמו WormGPT נמכרים בפורומים שונים של יכולות פישינג, מה שמראה כי התוקפים בודקים את אפשרות השימוש בבינה מלאכותית בקמפיינים של פישינג, וכי הטכנולוגיה משתפרת כל הזמן.