This post is also available in:
English (אנגלית)
כלי אבטחת מידע נשענו במשך שנים על עיקרון פשוט: משתמשים נוטים לסמוך על אתרים מוכרים, ומערכות הגנה מסוגלות לעיתים לזהות דומיינים חשודים לפני שנגרם נזק. אך תוקפים מוצאים יותר ויותר דרכים לנצל פלטפורמות אמינות עצמן, ולהציג תוכן זדוני שנראה לגיטימי הרבה יותר מאתרי פישינג מסורתיים.
קמפיין חדש שנחשף לאחרונה ממחיש את השינוי הזה באמצעות ניצול יכולות שיתוף התוכן של פלטפורמות צ'אט מבוססות בינה מלאכותית, ובהן ChatGPT. במקום להפנות קורבנות לאתרים לא מוכרים, התוקפים מארחים דפי הפצת נוזקות בתוך תוכן שנוצר בפלטפורמות אמינות, כך שההודעות המזויפות נראות כאילו הגיעו משירותים לגיטימיים.
המתקפה מתחילה בעמוד משותף שנוצר באמצעות בינה מלאכותית ומציג לכאורה הודעת תקלה רשמית של השירות. המשתמשים מתבשרים כי הפלטפורמה חווה עומס חריג, ומתבקשים להוריד יישום למחשב כדי להמשיך להשתמש בשירות. על פי דיווח של Cyber News, מאחר שהעמוד מוצג בתוך קישור שיתוף לגיטימי המאוחסן בדומיין אמין, ההודעה נראית אמינה הרבה יותר מניסיון פישינג רגיל.
החוקרים גילו כי הודעת התקלה אינה הודעה רשמית כלל. מדובר בעמוד שנבנה באמצעות קוד HTML ו־CSS מותאם אישית, המנצל את יכולות שיתוף התוכן והרצת הקוד של הפלטפורמה. אף שהעמוד כולל סממנים המעידים שמדובר בתוכן שנוצר באמצעות בינה מלאכותית, משתמשים רבים עלולים שלא לשים לב לכך.
לחיצה על כפתור ההורדה מפנה את המשתמשים לאתר מתחזה המדמה את עמוד ההורדה הרשמי של התוכנה. לפי הדיווחים, האתר כולל מתקינים ייעודיים למערכות הפעלה שונות ומיתוג שנועד לחזק את תחושת האמינות. החוקרים מצאו גם שימוש בטכניקות הסוואה (Cloaking), שבמסגרתן משתמשים אמיתיים רואים את עמוד ההורדה הזדוני, בעוד שסורקי אבטחה ובוטים אוטומטיים מקבלים תוכן תמים. כך קשה יותר לזהות ולחקור את התשתית הזדונית.
הנוזקות המופצות באמצעות קמפיינים מסוג זה מסוגלות לספק לתוקפים יכולות גניבת פרטי גישה, גישה מרחוק למערכת וגניבת מידע רגיש. טכניקות דומות נצפו גם בפלטפורמות בינה מלאכותית נוספות, כגון Claude, דבר המעיד כי גורמי איום בוחנים יותר ויותר את אקו־סיסטם הבינה המלאכותית כערוץ חדש להנדסה חברתית.
מנקודת מבט של סייבר וביטחון מידע, הקמפיין מדגיש אתגר הולך וגובר: תוכן זדוני יכול כעת להיות מאוחסן בתוך סביבות דיגיטליות הנתפסות כאמינות במיוחד. סימני האזהרה הקונבנציונליים, כמו דומיינים חשודים או אתרים לא מוכרים, הופכים פחות אפקטיביים כאשר התוקפים פועלים דרך שירותים לגיטימיים.
הלקח הרחב יותר הוא שהאמון בפלטפורמה אינו בהכרח חל גם על התוכן שנוצר או משותף בתוכה. ככל שפלטפורמות בינה מלאכותית משתלבות יותר בשגרות העבודה היומיומיות, הן הופכות בעצמן לחלק בלתי נפרד ממפת איומי הסייבר.
