עם מי אתם מדברים באמת?

This post is also available in: English (אנגלית)

פעם הבאה שתחלו שיחה עם אדם חדש באינטרנט, שותף עבודה חדש או אפילו פרטנר פוטנציאלי, עצרו רגע וחשבו מחדש. האם הבן אדם איתו אתם משוחחים באמת מי שאתם חושבים שהוא?

יוזרים של פורומי רשת מחתרתיים החלו לחלוק בתוכנות זדוניות שפותחו על ידי הכלי הויראלי של OpenAI ושחקני הונאה מתכננים לעשות שימוש בתוכנות בעולם הדייטינג, בו השחקנים יוכלו לנצל את תמימות האנשים וליצור שיח משכנע בין אדם לצ'אט בוט משכנע בדמות אישה מעוניינת.

פושעי הסייבר החלו להשתמש בכלי הבינה המלאכותית ChatGPT מיד לאחר פרסומו על מנת לבנות ולפתח כלי האקינג במהירות, כך אומרים מומחי האבטחה בסייבר. שחקני הונאה ברשת גם מנסים לנצל את הכלי כדי לפתח צ'אט בוטים נוספים שיתחזו להיות נשים צעירות וילכדו כך את המטרות שלהם, כך אמר אחד המומחים שעוקב אחר הפורומים הקרימינליים לעיתון Forbes.

חלק משמעותי מהיוזרים ההתחלתיים של ChatGPT הזהירו ממהלכים דומים, בזמן שפפולריות הכלי הגיעה לרמות ויראליות ברשת מאז פרסומה לציבור במהלך חודש דצמבר, כגון יצירה של תוכנות זדוניות למטרות מעקב אחר לחיצות מקלדת או פיתוח תוכנות הונאה חדשות.

הפורומים הקרימינליים של הרשת סוף סוף מדביקים את הפער ומאשרים את חששות המומחים, על פי דוח מאת חברת אבטחת הסייבר הישראלית צ'ק פוינט. באחד מהפורומים שסוקרו על ידי צ'ק פוינט, האקר שעבר שיתף תוכנות זדוניות כנגד מכשירי אנדרויד פרסם קוד שנכתב על ידי ChatGPT המסוגל לגנוב מסמכים, לדחוס אותם ולשלוח אותם דרך חיבור רשתי. ההאקר הראה כלי נוסף שמתקין דלת אחורית על גבי מחשב ומסוגל להוריד תוכנות נוספות על גבי המחשב הנגוע.

יוזר נוסף דיבר על "ניצול" של ChatGPT בעזרה עם קידוד חלקים מהשוק של הרשת האפלה, dark web. לדוגמה, היוזר הראה כיצד צ'אט בוט יכול במהירות לבנות אפליקציה שמנטרת אחר מחירי קריפטו למען מערכת תשלום תיאורטית.

אלכס הולדון, מייסד חברת מודיעין הסייבר Hold Security, אמר כי הוא ראה כיצד פושעי סייבר החלו לנצל את ChatGPT גם למטרות של הונאות דייטינג, במטרה לייצר משתמשים אנושיים משכנעים. "הם מתכננים לייצר צ'אט בוטים שיתחזו בעיקר לנשים ויקדמו את מהלך השיחה עם המטרות שלהם," כך הולדון אמר. "הם מנסים להפוך את שיחות החולין לאוטומטיות."