מיקרוסופט: מדינות יריבות משתמשות ב-AI גנראטיבי עבור פעולות סייבר זדוניות
This post is also available in: 
English (אנגלית)
מיקרוסופט טוענת כי מדינות עוינות לארה"ב כמו איראן, צפון קוריאה, רוסיה וסין מתחילות להשתמש בבינה מלאכותית גנרטיבית כדי לארגן פעולות סייבר התקפיות.
ענקית הטכנולוגיה שיתפה פעולה עם חברת OpenAI כדי לזהות ולשבש איומים שהשתמשו או ניסו לנצל את טכנולוגיית הבינה המלאכותית שפותחה על ידי החברה. החברה אף הודיעה בבלוג שלה כי הטכניקות היו בשלב פיתוח מוקדם ולא היוו משהו חדש או ייחודי.
על פי Interesting Engineering, חברות אבטחת סייבר כבר משתמשות זמן רב בלמידה מכונה למטרות הגנה (בעיקר כדי לזהות התנהגות חריגה ברשתות), אבל משתמשים אחרים בטכנולוגיה כוללים פושעים וגורמים זדוניים, וההשקה של מודלי שפה גדולים כמו צ'אט GPT העלתה את רמת הסכנה.
מיקרוסופט גם דיווחה לאחרונה כי בינה מלאכותית גנראטיבית צפויה להגביר פעולות הנדסה חברתית זדוניות, מה שיוביל לזיופי deepfake ושיבוטי קול מתוחכמים יותר – מה שמהווה איום על הדמוקרטיה, במיוחד מאחר שיותר מ-50 מדינות צפויות לערוך בחירות השנה.
להלן מספר דוגמאות מאת מיקרוסופט:
- קבוצת ריגול הסייבר הצפון קוריאנית "קימסוקי" השתמשה במודלים AI כדי לחקור צוותי חשיבה זרים הלומדים את המדינה וכדי לייצר תוכן שככל הנראה היה אמור לשמש בקמפייני פישינג ממוקדים.
- משמרות המהפכה של איראן השתמשו במודלי שפה גדולים כדי לסייע בהנדסה חברתית וללמוד כיצד פולשים עשויים להתחמק מגילוי בתוך רשת שנפגעה. על פי הדיווחים, זה כולל יצירת הודעות פישינג בדואר אלקטרוני, ובמקרה כזה הבינה המלאכותית תעזור להאיץ ולהגביר את ייצור ההודעות.
- יחידת המודיעין הצבאית הרוסית "Fancy Bear" השתמשה במודלי AI כדי לחקור טכנולוגיות לוויין ומכ"ם שעשויות להתייחס למלחמה באוקראינה.
- קבוצת ריגול הסייבר הסינית "Aquatic Panda", הידועה בכך שהיא תוקפת מגוון רחב של תעשיות, השכלה גבוהה וממשלות ברחבי העולם, השתמשה במודלי AI "בדרכים המרמזות חקירה מוגבלת של האופן שבו מודלי שפה גדולים יכולים לשפר ולהגדיל את הפעילות הטכנית שלהם".
- "Maverick Panda", קבוצה סינית שהתמקדה בקבלני ביטחון אמריקאים ובמספר מגזרים אחרים במשך יותר מעשור, נראתה שהשתמשה במודלי שפה גדולים באופן המרמז כי היא בוחנת את יעילותם כמקור מידע "על נושאים רגישים פוטנציאלית, אנשים בעלי פרופיל גבוה, גיאופוליטיקה אזורית, השפעה אמריקאית ועניינים פנימיים".
