This post is also available in:
English (אנגלית)
לאחרונה, אסרה OpenAI על מספר חשבונות משתמשים בסין ובצפון קוריאה, בטענה כי הטכנולוגיה שלה משמשת למטרות מזיקות, כולל מעקב ומניפולציה של דעת הקהל. חברת הבינה המלאכותית חשפה את הפעולות הללו בדו"ח מסוף פברואר, תוך הדגשת הסיכונים הפוטנציאליים של משטרים אוטוריטריים המנצלים כלי בינה מלאכותית לשליטה גיאופוליטית ומקומית.
על פי OpenAI, החברה זיהתה את הפעולות האלה באמצעות כלי AI שנועדו לפקח על שימוש לרעה בפלטפורמה שלה. בעוד שהחברה לא ציינה את המספר המדויק של החשבונות שנחסמו או את מסגרת הזמן שלאורכה התרחשו ההסרות, היא הדגישה מספר מקרים בולטים של שימוש לרעה.
על פי רויטרס, דוגמה אחת כללה משתמשים מסין שהשתמשו ב-ChatGPT כדי ליצור מאמרים בספרדית, אשר מתחו ביקורת על ארצות הברית. מאמרים אלה פורסמו אז על ידי כלי תקשורת מרכזיים באמריקה הלטינית. זה נתפס כניסיון להפיץ תעמולה אנטי-אמריקאית לקהלים זרים.
במקרה אחר, דווח כי אנשים המקושרים לקוריאה הצפונית השתמשו ב-ChatGPT כדי ליצור קורות חיים מזויפים ופרופילים מקוונים, כשהם מכוונים לחברות מערביות במטרה להבטיח הזדמנויות תעסוקה כוזבות, שעשויות להיות למטרות ריגול או למטרות לא חוקיות אחרות.
בנוסף, OpenAI זיהתה סדרה של חשבונות הקשורים למבצע הונאה פיננסית שמקורו בקמבודיה. חשבונות אלה השתמשו בטכנולוגיה של הפלטפורמה כדי לתרגם תוכן וליצור פוסטים בפלטפורמות מדיה חברתית כמו X (לשעבר טוויטר) ופייסבוק, ככל הנראה כדי לתמוך בתוכניות פיננסיות מטעות.
ככל שטכנולוגיית הבינה המלאכותית ממשיכה להתפתח, החלטתה של OpenAI להסיר חשבונות זדוניים משמשת כתזכורת לצורך הגובר באמצעי הגנה חזקים בעידן הדיגיטלי. הגישה הפרואקטיבית של החברה מדגישה את החשיבות של פריסת AI אתית ואת התפקיד שחברות הטכנולוגיה צריכות למלא במניעת שימוש לרעה. ככל שהשפעתה של הבינה המלאכותית מתרחבת, ממשלות וארגונים חייבים לשתף פעולה כדי לקבוע תקנות ואמצעי נגד ברורים יותר כדי להגן מפני שימוש בה על ידי שחקנים זדוניים. התפתחות זו גם מדגישה את האיזון העדין בין חדשנות וביטחון בעולם המחובר יותר ויותר.
