ווירוס "תולעת" חדש מאיים על הבינה המלאכותית

This post is also available in: English (אנגלית)

חברות רבות כיום משלבות כלי בינה מלאכותית גנראטיבית במוצריהן כדי להפחית את עומס העבודה האנושי ולהקל על משימות קשות, והתוצאות הינן גם טרנספורמטיביות אבל גם מסוכנות.

מומחים וחוקרים רבים בוחנים כעת את האיומים הפוטנציאליים נגד מודלים המופעלים על ידי AI, ואחד מהאיומים האלה הוא "תולעת" שיכולה לגנוב נתונים ולפרוס תוכנות זדוניות בכלים ויישומים מופעלי AI.

השם של "תולעת" זו הוא Morris II. היא פותחה ע"י חוקרים כדי לתקוף ולנצל מערכות אקולוגיות של בינה מלאכותית גנראטיבית, על מנת להראות את היקף ההרס שכלים כאלה יכולים לגרום. התולעת כבר הדגימה את יכולותיה להפיץ ולנהל פעילויות זדוניות.

על פי Interesting Engineering, החוקרים כינו את התולעת Morris-II על שם "תולעת מוריס", אחד מהווירוסים הראשונים למחשב אי פעם. הם הסבירו במחקרם: "תולעת מחשב היא סוג של תוכנה זדונית שפועלת על ידי הפצה עצמאית ברשתות מחשבים, לעתים קרובות ללא צורך באינטראקציה של המשתמש". כמו כן, התולעת לא דורשת תוכנה מארחת כדי להתפשט (בניגוד לווירוסי מחשב). במקום זאת, תולעי מחשב מנצלות חולשות במערכות הפעלה, פרוטוקולי רשת או יישומים כדי להעתיק את עצמן ולהתפשט ממחשב למחשב באופן אוטונומי.

מחקר חדש זה מזהה כלים רגישים המופעלים על ידי בינה מלאכותית ומראה כיצד Morris II יכולה לעבוד עליהם, ובכך מדגיש את החשיבות של הבנה והקלת סיכוני אבטחה בנוף הבינה המלאכותית המתפתח.

כשמדובר ביכולותיה של תולעת Morris II- היא יכולה להתפשט באמצעות AI גנראטיבי, להערים על המערכות, לשלוח הודעות ספאם, להפיץ שקרים ואפילו לגנוב מידע אישי של אנשים. התולעת משכפלת את עצמה על ידי הזרקת הנחיות זדוניות לתוך מודלים בינה מלאכותית גנראטיבית, ולאחר מכן מתפשטת לגורמים אחרים בתוך המערכת האקולוגית.

מחקר זה טוען כי Morris II יכולה להשפיע על שני סוגים של יישומים המופעלים על ידי בינה מלאכותית גנראטיבית: יישומים הנשענים על התוצאות המיוצרות על ידי שירותי GenAI כדי לתפקד (ולכן מאוד פגיעים למניפולציה), ויישומים המשתמשים ב-RAG (צבירה חוזרת של מודלים גנראטיביים) כדי לשפר את שאילתות ה-GenAI שלהם.

החוקרים סיכמו את המחקר באומרם: "בעוד שאנו מקווים שממצאי המאמר ימנעו את הופעתן של תולעי GenAI "בטבע", אנו מאמינים שתולעי GenAI יופיעו בשנים הקרובות במוצרים אמיתיים ויביאו השלכות לא רצויות ומשמעותיות ".