האם GPT-4 יכול לפרוץ למחשב שלך?

This post is also available in: English (אנגלית)

חוקרים מאוניברסיטת UIUC באילינוי חקרו מודלי שפה גדולים כמו GPT-4 ואת היעילות שלהם בניצול פרצות אבטחת סייבר, ומצאו שהם אכן מסוגלים לנצל חולשות "one-day" באופן אוטונומי.
למרות שכבר נערכו בעבר ניסיונות לבדוק את היכולת של סוכני מודלי שפה גדולים (LLM) לפרוץ לאתרי אינטרנט באופן אוטונומי, בדיקות אלה היו בלעדיות לחולשות פשוטות בלבד. החוקרים מאוניברסיטת UIUC בדקו את התיאוריה שלהם והוכיחו כי במקרים מסוימים, "סוכני LLM יכולים לנצל באופן אוטונומי חולשות one-day במערכות בעולם האמיתי".
על פי Cybernews, החוקרים אספו נתונים של 15 חולשות one-day שכללו מספר שסווגו כסיכון קריטי בתיאור CVE (Common Vulnerabilities and Exposures, מסד נתונים של מידע ציבורי משותף סביב חולשות ופרצות באבטחת סייבר). כאשר החוקרים סיפקו ל-GPT-4 עם תיאור של חולשת CVE, המודל היה יעיל בכ-87% בניצול נקודות התורפה האלה, בהשוואה ל-0% שהושגו על ידי GPT-3.5, LLM אחרים בקוד פתוח, וסורקי חולשות הנמצאים בשימוש נרחב. עם זאת, החוקרים ציינו כי GPT-4 חייב לכלול את תיאור ה-CVE כדי לנצל את החולשות ביעילות, ויכול לנצל רק 7% מהחולשות באופן עצמאי.
המחקר מצא גם את היתרון הכלכלי של השימוש ב-LLM ובינה מלאכותית, אשר התגלה כזולה ויעילה בהרבה מאשר העבודה של בני אדם. יתר על כן, התגלה כי סוכני LLM נמצאו להיות "ניתנים להגדלה טריוויאלית, בניגוד לעבודה אנושית", מה שהופך אותם ניתן ליעילים בהרבה מאשר מומחי סייבר והאקרים אנושיים.
מידע זה שהתגלה על ידי החוקרים מעלה שאלות על השימוש הנרחב של LLM, אשר עולה בפופולריות בהתמדה בשל התועלת שהוא מביא בחיים המקצועיים והאישיים של אנשים, אבל גם הוכח כשימושי להאקרים לשיפור כישוריהם ולביצוע התקפות.
ענקית הטכנולוגיה מיקרוסופט פרסמה בעבר הצהרה כי עקבה אחר קבוצות פריצה המזוהות עם המודיעין הצבאי הרוסי, משמרות המהפכה של איראן וממשלות סין וצפון קוריאה, וראתה את כולן מנסות לשפר את מבצעי הפריצה שלהן באמצעות מודלי LLM.
בכירי אבטחת סייבר הזהירו עוד מהשנה הקודמת מפני התופעה ההולכת וגדלה הזו, בטענה כי גורמי איום משתמשים ב-LLM כדי לערוך מחקר זדוני, לכתוב הודעות דוא"ל משכנעות לשם תקיפות פישינג, או להשיג מידע על סוכנויות מודיעין מתחרות.