תוספי צ'אט GPT פגיעים לתקיפות סייבר

This post is also available in: English (אנגלית)

חברת התכנה Salt Labs חושפת כי תוספים שונים של צ'אט GPT המאפשרים לו לקיים אינטראקציה עם תוכניות ושירותים חיצוניים מביאים איתם חולשות שיכולות להוביל למתקפות סייבר.

צוות המחקר של החברה חשף שלושה פגמים – אחד בתוך הצ'אטבוט עצמו, אחד ב-PluginLab (בו משתמשים במקביל עם מודל הבינה המלאכותית), ואחד ב-OAuth (המשמש לאישור אינטראקציות בין יישומים). הצוות מסביר כי למרות שהתוספים הללו שימושיים מאוד, הם גם מאפשרים שיתוף של נתוני צד שלישי, שעלולים להיות מנוצלים לרעה ע"י עברייני סייבר.

"ככל שארגונים רבים יותר ממנפים טכנולוגיה מסוג זה, כך גם התוקפים מתאימים את המאמצים שלהם למצוא דרכים לנצל את הכלים הללו ולאחר מכן לקבל גישה לנתונים רגישים", אמר יניב בלמס, סגן נשיא למחקר ב-Salt Security, והוסיף: "תגליותינו האחרונות לגבי החולשות בתוך צ'אט GPT ממחישות את הצורך להגן על התוספים בתוך טכנולוגיה כזו כדי להבטיח שתוקפים לא יוכלו לגשת לנכסים עסקיים קריטיים ולבצע השתלטות על חשבונות".

על פי Cybernews, התקלה בצ'אט GPT התרחשה כאשר מודל ה-AI הפנה את המשתמשים לאתר התוסף כדי לקבל קוד גישת אבטחה. החוקרים מ-Salt Labs גילו כי גורם זדוני יכול לנצל את הפונקציה הזאת כדי לספק אישור קוד עם תוסף זדוני המאפשר לו להתקין את אישוריו באופן אוטומטי בחשבון של הקורבן.

חולשה נוספת היא אתר ה-AI PluginLab. החוקרים מ-Salt Labs גילו שהאתר לא אימת כראוי חשבונות משתמשים ובכך אפשר לתוקף פוטנציאלי להכניס מזהה משתמש אחר ולקבל קוד המייצג את הקורבן, ובכך אפשר השתלטות על התוסף.

החולשה השלישית נגעה במספר תוספים הקשורים לניתוב מחדש של OAuth. התגלה כי גורם זדוני יכול להשתמש בו כדי לשלוח קישור נגוע למשתמשים תמימים.

כל התוספים ש-Salt Labs הזכירו לא משתמשים באימות כתובות URL, ולכן השימוש בהם השאיר את הקורבן חשוף לגניבת האישורים שלהם, ובכך אפשר לתוקף פוטנציאלי להשתלט על החשבון.

על פי הדיווחים, Salt Labs יצרו קשר עם חברת OpenAI, אשר תיקנה את החולשות הללו.