This post is also available in:
English (אנגלית)
מודלי בינה מלאכותית משמשים כיום בסיס למאות מוצרים, מצ'אטבוטים ועוזרי תכנות ועד לתוכנות ארגוניות וכלי אבטחת מידע. כתוצאה מכך, חולשה אחת המתגלית במודל בינה מלאכותית עלולה להשפיע גם על שירותים רבים המבוססים על אותה טכנולוגיה. אולם בניגוד לחולשות בתוכנה מסורתית, עד כה לא היה מנגנון אחיד לדיווח על חולשות ייחודיות לבינה מלאכותית, שיוכל להתריע בפני כלל הגורמים המושפעים.
פלטפורמת קוד פתוח חדשה מבקשת לסגור את הפער הזה באמצעות החלת עקרונות של גילוי מתואם של חולשות גם על עולם הבינה המלאכותית.
המערכת, הנקראת FLARE-AI (Flaw Reporting for AI), מספקת מנגנון מרכזי לדיווח על חולשות, פרצות אבטחה ואירועי אבטחה הקשורים לבינה מלאכותית. במקום להודיע לספק תוכנה יחיד בלבד, חוקרי אבטחה יכולים להגיש דיווח מובנה, המופץ באופן אוטומטי למספר ארגונים האחראים על אימות הממצאים, תיאום הטיפול וניהול תהליך החשיפה.
על פי דיווח של TechXplore, המשתמשים ממלאים טופס דיווח אחיד, היוצר תיאור קריא למכונה של הבעיה שהתגלתה. לאחר מכן ניתן להעביר את הדיווח למפתחי מודלים, לספקי שירותי אירוח של מודלים, לגופים ממשלתיים, למאגרי אירועי אבטחה או לגופי תיאום עצמאיים בתחום הסייבר לצורך המשך בדיקה.
אחת המטרות המרכזיות של הפלטפורמה היא ההכרה בכך שחולשות בבינה מלאכותית אינן מוגבלות בהכרח למוצר יחיד. אם מספר שירותים מבוססים על אותו מודל יסוד, חולשה שהתגלתה באחד מהם עשויה לדרוש טיפול מתואם אצל ספקים רבים בו־זמנית.
המערכת משתלבת גם בתהליכי הדיווח המקובלים בעולם הסייבר. ניתן לחבר את הדיווחים למנגנוני תיאום ותיקים לניהול חולשות, המבצעים אימות, מנהלים תהליך של גילוי אחראי, ובמקרים המתאימים גם מקצים מספרי CVE (Common Vulnerabilities and Exposures), המאפשרים לארגונים לעקוב אחר החולשה ולנהל את תהליך הטיפול בה.
מנקודת מבט של סייבר, הגישה מקרבת את תחום אבטחת הבינה המלאכותית לסטנדרטים שכבר מקובלים בטיפול בחולשות תוכנה קונבנציונליות. גילוי מתואם מעניק למפתחים הזדמנות לתקן חולשות לפני שפרטיהן מתפרסמים לציבור, ובמקביל מאפשר להתריע בפני ארגונים העלולים להיות חשופים לאותה בעיה מבלי להיות מודעים לכך.
היוזמה משתלבת גם במאמצים רחבים יותר לגבש מסגרות אחידות לדיווח על חולשות בבינה מלאכותית, שיוכלו להתמודד עם בעיות המתגלות במודלים שונים ובסביבות הפעלה מגוונות.
ככל שהבינה המלאכותית משתלבת עמוק יותר במערכות ביטחוניות, בתשתיות קריטיות, במערכות בריאות, במוסדות פיננסיים ובשירותי ממשל, היכולת לזהות במהירות חולשות משותפות הופכת לחשובה יותר ויותר. תהליך דיווח מסודר עשוי לקצר את הזמן שבין גילוי החולשה לבין תיקונה, ולשפר את הנראות של סיכוני אבטחה ברחבי מערכות בינה מלאכותית מורכבות.
במקום להתייחס לחולשות בבינה מלאכותית כאירועים מבודדים, הפלטפורמה החדשה משקפת תפיסה שלפיה מדובר באתגר סייבר רחב היקף, המחייב שיתוף פעולה בין חוקרים, מפתחים, ספקי טכנולוגיה וגופי ממשל.
המחקר פורסם כאן.
