מנגנוני AI עובדים יחד עם מומחי אבטחת סייבר כדי לזהות פרצות

image provided by pixabay

This post is also available in: English (אנגלית)

עם האיום ההולך וגובר של פריצות נתונים והפרות פרטיות, והתדירות והתחכום הגוברים של איומי סייבר, מומחי אבטחת סייבר עובדים מסביב לשעון ועוברים על כמויות אדירות של נתונים כדי לפקח על אירועי אבטחה פוטנציאליים ולמנוע את ההתקפה הבאה. בעוד שקשה לבני אדם לנפות כמויות מידע אדירות, בשביל בינה מלאכותית אין כזה דבר "יותר מידי נתונים" – לכן מומחים רבים מחפשים פתרונות מבוססי בינה מלאכותית כדי לחזק אסטרטגיות אבטחת סייבר ולהקל על הלחץ שנמצא על אנליסטים ומומחי אבטחה.

צוות של מומחים מחטיבת הרשת ואבטחת הסייבר של המכון למדעי המידע של USC בראשות סטיבן שוואב, מעלים עתיד בו צוותים סימביוטיים של בני אדם ו-AI משתפים פעולה כדי לשפר אבטחה, כך שה-AI יכול לסייע לאנליסטים ולשפר את הביצועים הכוללים שלהם בסביבות עתירות סיכון.

דיוויד בלנסון, מנהל שותף של חטיבת נטוורקינג ואבטחת סייבר, מדגיש כי תהליך האוטומציה הוא קריטית בשביל להקל את הנטל שנמצא על האנליסטים בתחום אבטחת הסייבר. "מרכזי תפעול אבטחת מידע מוצפים בהתראות אותן אנליסטים צריכים לנתח במהירות בזמן אמת ולהחליט אילו תסמינים מצביעים על אירוע אמיתי. כאן הבינה המלאכותית והאוטומציה נכנסים לתמונה ומזהים מגמות או תבניות של התראות שיכולות להצביע על אירועים פוטנציאליים".

עם זאת, על פי Techxplore, אחד האתגרים העיקריים של שילוב בינה מלאכותית בפעולות אבטחת סייבר הוא חוסר שקיפות והסברים שקיים במערכות בינה מלאכותית רבות. שוואב מסביר: "כלים מבוססי למידת מכונה הינה שימושית לניטור רשתות ומערכות קצה בהן האנליסטים האנושיים עייפים ותשושים. עם זאת, הם כמו קופסה שחורה ויכולים לזרוק התראות שעשויות להיראות בלתי מוסברות. כאן נכנסת לתמונה היכולת להסביר, מכיוון שהאנליסט האנושי צריך לסמוך על כך שמערכת הבינה המלאכותית פועלת באופן הגיוני".

הפתרון המוצע הוא בניית "מסבירים" (explainers) המציגים את פעולות המערכת במילים שהאנליסט יכול להבין – לדוגמה, משתמשים מקלידים קוד PIN כדי לאמת את זהותם ולהיכנס למערכת, אבל אנשים שונים מקישים את הקוד הנתונים בדפוסים שונים, ואותן ה-AI עשוי לסמן כחשוד גם אם הקוד הוזן כראוי. למרות שדפוסים חשודים אלה אינם למעשה פרצות אבטחה, הבינה המלאכותית עדיין מביאה אותם בחשבון ומאפשרת לאנליסט האנושי לקבל החלטות מושכלות יותר.

מידע זה סופק ע"י Techxplore.