This post is also available in:
English (אנגלית)
ככל שארגונים משלבים עוזרי בינה מלאכותית בשגרת העבודה, רבים מניחים שמנגנוני האבטחה הקיימים יחולו עליהם באופן טבעי. תוויות למניעת זליגת מידע (DLP) וסימוני סודיות נועדו להגביל גישה אוטומטית לחומרים רגישים. אולם תקרית עדכנית מלמדת כי מנגנונים אלה לא תמיד פועלים כמתוכנן כאשר מערכות AI מעורבות בתהליך.
מיקרוסופט אישרה כי תקלה ב־Microsoft 365 Copilot אפשרה לעוזר לגשת ולסכם הודעות דוא"ל שסומנו כ"סודיות". התקלה, שאותרה בסוף ינואר 2026, השפיעה על תכונת ה־“Work Tab”, המסוגלת לייצר סיכומים מתיקיות "נשלח" ו"טיוטות" ב־Outlook. אף שההודעות נשאו תוויות סודיות שנועדו לחסום עיבוד אוטומטי, המערכת הצליחה לעבד את תוכנן.
על פי דיווח של Cybernews, מקור הבעיה היה בהתנהגות לא צפויה בממשק הצ’אט, ולא בכשל במנגנוני בקרת הגישה המרכזיים. לאחר גילוי התקלה, הופצה תצורת עדכון ללקוחות ארגוניים ברחבי העולם. החברה ציינה כי מדיניות הגנת המידע הכללית נותרה בתוקף, אך אופן הטיפול של העוזר בהודעות מסומנות לא תאם את התכנון המקורי.
האירוע מתרחש על רקע התרחבות מהירה של יכולות מבוססות AI בפלטפורמות פרודוקטיביות. העוזר משולב כיום ב־Word, Excel, PowerPoint ו־Outlook, וארגונים יכולים לפתח סוכני AI מותאמים אישית המאומנים על נתונים פנימיים. היכולות הללו מיועדות לייעל תהליכים, לאוטומציה של כתיבת מסמכים ולסיכום תקשורת ארגונית.
עם זאת, חוקרי אבטחה מזהירים מזה זמן מפני הסיכונים שבהטמעת מודלי שפה גדולים בסביבות ארגוניות. הדגמות קודמות הראו כי ניתן לגרום לעוזרי AI לחשוף מידע רגיש באמצעות ניסוחי פקודות מתוחכמים או קישורים זדוניים. מומחים מציינים כי מערכות DLP קונבנציונליות לא תוכננו במקור לפקח על האופן שבו סוכני AI מפרשים ומארזים מחדש מידע.
עבור ארגוני ביטחון, מפעילי תשתיות קריטיות וסוכנויות ממשלתיות, ההשלכות משמעותיות במיוחד. מערכות דוא"ל מכילות לעיתים פרטים מבצעיים, נתוני רכש ודיונים מסווגים או רגישים. כלי AI שעוקף בטעות מדיניות סימון עלול ליצור וקטור חדש לחשיפת מידע – גם ללא פריצה חיצונית.
ככל שעוזרי AI הופכים לכלי עבודה סטנדרטיים, המקרה מדגיש את הצורך בממשל מחמיר יותר, בבדיקות מתמשכות ובשקיפות גבוהה לגבי האופן שבו מערכות אוטומטיות ניגשות למידע מוגן ומעבדות אותו.
