This post is also available in:
English (אנגלית)
ככל שמערכות בינה מלאכותית הופכות לנפוצות יותר, כך גם החששות סביב פרטיות המידע מתגברים. ארגונים מסתמכים יותר ויותר על מאגרי נתונים גדולים לצורך אימון מודלים, אך רגולציה וציפיות משתמשים דוחפות לבקרה מחמירה יותר על מידע אישי. אחד הפתרונות המתפתחים הוא "למידה פדרטיבית עם הזכות להישכח" (federated unlearning), המאפשרת להסיר נתונים ממודל מאומן, מבלי לרכז מראש מידע רגיש במקום אחד.
הקונספט מבוסס על למידה פדרטיבית, שבה הנתונים נשארים מקומיים, למשל בבתי חולים או בנקים, ורק עדכוני המודל משותפים. “Unlearning” מוסיף את היכולת למחוק בדיעבד את ההשפעה של נתונים מסוימים. בתיאוריה, הדבר תומך בדרישות כמו "הזכות להישכח", ומאפשר לאנשים או ארגונים לבקש שהמידע שלהם לא ישפיע עוד על החלטות המערכת.
עם זאת, יכולת זו מוסיפה שכבת מורכבות חדשה. הסרת נתונים ממודל מאומן אינה פשוטה כמו מחיקת קובץ. שיטות רבות כיום מסתמכות על קירובים חישוביים במקום אימון מחדש מלא של המודל, כך שעקבות של הנתונים המקוריים, או השפעתם, עשויים להישאר.
על פי דיווח של TechXplore, מצב זה יוצר פער אבטחתי פוטנציאלי. תוקף יכול תחילה להזין נתונים מניפולטיביים למערכת, ובכך להשפיע בעדינות על התנהגות המודל. לאחר מכן, הוא עשוי לבקש להסיר את הנתונים. אם תהליך ה"שכחה" אינו מושלם, הנתונים הגלויים נעלמים, אך ההשפעה הסמויה נשארת. כך עלולות להיוותר הטיות בלתי מזוהות או "דלתות אחוריות" (backdoors) הפועלות בתנאים מסוימים.
חשש נוסף הוא הידרדרות הדרגתית בביצועים. בקשות הסרה חוזרות או מתוזמנות היטב עלולות לשנות לאט את ביצועי המודל מבלי לגרום לכשל ברור. מאחר שמערכות פדרטיביות מפזרות נתונים בין מקורות רבים, לעיתים קשה להתחקות אחר השפעת תרומה מסוימת על התוצאה הכוללת.
מנקודת מבט ביטחונית וביטחון פנים, הסיכונים הללו משמעותיים. מערכות AI משמשות יותר ויותר בתחומים כמו ניתוח מודיעין, סייבר ותמיכה בקבלת החלטות. אם גורמים עוינים יכולים להשפיע על האופן שבו מודלים לומדים, וגם "שוכחים", מידע, הם עשויים להשפיע על תוצאות מבלי לגשת ישירות למערכת.
האתגר, אם כן, אינו רק הגנה על פרטיות הנתונים, אלא גם הבטחת שלמות המערכת. הדבר כולל אימות בקשות הסרה, מעקב אחר שינויים במודלים לאורך זמן וזיהוי דפוסים חריגים של מחיקת נתונים.
ככל שהשימוש בבינה מלאכותית מתרחב, מנגנונים שנועדו להגביר אמון יהפכו בעצמם לרכיבי אבטחה קריטיים. הבטחה שמערכות אכן "שוכחות" מבלי ליצור חולשות נסתרות תהיה מפתח לשמירה על פרטיות ואמינות כאחד.
