This post is also available in:
English (אנגלית)
ככל שעוזרי בינה מלאכותית הופכים לחלק בלתי נפרד מסביבת העבודה, משתמשים משתפים יותר ויותר שיחות, מסמכים וקבצי פרויקטים באמצעות כלי שיתוף מובנים. כלים אלה מאפשרים לשלוח שיחה או סביבת עבודה לעמיתים באמצעות קישור אחד, אך הם גם יוצרים אתגר חדש בתחום הפרטיות: כאשר מידע הופך לנגיש לציבור, הוא עלול להפוך גם לנגיש למנועי חיפוש אם לא קיימים מנגנוני הגנה מתאימים.
הסוגיה עלתה לאחרונה לכותרות לאחר שמשתמשים גילו כי שיחות ותוצרים שנוצרו באמצעות Claude של חברת Anthropic הופיעו בתוצאות החיפוש של גוגל ומנועי חיפוש נוספים. החשיפה הייתה קשורה לתוכן ששותף באמצעות האפשרות "Anyone with a link" ("כל מי שיש לו את הקישור"), היוצרת כתובת URL ציבורית המכילה תמונת מצב של השיחה או של התוצר שנוצר.
לדברי החברה, הדף המשותף כולל את כל ההודעות והתכנים שנוצרו עד לרגע יצירת הקישור, בעוד שכל הודעה שנוספה לאחר מכן נשארת פרטית כברירת מחדל. החברה גם מציינת כי המשתמשים מקבלים הודעה שלפיה פרסום תוצר באמצעות קישור עלול להפוך אותו לנגיש לכל אדם באינטרנט ואף להופיע בתוצאות של מנועי חיפוש.
עם זאת, חוקרי אבטחה ומפתחים טוענים כי עצם האפשרות לאתר את התוכן באמצעות מנועי חיפוש היא סוגיה נפרדת מיצירת קישור לשיתוף. לטענתם, כתובות URL שנועדו לשיתוף פעולה לא אמורות להיסרק ולהתווסף באופן אוטומטי לאינדקס של מנועי החיפוש, אלא אם המשתמש בחר במפורש להפוך אותן לניתנות לחיפוש.
החשש התגבר לאחר שפורסמו דיווחים שלפיהם תוצאות החיפוש כללו דפים שהכילו מידע רגיש, ובהם קורות חיים, מפתחות API, מסמכים פיננסיים, מסמכים משפטיים ומידע רפואי אישי. על פי דיווח של Cybernews, בין הדוגמאות שנמצאו הופיעו גם נתונים מניסויים קליניים ומאגרי מידע שכללו מידע הקשור למיקומים גיאוגרפיים. במקרים רבים, החשיפה נבעה מכך שמשתמשים שילבו מידע חסוי בתוצרים, ולאחר מכן שיתפו אותם באמצעות קישורים ציבוריים שנוספו לאינדקס של מנועי החיפוש.
מבחינה טכנית, מדובר בבעיה פשוטה יחסית. מנועי חיפוש סורקים באופן שוטף דפי אינטרנט הנגישים לציבור, אלא אם האתר מורה להם שלא לעשות זאת. מפתחים מציינים כי ניתן למנוע את הוספתם של דפים לאינדקס באמצעות מנגנונים כגון קובץ robots.txt או הוראות noindex, המנחות את מנועי החיפוש שלא לכלול דפים מסוימים בתוצאות החיפוש. לטענת חלק מחברי קהילת המפתחים, מנגנוני ההגנה הללו היו צריכים להיות מופעלים כברירת מחדל עבור קישורי השיתוף של קלוד.
האירוע ממחיש אתגר רחב יותר בתחום אבטחת הסייבר של פלטפורמות שיתוף המבוססות על בינה מלאכותית יוצרת. ארגונים משתמשים כיום בעוזרי AI לצורך ניסוח חוזים, ניתוח נתונים פיננסיים, כתיבת קוד ועיבוד מידע קנייני. אם סביבות עבודה משותפות הופכות לניתנות לחיפוש במנועי חיפוש, מידע עסקי רגיש עלול להיחשף בטעות לקהל רחב בהרבה מזה שלמענו נועד.
עבור ארגוני ביטחון, גופי ממשל ומפעילי תשתיות קריטיות, הסיכון גדול אף יותר. פלטפורמות בינה מלאכותית משמשות יותר ויותר לסיכום מידע מודיעיני, להכנת מסמכים מבצעיים ולניתוח מידע טכני. גם אם לא מתרחשת פריצה למערכת, עצם העובדה שתוכן שנוצר באמצעות בינה מלאכותית הופך לניתן לאיתור במנועי חיפוש עלולה לחשוף מידע מבצעי רגיש או תהליכי עבודה פנימיים. המקרה ממחיש כי בקרת גישה ונראות במנועי חיפוש אינן אותו דבר, וכי כלי שיתוף חייבים להיות מתוכננים עם מנגנוני פרטיות התואמים את רגישות המידע שמשתמשים מפקידים יותר ויותר בידי מערכות בינה מלאכותית.
