גוגל מוסיפה חותמות מים לזיהוי תמונות בינה מלאכותית

This post is also available in: English (אנגלית)

בניסיון להילחם בעלייה של כמויות המידע המוטעה באינטרנט, זרוע הבינה המלאכותית של גוגל SynthID מנסה להוסיף חותמת מים דיגיטלית כדי לזהות תמונות שנוצרו על ידי בינה מלאכותית. חותמת המים תאפשר על ידי הטבעת שינויים בפיקסלים בודדים בתמונות כך שהחותמת תהיה גלויה למחשבים אבל לא לעין האנושית. עם זאת, DeepMind טוענים כי שיטה זו אינה "עמידה בפני מניפולציית תמונה קיצונית".

חותמות המים הרגילות, שהן בדרך כלל לוגו או טקסט שנוספו על תמונה, אינן מספיקות לזיהוי תמונות שנוצרו על ידי בינה מלאכותית, מכיוון שניתן לערוך אותן בקלות.

על פי חדשות ה-BBC, המערכת של גוגל יוצרת חותמת מים כאילו בלתי נראית, אשר תאפשר למשתמשים בתוכנה שלה לגלות באופן מידי אם התמונה המדוברת אמיתית או נוצרה על ידי מכונה. למרות כל זאת, חשוב לציין שהמערכת תחול כרגע רק על תמונות שנוצרו על ידי מחולל התמונות של גוגל עצמו, Imagen.

פושמיט קוהלי, ראש המחקר של DeepMind קובע כי התוכנה של החברה עדיין יכולה לזהות את חותמת המים גם לאחר שהתמונה נחתכה או נערכה.

"אתה יכול לשנות את הצבע, אתה יכול לשנות את הניגודיות, אתה יכול אפילו לשנות את הגודל שלה… (ו-DeepMind) עדיין יוכלו לראות שהיא נוצרה על ידי בינה מלאכותית", כך אמר קוהלי, אך עם זאת חזר והדגיש כי מדובר ב"השקה ניסיונית" של המערכת, והחברה זקוקה לאנשים שישתמשו בה כדי להמשיך ולשפר אותה.

בחודש יולי 2023, גוגל הייתה אחת משבע חברות בינה מלאכותית מובילות (כולל מיקרוסופט ואמזון) שחתמו על הסכם כדי להבטיח פיתוח ושימוש בטוח בבינה מלאכותית, מה שכולל להבטיח שאנשים יוכלו לזהות תמונות שנוצרו על ידי מחשב על ידי יישום חותמות מים.

קלייר לייבוביץ' מקבוצת הקמפיין Partnership on AI הצהירה כי יש צורך בתיאום רב יותר בין עסקים וכי יש צורך בסטנדרטיזציה בתחום. היא הסבירה כי יש כיום כל כך הרבה שיטות שונות, ויש צורך לפקח על ההשפעה של כולן ולקבל דיווח טוב יותר על איזו מהן עובדות ולאיזו מטרה.

בנוסף לתמונות, מטא פרסמה גם מאמר מחקר למחולל הווידאו שלה שעוד לא השיקה ונקרא "Make-A-Video", ואמרה כי חותמות מים יתווספו לסרטונים שנוצרו כדי לענות על דרישות דומות לשקיפות לגבי עבודות שנוצרו על ידי בינה מלאכותית.