גוגל מכריזה על הגבלות על Gemini לקראת הבחירות המתקרבות

This post is also available in: English (אנגלית)

עליית תכני הבינה המלאכותית הביאה איתה חששות רציניים לגבי הפצת מיסאינפורמציה לקראת הבחירות ברחבי העולם. חברת למידת המכונה Clarity דיווחה לאחרונה כי מספר ה-deepfakes גדל ב -900% בכל שנה. חששות אלה הובילו את גוגל להכריז על ההגבלות החדשות שלה על הצ'אטבוט Gemini בהקשרי הבחירות הקרבות, פיצ'ר שכבר הושמש בארה"ב ובהודו.

חברת גוגל כתבה בפרסום בבלוג שלה: "מתוך זהירות רבה לגבי נושא כל כך חשוב, התחלנו להטיל מגבלות על סוגי שאילתות הקשורות לבחירות… אנחנו לוקחים ברצינות את האחריות שלנו לספק מידע איכותי עבור שאילתות מסוג זה, ואנחנו פועלים ללא הרף כדי לשפר את ההגנות שלנו".

על פי CNBC, הודעה זו מגיעה בתקופה בה פלטפורמות רבות מתכוננות לשנה הצפויה להיות מלאה בבחירות שישפיעו על יותר מ-40 מדינות ברחבי העולם. מידע שגוי ומיסאינפורמציה הקשורים לבחירות מהווים בעיה רצינית מאז 2016, והמחוקקים מודאגים יותר ויותר מאז העלייה המהירה של הבינה המלאכותית.

שיטות זיהוי וסימון deepfakes לא מספיקות להתקדם מהר מספיק כדי לעמוד בקצב של הטכנולוגיה עצמה, וגם אם הפלטפורמות עצמן מסכימות לכלול חותמות מים וסוגים מסוימים של מטאדאטא כדי למנוע זיופים, ישנן דרכים לעקוף אמצעים כאלה (לפעמים אפילו צילום מסך פשוט מספיק כדי לרמות את מערכות הזיהוי).

נראה כי גוגל משקיעה מאמץ לאחרונה ומדגישה את המחויבות שלה לקדם ולהשקיע בעוזרים מבוססי AI (צ'טבוטים, עוזרי קידוד וכלי פרודוקטיביות אחרים). מנכ"ל אלפבית סונדר פיצ'אי הדגיש כי "סוכני AI" הם בעדיפות עליונה כרגע, בעוד מנכ"לים של ענקיות טכנולוגיה כמו מיקרוסופט ואמזון הראו גם הם מחויבות לבניית סוכני AI ככלים לשיפור פרודקטיביות.

סיסי הסיאו, סגנית נשיא גוגל והמנהלת הכללית של Google Assistant ו-Bard, אמרה לעיתונות כי המיתוג מחדש של Gemini, השקת אפליקציות והרחבות פיצ'רים הינם הצעד הראשון ל"בניית עוזר AI אמיתי".