הצד האפל של טכנולוגיית זיהוי הפנים

This post is also available in: English (אנגלית)

טכנולוגיות זיהוי פנים נהיות יותר ויותר פופולריות בשנים האחרונות. בתוך המגמה הרחבה הזו, חברת אמזון מהווה גורם חלוצי, כשהיא כבר תופסת לקוחות ברחבי ארה"ב, כולל מחלקות משטרה, הגירה ואכיפת מכס. אולם מומחים טוענים כי החברה לא עושה מספיק כדי להפריך חששות בנוגע להטיה באלגוריתמים בטכנולוגיית הזיהוי שלה, במיוחד כשמדובר בביצועים על פנים עם עור כהה.
הגורם האחרון לחשש הוא מחקר שנערך לאחרונה על ידי מעבדת חקר המדיה של MIT, שגילה כי המערכת של אמזון, Rekognition, הביאה ביצועים ברמה פחות גבוהה בזיהוי המגדר אם היה מדובר בנשים או באנשים בעלי עור כהה. במבחנים שנערכו על ידי ג'וי בולומוויני מ-MIT, המערכת לא טעתה בזיהוי המגדר של גברים בעלי עור בהיר אך זיהתה נשים כגברים ב-19% מהפעמים והצביעה על נשים כהות כגברים 31% מהזמן. הבדיקה מגיעה לאחר מחקר של בולומוויני בפברואר האחרון, שגילה הטיות מגדר וגזע דומות בתוכנות זיהוי פנים של מיקרוסופט, IBM והחברה הסינית Megvii. מעט אחרי שבולומוויני שיתפה בתוצאות המחקר שלה, מיקרוסופט ו-IBM הצהירו כי ישפרו את הטכנולוגיה שלהן, על פי הבדיקה האחרונה הן עשו זאת.
על פי דיווח של theverge.com בנושא, מאז פברואר האחרון מספר חברות טכנולוגיות העלו את חששותיהן בנוגע לבעיות בטכנולוגיות זיהוי פנים, משום שההטייה באלגוריתמיקה היא הרבה פעמים תוצאה של נתוני אימון מוטים של המערכת. IBM פרסמה מאגר נתונים מתוקן, שלטענתה ישפר את רמות הדיוק. במיקרוסופט הלכו צעד נוסף ואף קראו לפיקוח על הטכנולוגיה כדי לאכוף סטנדרטים על מנת שהשוק לא יהפוך ל"מירוץ לתחתית".
אולם אמזון עשתה מעט כדי לשפר את מצבה בנושא. החברה גם הכחישה את תוצאות המחקר האחרון וטענה כי לא אומר דבר בנוגע לדיוק הטכנולוגיה שלה. נטען בחברה כי החוקרים לא בדקו את הגרסה האחרונה של התוכנה וכי זיהוי המגדר נערך על פי ניתוח מבנה פנים והבעות או מאפיינים כמו שיער פנים, בניגוד לזיהוי פנים (שמתאים בין סריקות פנים לצילומים של המשטרה). על פי אמזון, מדובר בשתי חבילות תוכנה נפרדות. "לא אפשרי להגיע למסקנות על הדיוק של זיהוי פנים מתוצאות של בדיקה שנערכה על ידי שימוש בניתוח פנים", אמר מאט ווד, מנכ"ל למידה עמוקה ובינה מלאכותית באמזון, בהצהרה לעיתונות.
לצד זאת, במחקר מוקדם יותר התגלו בעיות דומות בתוכנת זיהוי. בדיקה בשנה שעברה גילתה שכשסורקים תמונות של חברי קונגרס, התוכנה של אמזון טעתה בהתאמה של 28 אנשים. החברה הטילה את האשם על טעויות בחישוב לא נכון באלגוריתם. על אף שהטייה במערכות זיהוי פנים נהייתה מקור למחאה עבור חוקרים שמודאגים מאיזון אלגוריתמי, רבים מזהירים שאסור שהמחאה הזו תאפיל על נקודות מהותיות יותר. כפי שבולומוויני והמחברת הנוספת של המחקר, אינילווה דבורה ראג'י ציינו במחקר האחרון שלהן, רק משום שמערכות זיהוי פנים לא מתפקדות כהלכה על צבעי עור מסוימים אין בזה כדי לומר שלא מדובר בכלי לחוסר צדק או דיכוי.
בשעה שבאמזון מתכננים לקדם את התוכנה לסוכנויות אכיפת החוק, עובדים באמזון וקבוצות זכויות אזרחיות כאחד כבר יצאו נגד הטכנולוגיה ואמרו כי התוכנה תוכל יום אחד לתפעל פיקוח המוני. "הטכנולוגיה הזו מוטמעת בדרכים שבאופן חומרי מסייעות לחברה, ולא קיבלנו שום התראות משימוש לרעה", נאמר בהצהרה של אמזון שצוטטה ב-newsweek.com.