This post is also available in: enEnglish (אנגלית)

יותר ויותר מחלקות משטרה משתמשות בטכנולוגיית זיהוי פנים לצורך בקרת קהל או לזיהוי חשודים. ה-FBI בארה"ב ביצע למעלה מ-390,000 חיפושים של זיהוי פנים מאז 2011. גם המחלקה לביטחון המולדת התכוונה להשתמש בטכנולוגיה זו במעברי הגבול לארה"ב ולבדיקת נוסעים, אם כי ויתרה החודש על התוכנית לבקש אישור להשתמש בה לסריקת נוסעים נכנסים ויוצאים.

מחקר חדש חושף אי-דיוקים בתוצאות החיפושים האלה. מערכות מובילות לזיהוי פנים אינן מזהות נכונה אנשים שאינם לבנים בשיעורים גבוהים יחסית לזיהוי לבנים, כך קובע המחקר הפדראלי של NIST – המכון הלאומי האמריקאי לתקנים וטכנולוגיה. 

כשמבצעים חיפוש התאמה "אחד לאחד" במאגר נתונים, אלגוריתמים רבים לזיהוי פנים טועים בשיעור פי 10 עד 100 יותר בזיהוי אנשים ממוצא אפרו-אמריקאי ואסיאתי, בהשוואה לזיהוי פנים של לבנים.

בהתאמה אחד לאחד, בה משתמשים חוקרי אכיפת החוק במטרה להשוות תמונה למאגר נתונים של פרצופים אחרים, הטעות בזיהוי נשים ממוצא אפרו-אמריקאי היתה בשיעור גבוה.

ג'וי בולמוויני, מייסדת הליגה לצדק אלגוריתמי וחוקרת ב-MIT, הגדירה את דוח המחקר כ"דחיה מוחלטת" של הטענות כי הטייה כתוצאה מבינה מלאכותית כבר אינה קיימת.

המחקר מגיע על רקע מחלוקת גוברת לגבי הטכנולוגיה ברחבי ארה"ב, כאשר המבקרים מזהירים שהיא עלולה להביא להטרדות ומעצרים בלתי צודקים, כך מדווח eandt.theied.org

שיעור הטעויות בזיהוי עלול להוביל להאשמות כוזבות ואף לאפשר גשיה למתחזים, לפי הדוח.

במחקר נעשתה הערכה של 189 אלגוריתמי תוכנה מ-99 מפתחים שמייצגים את הרוב בתעשיה. המכון סקר אלגוריתמים של ענקיות טכנולוגיה כגון אינטל ומיקרוסופט, אם כי ראוי לציון שהמחקר אינו מכסה את האלגוריתם שבו השתמשה אמזון במערכת שלה, Rekognition, ששווקה למחלקות משטרה.

מדען המחשבים של NIST, פטריק גרות'ר, הודיע כי ממצא שה הוא "סימן מעודד לכך שאספקת נתוני אימון מגוונים יותר עשויה להביא לתוצאות שוויוניות יותר,אם המפתחים יוכלו להשתמש בנתונים כאלה". לדבריו, באופן כללי, הדוח אמור לסייע למקבלי ההחלטות ולמפתחים "לשקול את המגבלות ואת השימוש המתאים באלגוריתמים אלה", כך הוא צוטט על ידי smartcitiesdive.com.

כבר בפברואר 2018 מצא מחקר של MIT כי בתוכנה מסחרית לזיהוי פנים עלולות להיות מובנות הטיות מין וגזע, שיגרמו לה לטעות בזיהוי המין של נשים בעלות עור כהה בכמחצית מהמקרים.