ביקורת: טכנולוגיית זיהוי פנים אינה בשלה לשימוש משטרתי

This post is also available in: English (אנגלית)

זיהוי פנים הוא אחד התחומים השנויים ביותר במחלוקת במחקרים, הן בגלל הפרטיות והן בשל סוגיית הגזע. כעת עולה טענה כי תוכנת זיהוי הפנים אינה בשלה לשימוש על ידי סוכנויות אכיפת החוק. לאחרונה, הפגינו עובדי אמזון נגד השימוש של המשטרה בטכנולוגיית זיהוי הפנים Rekognition מפיתוח החברה. שדה התעופה באורלנדו החל לחייב את כל הנוסעים בטיסות הבינלאומיות לבצע סריקות פנים. ומינהל ההגירה והגבול בארה"ב החל ליישם זיהוי פנים בגבול עם מקסיקו.

במאמר דעה המתפרסם ב-techcruch.com, מזהיר בריאן בראקין, מנכ"ל חברת הסטארטאפ Kairos לזיהוי פנים ובינה מלאכותית, כי הטכנולוגיה תנוצל לפגיעה באזרחים במידה ותימסר לידי ממשלות או סוכנויות משטרה.

בראקין סירב לאחרונה לפנייתה של יצרנית מצלמות הגוף Axon לשתף פעולה עם החברה שלו בחקר זיהוי הפנים.

“השימוש בזיהוי פנים מסחרי על ידי גורמי האכיפה אינו אחראי ואף מסוכן", הוא כותב. "כמנכ"ל שחור של חברת תוכנה המפתחת שירותי זיהוי פנים, יש לי קשר אישי לטכנולוגיה מבחינה תרבותית וחברתית", לדבריו.

מחקר שנערך על ידי חוקר מחשבים מ-MIT, ג'וי בואולמוויני, מצא לאחרונה כי זיהוי פנים הוא בדרך כלל פחות מדויק לגבי פנים בגוון כהה בהשוואה לפנים בגוון בהיר. בראקון טוען במאמרו כי הבעיה החמורה היא שכאשר צוותי אכיפת החוק מסתמכים יותר ויותר על טכנולוגיות זיהוי פנים, חוסר השוויון מבחינת הדיוק של הזיהוי עלול להוביל להשלכות עבור השחורים.

"ככל שהתוכנה תראה יתר תמונות של אנשים כהי עור, כך הסיכוי שתזהה אותם נכונה נמוך יותר", הוא כותב. "הבעיה היא שהתוכנה הקיימת לא נחשפה למספיק תמונות של אנשים כהי אור כדי שניתן יהיה להסתמך עליה לזיהויים. וטעות בזיהוי עלולה להוביל להרשאה מוטעית או אף גרוע מכך".

לפי gizmodo.com, סוכנויות האכיפה בארה"ב מסתמכות יותר ויותר זיהוי פנים כשירות לביטחון הציבור. בתחומים בהם זיהוי של אדם קשור לביטחון הפיזי, כל אי-דיוק או אנומליה עלולים להוביל לחיפושים נוספים ואינטראקציה נוספת עם כוחות האכיפה. פניהם של אנשים שאינם לבנים כבר נסרקות באופן אינטנסיבי באזורים בהם האבטחה מוגברת, ויש חשש כי השימוש בזיהוי פנים עלול רק להחמיר את הבעיה.