זיהוי פנים – לא טוב כמו שחשבנו?

This post is also available in: English (אנגלית)

למרות הנוכחות ההולכת וגדלה של טכנולוגיית זיהוי פנים במרחבים ציבוריים, מחקר חדש מצביע על כך שהביצועים של מערכות אלה בשטח נמוכים בהרבה מהנתונים שמציגים מדדים רשמיים.

הטכנולוגיה כבר נמצאת בשימוש נרחב בנמלי תעופה, מבצעי אבטחה ציבוריים ובמסגרות מסחריות. עם זאת, חוקרים מאוניברסיטת אוקספורד מביעים דאגה מכך שמדדי הביצועים הנוכחיים, כגון אלו שמפורסמים על ידי מכון התקנים הלאומי האמריקאי (NIST) במסגרת הערכת טכנולוגיית זיהוי הפנים (FRTE), מציגים תמונה אופטימית מדי.

לדברי החוקרים, הבעיה טמונה בפער בין תנאי המעבדה שבהם מתבצעת ההערכה לבין התנאים האמיתיים בשטח. בעוד שהערכת FRTE מדווחת על דיוק של עד 99.95% במערכות המובילות, מדובר בבדיקות שנעשו בסביבות מבוקרות מאוד — רחוקות מאוד מהמציאות המורכבת והבלתי צפויה של המרחב הציבורי.

בפועל, טכנולוגיית זיהוי פנים סובלת מחולשות משמעותיות. טעויות בזיהוי הובילו לעצירות ולמעצרים שגויים, כולל מקרים מתוקשרים בדטרויט ובלונדון, בהם אנשים זוהו בטעות על ידי מערכות זיהוי פנים בזמן אמת. מקרים אלה חיזקו את הדאגה ארוכת השנים לגבי אמינות הטכנולוגיה, במיוחד בזיהוי אנשים בעלי צבע עור כהה, נשים ואנשים מבוגרים.

אחד הנושאים המרכזיים שעליהם מצביעים החוקרים הוא שהתנאים בעולם האמיתי, הכוללים תאורה לקויה, צפיפות, ותנאי מזג אוויר משתנים, כלל אינם משתקפים בסטים של התמונות המשמשות כמדדי תקן. לרוב, מערכי הבדיקה כוללים תמונות באיכות גבוהה, שצולמו מזווית חזיתית ברורה, שאינן מייצגות את האתגרים הקיימים בפריסה יומיומית של המערכות.

יתרה מכך, מערכי הנתונים להערכה לוקים לעיתים קרובות בחוסר גיוון דמוגרפי, דבר שמוביל לשיעורי שגיאה בלתי שווים בין קבוצות אוכלוסייה שונות. חוסר האיזון הזה מעלה את הסיכון לתוצאה חיובית שגויה (false positive) במיוחד בסביבות רגישות כמו אכיפת חוק.

למרות הביקורת, טכנולוגיית זיהוי הפנים ממשיכה להתרחב. בבריטניה, לדוגמה, משרד הפנים הודיע לאחרונה על פריסה נוספת של מערכות זיהוי פנים בזמן אמת בקרב כמה גופי משטרה.

החוקרים מדגישים את הצורך בהערכות עצמאיות, בשטח, של מערכות זיהוי פנים — בטרם ניתן יהיה להסתמך עליהן בקבלת החלטות קריטיות בתחומי הביטחון הציבורי. לטענתם, כל עוד לא תתבצע בחינה כזו, קיימת סכנה שמקבלי ההחלטות יתבססו על נתונים שאינם משקפים את המציאות בפועל.