האם ניתן לסמוך על טכנולוגיית זיהוי הפנים?

This post is also available in: English (אנגלית)

ה-FBI בארה"ב ביצע למעלה מ-390,000 חיפושים של זיהוי פנים מאז 2011. גם המחלקה לביטחון המולדת התכוונה להשתמש בטכנולוגיה זו במעברי הגבול לארה"ב ולבדיקת נוסעים, אם כי ויתרה החודש על התוכנית לבקש אישור להשתמש בה לסריקת נוסעים נכנסים ויוצאים.

על פי מחקרים חדשים, מערכות מובילות לזיהוי פנים אינן מזהות נכונה אנשים שאינם לבנים בשיעורים גבוהים יחסית לזיהוי לבנים, כך קובע המחקר הפדראלי של NIST – המכון הלאומי האמריקאי לתקנים וטכנולוגיה. כאשר מבצעים חיפוש התאמה "אחד לאחד" במאגר נתונים, אלגוריתמים רבים לזיהוי פנים טועים בשיעור פי 10 עד 100 יותר בזיהוי אנשים ממוצא אפרו-אמריקאי ואסיאתי, בהשוואה לזיהוי פנים של לבנים. בהתאמה אחד לאחד, בה משתמשים חוקרי אכיפת החוק במטרה להשוות תמונה למאגר נתונים של פרצופים אחרים, הטעות בזיהוי נשים ממוצא אפרו-אמריקאי היתה בשיעור גבוה.

ג'וי בולמוויני, מייסדת הליגה לצדק אלגוריתמי וחוקרת ב-MIT, הגדירה את דוח המחקר כ"דחיה מוחלטת" של הטענות כי הטייה כתוצאה מבינה מלאכותית כבר אינה קיימת. המחקר מגיע על רקע מחלוקת גוברת לגבי הטכנולוגיה ברחבי ארה"ב, כאשר המבקרים מזהירים שהיא עלולה להביא להטרדות ומעצרים בלתי צודקים, מדווח eandt.theied.org שיעור הטעויות בזיהוי עלול להוביל להאשמות כוזבות ואף לאפשר גישה למתחזים. 

במחקר נעשתה הערכה של 189 אלגוריתמי תוכנה מ-99 מפתחים שמייצגים את הרוב בתעשיה. המכון סקר אלגוריתמים של ענקיות טכנולוגיה כגון אינטל ומיקרוסופט, אם כי ראוי לציון שהמחקר אינו מכסה את האלגוריתם שבו השתמשה אמזון במערכת שלה, Rekognition, ששווקה למחלקות משטרה.

מדען המחשבים של NIST, פטריק גרות'ר, אמר כי "סימן מעודד לכך שאספקת נתוני אימון מגוונים יותר עשויה להביא לתוצאות שוויוניות יותר, אם המפתחים יוכלו להשתמש בנתונים כאלה". לדבריו, באופן כללי, הדוח אמור לסייע למקבלי ההחלטות ולמפתחים "לשקול את המגבלות ואת השימוש המתאים באלגוריתמים אלה". 

מעוניינים לצלול אל תוך עולם העתידנות הטכנולוגית? – הירשמו ל-INNOTECH 2023, הכנס והתערוכה הבינלאומיים לסייבר, HLS וחדשנות באקספו תל אביב ב29-30 במרץ.

מעוניינים בחסות / ביתן תצוגה בתערוכת ה-INNOTECH 2023? לחצו כאן לפרטים!