טכנולוגיה מעוררת מחלוקת – בשירות אכיפת החוק?

This post is also available in: English (אנגלית)

טכנולוגיות שמאתרות רגשות, מה שמכונה מערכות זיהוי רגש, מסייעות בסינון מועמדים לעבודה, בוחנות סימני הונאה בקרב חשודים בפשע ועוד. מרכז מחקר בארה"ב, AI Now, קורא לחקיקת חוקים חדשים שיגבילו את השימוש בטכנולוגיה. בדוח השנתי שלו, טוען המרכז כי ניכרת במגזר זה צמיחה משמעותית, ויתכן ששוויו כבר הגיע לכ-$20 מיליארד.

המרכז קורא לאיסור על השימוש בתוכנה זו בהחלטות משמעותיות שמשפיעות על חיי אנשים ו/או קובעות את נגישותם להזדמנויות.

הטכונלוגיה מאתרת מצבים רגשיים פנימיים "באמצעות פרשנות של מיקרו-הבעות על פניהם, טון הדיבור ואף דרך ההליכה", מסבירה שותפה מייסדת במרכז, פרופ' קייט קרופורד. "משתמשים בה בכל מקום, החל מאיתור המועמד המושלם לעבודה ועד להערכת כאב אצל חולה, איתור קשיבות סטודנטים בכיתה ועוד.

"למרות שטכנולוגיות אלה נמצאות יותר בשימוש, מספר רב של מחקרים מראים ש.. אין הוכחה משמעותית שאכן קיים קשר עקבי כל כך בין רגש פנימי לבין הדרך שבה הפנים מראות זאת".

הבעות הפנים משתנות "בין תרבויות, לפי מצבים, ואפילו בין השעות ביום", היא טוענת.

חברת Oxygen Forensics המציעה תוכנה לאיתור רגשות למשטרה מגינה על הטכנולוגיה. "היכולת לאתר רגשות כגון כעס, מתח או חרדה, מספקת לסוכנויות אכיפת החוק תובנות כאשר מדובר בחקירה רחבת היקף", לפי בכיר בחברה, לי רייבר. "בסופו של דבר אנחנו מאמינים שיישום אחראי של הטכנולוגיה הזאת יסייע להפוך את העולם לבטוח יותר".

דוגמא נוספת היא חברת HireVue שמשווקת כלים מבוססי וידאו ובינה מלאכותית כדי להמליץ על מועמדים לראיון עבודה. הם משתמשים באלגוריתמים צד שלישי כדי לאתר "מחויבות רגשית" לפי מיקרו-הבעות פנים של המועמדים.

חבת Cogito פיתחה אלגוריתמים לניתוח קול עבור צוותים במוקדים טלפוניים, כדי לסייע להם לאתר מתי הלקוחות מתחילים להתרגז. "לפני שמשתמשים באיתור רגשות ככלי שעומד בפני עצמו לקבלת החלטות אוטומטיות, על התעשיה להוכיח בצורה גורפת יותר שמכונות אכן יכולות לאתר רגש אנושי בצורה עקבית ויעילה", אומר מנכ"ל החברה, ג'ושוע פיסט ל-bbc.com. "מה שניתן לעשות כיום הוא להעריך התנהגויות שמייצגות רגשות מסוימים ולספק מידע זה לגורם אנושי כדי לסייע בקבלת החלטות מודעת יותר. לעתיד, על כל הגורמים המובילים והמשתמשים בתחום לשתף פעולה, לחקור ולפתח פתרונות שיעזרו להשיג הבנה משותפת ועמוקה יותר שתוביל, בסופו של דבר, ליחסי גומלין הדוקים יותר בין הדברים – לא למרות הטכנולוגיה אלא בזכותה".