האם בינה מלאכותית יכולה להיות גזענית, ומהן ההשלכות האפשריות?
This post is also available in: 
English (אנגלית)
מערכות בינה מלאכותית המוטות בנושאי גזע אינן רק מטעות, אלא יכולות להזיק ולהרוס את חייהם של אנשים. הודעה לעיתונות מאת פרופסור גדעון כריסטיאן למשפטים באוניברסיטת אלברטה מזהיר מההשלכות האפשריות.
כריסטיאן, שנחשב למומחה בתחום הבינה המלאכותית והחוק, קיבל מענק לפרויקט מחקר בשם "מיתון ההשפעות של טכנולוגיית בינה מלאכותית לזיהוי פנים על גזע, מגדר ופרטיות", ומוביל יוזמה לחקר סוגיות גזע בטכנולוגיית זיהוי פנים המבוססת על בינה מלאכותית בקנדה.
הוא הזהיר כי טכנולוגיית זיהוי הפנים פוגעת במיוחד באנשים שאינם לבנים, והסביר: "הטכנולוגיה הוכיחה שיש לה את היכולת להכיל דעות קדומות אנושיות. בחלק מהטכנולוגיות לזיהוי פנים, יש יותר מ-99% דיוק בזיהוי פנים של גברים לבנים. אבל למרבה הצער כשמדובר בזיהוי פנים של אנשים שאינם לפנים, במיוחד פנים של נשים שחורות, נראה כי הטכנולוגיה מראה את שיעור השגיאות הגבוה ביותר שלה, שהוא כ-35%.
הוא גם מזהיר כי טכנולוגיית זיהוי פנים עשויה להתאים בטעות את פניו של אדם חף מפשע לזה של פושע, כך שמישהו עלול להיעצר על פשע שמעולם לא ביצע.
כריסטיאן הסביר שטכנולוגיה לעולם אינה מוטה מטבעה, אלא האחריות הינה של הנתונים עליה אומנו האלגוריתמים, הרי הטכנולוגיה תניב תוצאות בהתאם למה שמאכילים אותה. הוא טוען שבמובנים רבים מדובר בבעיה ישנה פשוט בשינוי אדרת, ומזהיר שאם לא תטופל היא עלולה להפוך שנים של התקדמות.
"גזענות זה לא דבר חדש", הוא אמר, "מה שחדש הוא האופן שבו ההטיות האלה מתבטאות בטכנולוגיית הבינה המלאכותית. לטכנולוגיה הזו – ולבעיה הספציפית הזו, אם לא תיבדק – יש את היכולת לבטל את כל ההתקדמות שהשגנו כתוצאה מהתנועה לזכויות האזרח".
מידע זה נמסר על ידי Interesting Engineering.
