מודל חדש משפר את האמון בקבלת החלטות של בינה מלאכותית

This post is also available in: English (אנגלית)

חוקרים מאוניברסיטת ווטרלו פיתחו מודל חדש של בינה מלאכותית המסוגל להפחית הטיית מידע ולשפר את האמון והדיוק בקבלת החלטות ובארגון הידע שנוצר על ידי למידת מכונה.

מודלים מסורתיים של למידת מכונה לא תמיד מספקים תוצאות ומידע מדויקים, ובסופו של דבר נוצרות הטיות מידע, העדפה לקבוצות עם אוכלוסיות גדולות, או השפעה מגורמים לא ידועים.

תוצאות שגויות ומוטעות אלה עלולות לגרום להשלכות חמורות בתחומים רבים. על פי Techxplore, תחום הרפואה הוא תחום בו עלולות להיות השלכות חמורות לתוצאות מוטות של למידת מכונה. הסיבה לכך היא שצוות בית החולים ואנשי מקצוע רפואיים מרבים להסתמך על מערכי נתונים המכילים אלפי רשומות רפואיות ואלגוריתמים מורכבים על מנת לקבל החלטות קריטיות לגבי הטיפול במטופלים שלהם.

כמות עצומה זו של נתונים ממוינת בסיוע למידת מכונה כדי להגביר את היעילות, אבל ישנן קבוצות מטופלים עם דפוסים סימפטומטיים נדירים שעשויות להתפספס, וחולים שסומנו עם תווית שגויה או חולים עם חריגות עלולים להשפיע על תוצאות האבחון, מה שמוביל לאבחנות שגויות.

מחקר חדש זה נקרא " תאוריה ורציונל של גילוי דפוס all-in-one הניתן לפרשנות, ומערכת אי-שזירה", והוא הובל על ידי ד"ר אנדרו וונג, פרופסור בכיר להנדסת תכנון מערכות בווטרלו. המחקר מספק מודל חדשני שנועד להפטר ממחסומים כאלה על ידי פתירת סיבוכי דפוסים מורכבים מתוך נתונים, על מנת שיהיה אפשר לקשר אותם לסיבות בסיסיות מסוימות שאינן מושפעות על ידי חריגות ומקרים של תיוג שגוי. זה יכול לשפר את האמון ואת האמינות בבינה מלאכותית ניתנת להסברה (XAI).

וונג טוען כי מחקר זה תורם משמעותית לתחום XAI, ומסביר כי לצוות הייתה התגלות שהובילה אותם לפתח את מודל ה-XAI החדש שנקרא Pattern Discovery and Disentanglement (PDD)- גילוי ופתירת דפוסים.

הצוות מציין כי הם שואפים להשתמש ב-PDD כדי לגשר על הפער בין טכנולוגיות בינה מלאכותית לבין הבנה אנושית כדי לאפשר קבלת החלטות אמינה ולפתוח ידע עמוק יותר ממקורות נתונים מורכבים.

על פי Techxplore, מודל ה-PDD החדש חולל מהפכה בגילוי תבניות, ומסוגל לגלות דפוסים חדשים ונדירים במערכות נתונים, מה שמאפשר לחוקרים ולמתרגלים כאחד לזהות תוויות שגויות או מקרים חריגים בלמידת מכונה.