הכלי שיהפוך את הבינה המלאכותית לירוקה יותר

This post is also available in: English (אנגלית)

בינה מלאכותית הופכת במהירות לכלי מרכזי יותר ויותר בחיי היומיום שלנו, והמחיר הסביבתי של עובדה זו הוא נושא חם. לאחרונה, חוקרים פיתחו שיטה חדשה שמטרתה לשפר את הקיימות של בינה מלאכותית על ידי חיזוי מדויק של העלויות החישוביות והאנרגיה שנדרשת מעדכון מודלים של למידה עמוקה. הגישה החדשנית, הידועה בשם Representation Shift Quantifying Estimator (RESQUE), מסייעת למתעסקים ב-AI להעריך את המשאבים הדרושים כדי לאמן מחדש או לשנות מודלים קיימים, מה שמקל על תכנון עדכונים ללא בזבוז מיותר.

על פיTechXplore, ג'ונג-און קים, פרופסור למדעי המחשב באוניברסיטת צפון קרוליינה שהוביל את המחקר, מדגיש כי מודלי AI לרוב צריכים להיות מעודכנים מספר פעמים לאורך מחזור החיים שלהם, בין אם בשל שינויים במשימה שצריכים לבצע או שינויים בנתונים אותם מעבדים. עדכונים אלה, למרות שהם חיוניים, יכולים להיות יקרים במונחים של חישוב וצריכת אנרגיה. עם זאת, אימון מחדש של מודל קיים הוא הרבה יותר יעיל משאבית מאשר יצירת מודל חדש מאפס. על ידי חיזוי העלויות של עדכונים כאלה מראש, RESQUE מאפשרת להחליט החלטות מושכלות יותר על מתי ואיך לבצע עדכונים אלו.

שיטת RESQUE פועלת על ידי השוואת מערך הנתונים המקורי של המודל לנתונים החדשים שאליהם יעודכן. השוואה זו מסייעת להעריך את דרישות המחשוב והאנרגיה של העדכון. העלויות הצפויות מוצגות לאחר מכן כמדד יחיד, הכולל מדדים שונים כגון epoch, שינויים בפרמטרים, gradient norms, שימוש באנרגיה בקילוואט-שעה, ופליטות פחמן מקושרות בקילוגרמים. תחזיות אלה הן יקרות ערך עבור משתמשי AI שצריכים לתקצב משאבים ביעילות ולנהל את הקיימות של המודלים שלהם.

באמצעות בדיקות מקיפות עם מערכי נתונים ותנאים שונים, החוקרים מצאו כי התחזיות של RESQUE תואמות באופן מדויק לעלויות בעולם האמיתי. הכלי לא רק מסייע למשתמשים לתכנן עדכונים, אלא גם תומך בקיימות ארוכת טווח של מערכות AI על ידי מתן תובנות עמוקות יותר על העלויות הכוללות הקשורות למחזור החיים שלהם.

עבודה זו, אשר תוצג בכנס ה-39 של AAAI בפברואר 2025, מספקת פתרון מעשי למפתחי AI שרוצים להפחית את ההשפעה הסביבתית ואת התקורה החישובית של שמירה על מודלים עדכניים.