NVIDIA חושפת שבבי-על שיעמדו בעומסי עבודה מורכבים של בינה מלאכותית

This post is also available in: English (אנגלית)

Nvidia, הספקית המובילה בעולם של שבבים ליישומי בינה מלאכותית, חשפה בהודעה לעיתונות כי היא משיקה את הדור הבא של שבבי-העל שנועדו להתמודד עם "עומסי העבודה המורכבים ביותר של בינה מלאכותית".

שבב-על חדש זה נקרא GH200 GraceHopper, והוא כולל את מעבד ה-HBM3e הראשון בעולם. על פי Interesting Engineering, הוא נוצר על ידי שילוב של פלטפורמת Hopper של Nvidia המכילה יחידת עיבוד גרפי (GPU) עם פלטפורמת Grace CPU המטפלת בצרכי העיבוד.

למרות שבעבר היו מקושרות בעיקר לעיבוד גרפי מתקדם במחשבים ובקונסולות משחקים, יכולות החישוב המעולות של ה-GPU יושמו לשימוש ביישומים כמו כריית מטבעות קריפטו והכשרת מודלים של בינה מלאכותית.

Azure של מיקרוסופט השתמשה בשבבים של Nvidia כדי ליצור מערכות מחשוב גדולות שיענו על הצרכים של חברת OpenAI. Nvidia בנתה את התשתית הדרושה כדי לחלוק את עומס העבודה של מערכי נתונים גדולים להכשרת המודל, ו-OpenAI אכן השתמשה במערכת כדי לפתח מודלים של GPT שהניעו את צ'אט GPT.

עכשיו Nvidia רוצה לבנות מערכות עיבוד נתונים גדולות דומות בעצמה, ואפילו השיקה פלטפורמה בשם Nvidia MGX בה עסקים יכולים לאמן ולהפעיל מודלי בינה מלאכותית משלהם בתוך הארגון שלהם.

על פי Interesting Engineering, החברה יצרה את שבבי העל שלה באמצעות טכנולוגיית NVLink של Nvidia המאפשרת חיבורים בין שבב לשבב (C2C), המסייעת ל- GPU לקבל גישה מלאה לזיכרון של המעבד ולספק 1.2 טרה-בייט של זיכרון מהיר.

ה-GH200 כולל גם את מעבד ה-HBM3e הראשון בעולם, שהוא מהיר ב-50% בהשוואה ל-HBM3 המשמש כיום לחישובים. עם רוחב פס משולב של 10 טרה-בתים לשנייה, פלטפורמת GH200 יכולה לעבד מודלים של בינה מלאכותית גדולים פי 3.5 ומהירים פי 3 מאשר פלטפורמות קודמות של Nvidia.

יש ביקוש גבוה מאוד ל-GPUs משום שהם נחוצים הן כדי להכשיר מודלי בינה מלאכותית והן כדי להפעיל אותם אחר כך. ככל שהבינה המלאכותית נכנסת יותר ויותר למיינסטרים, הביקוש לשבבים אלה צפוי רק לגדול. לכן, אין זה מפתיע שאפילו ענקיות טכנולוגיה כמו גוגל ואמזון מפתחות גרסאות והצעות משלהן בתחום.

למרות התחרות, עם שחרורו של GH200  חברת Nvidia מוכיחה את עצמה כספקית הטכנולוגיה המובילה כיום.