מבחני כשירות טכנית ל-AI

מספר חברות הייטק בולטות, בהן אנבידיה (Nvidia), אורקל (Oracle), וגוגל (Google), פרסמו דוחות פעילות רשמיים ובהם פירוט של זמני האימון וההכנה של מערכות ורשתות עצביות לשימוש ולהפעלה בשגרה. מבחני כשירות טכנית למערכות AI ומודלים שפתיים כללו הצצה ראשונה למעבדים הגרפיים החדשים אנדבידיה B200 ומערכות חדשות של גוגל.

לפי הנתונים, לאנבידיה B200 תגובה מהירה פי שניים מזו של השבבים והמעבדים הנוכחיים של החברה, H100. בד בבד הצ'יפ החדש של גוגל, טריליום (Trillium), סיפק שיפור של פי ארבעה לעומת הרכיב שבחנה החברה לפני כשנתיים. המבחנים מבוססים על מערכת MLPerf 4.1 ומורכבים משישה תרגילים שכוללים התאמה של מודלים שפתיים למגוון משימות ותפקידים, הגדרה של מערכות זיהוי אובייקטים, זיהוי גרפים וייצור ממוחשב של תמונות ומסמכים ויזואליים.

סדרת המבחנים לתקינות ולאופן הפעולה הכללי של מערכות חדשות או משודרגות נקראת "בוחן ביצועים" (benchmark test) והיא נחוצה ככל שהבינה המלאכותית מתקדמת ומשתנית. כידוע, בשנים האחרונות חברות הייטק ומפתחים שמים דגש בפיתוח ושילוב של AI גנרטיבי. כך גם מהות בוחני הביצועים השתנתה. הגרסה החדשה של בוחן הביצועים MLPerf מסמלת שינוי ניכר מהגרסאות הקודמות. מפעיל הבוחנים דיוויד קנטר (David Kanter) אומר שבשלב זה כל הגרסאות הקודמות של בוחני הביצועים כבר אינן רלוונטיות. הבינה המלאכותית השתנתה.

עלות האנרגיה שהמחשבים צורכים תוך כדי הרצת בוחני ביצועים והפעלת פלטפורמות AI הייתה ונשארת אחת הסוגיות המורכבות ביותר בתחום. לדוגמה, הפעלת שרתים ומקורות טכניים לעבודה תקינה של פלטפורמות בינה מלאכותית צורכת כ-16 מגה ג'אול תוך 5 דקות, עם הספקת כוח ממוצעת של 5.4 קילוואט. ברמה הכלכלית זה אומר כי עלות ההפעלה של צ'יפ אחד כזה היא 75 סנט בארצות הברית.

לפרטים נוספים