הארכיטקטורה החסכונית באנרגיה מתרחבת בין מכשירים התומכים בבינה מלאכותית

וריסיליקון (VeriSilicon) הכריזה כי יחידת עיבוד הרשת (NPU) העצבית, עם צריכת אנרגיה נמוכה וביצועים חזקים לעיבוד תמונה, תומכת כעת בהסקת מסקנות במכשיר עצמו במסגרת מודלי שפה גדולים (LLM) עם ביצועי מחשוב AI שעולים על 40 TOPS. ארכיטקטורת NPU זו, עם צריכה יעילה של אנרגיה, תוכננה במיוחד לעמידה בדרישה ההולכת וגדלה ליכולות AI גנרטיבי בפלטפורמות ניידות. הפתרון מספק ביצועי מחשוב רבי עוצמה עבור מחשבי AI והתקני קצה נוספים, ובנוסף הוא ממוטב לעמידה בדרישות המאתגרות והמחמירות לצריכת אנרגיה יעילה בטלפוני AI ובפלטפורמות ניידות נוספות.

ה-NPU IP של וריסיליקון בנוי על ארכיטקטורה בעלת יכולת מדרוג והגדרה גבוהה, והוא תומך במחשוב בעל יכולת דיוק מעורבת, אופטימיזציית דלילות מתקדמת ומחשוב מקביל. התיכון של הפתרון משלב ניהול יעיל של זיכרון עם האצה מודעת דלילות, אשר מפחיתה את תקורת המחשוב וזמן האחזור ומבטיחה עיבוד חלק ומגיב של AI. המוצר תומך במאות אלגוריתמי AI כולל AI-NR ו-AI-SR, וכן במודלי AI מתקדמים כגון Stable Diffusion ו-LLaMA-7B. בנוסף, ניתן לשב אותו בצורה חלקה עם Ips נוספים של וריסיליקון לצורך עיבוד ולאפשר מחשוב הטרוגני, כמו גם העצמת מפתחי SoC לפיתוח של פתרונות AI מקיפים שעומדים בדרישות מגוונות של יישומים.

ה-NPU IP של וריסיליקון, בעל צריכת האנרגיה הנמוכה במיוחד, תומך גם במסגרות AI פופולריות כגון TensorFlow Lite, ONNX, ו-PyTorch, ומקצר בדרך זו ואף מפשט את שלב האינטגרציה עבור לקוחות במגוון מקרי שימוש ב-AI.

"התקנים ניידים, כגון סמארטפונים, מתפתחים והופכים לשרתי AI אישיים. הפיתוח המהיר של AIGC ושל טכנולוגיות LLM רב מודליות מגדיל בצורה אקספוננציאלית את הדרישה למחשוב AI והופכת לגורם המבדיל במוצרים ניידים", אמר וויג'ין דאי, מנהל אסטרטגיה ראשי, סגן נשיא ביצועי ומנהל כללי של חטיבת ה-IP ב-וריסיליקון. "אחד האתגרים הקריטיים ביותר במסגרת התמיכה בעומסי עבודה מעין אלה במחשוב AI תובעני הוא בקרה של צריכת האנרגיה. וריסיליקון משקיעה באופן שוטף בפיתוח של NPU בעלי צריכת אנרגיה נמוכה עבור טלפוני ומחשבי AI. אנו נרגשים לראות כיצד הטכנולוגיה שלנו ממומשת בסיליקון עבור טלפוני ומחשבי ה-AI של הדור הבא, באמצעות שיתוף פעולה הדוק עם שותפי SoC מובילים".