חברת GSI Technology הכריזה לאחרונה על הישג משמעותי בתחום עיבוד נתוני בינה מלאכותית (AI), כאשר מחקר עצמאי שנערך באוניברסיטת קורנל אימת שטכנולוגיית ה-APU (ר”ת Associative Processing Unit) שלה מסוגלת להציע ביצועים ברמת כרטיסים גרפיים מתקדמים, אך עם צריכת אנרגיה נמוכה בצורה דרמטית.
המחקר, שהוצג בכנס Micro ’25 ופורסם במגזין המדעי ACM, מהווה אחד המחקרים המקיפים הראשונים שבדקו מכשיר Compute-In-Memory מסחרי בתנאי עבודה אמיתיים.
מהי טכנולוגיית Compute-In-Memory?
בניגוד למחשבים מסורתיים שבהם המעבד והזיכרון נפרדים זה מזה, טכנולוגיית Compute-In-Memory מבצעת את החישובים ישירות בתוך שבבי הזיכרון עצמם.
העיקרון דומה לכך שבמקום להחזיק את כל חומרי הגלם והכלים באותו שולחן עבודה – במקום לרוץ כל פעם למחסן להביא מרכיבים חדשים, פשוט מבצעים את כל הפעולות במקום אחד.
ביצועים מרשימים עם חיסכון אדיר באנרגיה
המחקר בדק את דגם Gemini-I APU של GSI מול כרטיס המסך NVIDIA A6000 ומעבדים רגילים, והתוצאות היו מרשימות:
- ביצועים זהים לכרטיס מסך מתקדם: ה-APU הצליח להגיע לרמת ביצועים דומה לזו של כרטיס המסך NVIDIA A6000 במשימות עיבוד שפה טבעית מתקדמות
- חיסכון של 98% באנרגיה: בהשוואה לכרטיסי מסך, ה-APU צורך פחות מ-2% מהאנרגיה הנדרשת לביצועים דומים
- מהיר פי 4.8-6.6 ממעבד רגיל: במשימות חיפוש ואחזור מידע, ה-APU הצליח להיות מהיר משמעותית ממעבדים רגילים
- קיצור של עד 80% בזמן העיבוד הכולל: משימות שלמות מסתיימות הרבה יותר מהר הודות לעיצוב הייחודי של ה-APU
הדור הבא כבר כאן
החברה כבר הכריזה על דגם Gemini-II, הדור השני של ה-APU, שמבטיח ביצועים מהירים פי 10 מהדגם הראשון עם צריכת אנרגיה נמוכה עוד יותר.
מעבר לכך, החברה מפתחת דגם בשם Plato שמיועד במיוחד ליישומי קצה (Edge AI) – כלומר מכשירים קטנים ומוגבלים באנרגיה כמו רובוטים, רחפנים ומכשירי IoT.
מה זה אומר בשביל המשתמש?
המשמעות המעשית של הטכנולוגיה הזאת רחבה:
- מכשירים ניידים חכמים יותר: סמארטפונים ומחשבים ניידים יוכלו להריץ יישומי AI מתקדמים בלי לרוקן את הסוללה.
- מרכזי נתונים ירוקים יותר: שרתים שמריצים מודלי AI יצרכו הרבה פחות חשמל, דבר שיוזיל עלויות ויפחית פליטת פחמן.
- רובוטים ורחפנים אוטונומיים: מכשירים שפועלים על סוללות יוכלו לעבוד זמן ארוך יותר ולבצע משימות מורכבות יותר.
- יישומי הגנה ותעופה: מערכות שצריכות ביצועים גבוהים במקומות עם מגבלות חשמל וקירור.
העובדה שהמחקר בוצע על ידי חוקרים עצמאיים מאוניברסיטת קורנל ופורסם במגזין המדעי ACM (קישור למחקר) מעניקה אמינות רבה לטענות החברה.
החוקרים לא רק בדקו את הביצועים, אלא גם פיתחו מסגרת אנליטית חדשה שמסייעת למפתחים לייעל תוכנות עבור טכנולוגיית Compute-In-Memory.
