ג’נסן הואנג, מנכ”ל ומייסד אנבידיה (Nvidia), הציג במהלך אירוע מקוון במסגרת כנס SIGGRAPH 2023 את מגוון הפיתוחים של החברה בתחום הבינה המלאכותית, חומרה ועוד.
בין הפיתוחים שהוצגו ניתן למצוא את פלטפורמת ה-NVIDIA GH200 Grace Hopper, שנועדה להפעיל את דור מחשבי העל הבא של החברה, את סביבת העבודה NVIDIA AI Workbench לפיתוח מהיר וקל של פרויקטים בתחום הבינה המלאכותית, כרטיסים גרפיים חדשים בסדרת ה-NVIDIA RTX ועוד.
NVIDIA GH200 Grace Hopper
בראש רשימת הפיתוחים החדשים של אנבידיה ניתן למצוא את ה-NVIDIA GH200 Grace Hopper, הדור הבא של פלטפורמת ה-Grace מבוססת ה-ARM של החברה שהוצגה ב-2021 ומיועדת למרכזי נתונים ומחשבי על HPC (ר”ת High Performance Computing), לשימוש כמעבד יעודי לחישובי בינה מלאכותית גנרטיבית.
הפלטפורמה החדשה צפויה להגיע לשוק במהלך הרבעון השני של 2024, כאשר היא תשתמש לראשונה בעולם בזכרונות HBM3e המהירים ב-50% מזכרונות ה-HBM הקיימים ותאפשר להגיע לנפח זיכרון גדול פי 3.5 ורוחב פס של פי 3 לעומת הדור הנוכחי.
שרת בודד בתצורה כפולה יוכל להכיל עד 144 ליבות Arm Neoverse ועד 282GB של זיכרון HBM3e ולקבל ביצועים של עד 8PFLOPS.
פלטפורמת NVIDIA AI Workbench ושיתוף פעולה עם Hugging Face
בעבור ארגונים וחברות, אנבידיה הציגה את ה-NVIDIA AI Workbench, סביבת עבודה מאוחדת (unified) שתאפשר למפתחים ליצור ולהתאים מודלי שפה קיימים.
המטרה הראשית של הפלטפורמה היא לפשט את תהליך העבודה על פרויקטים בתחום הבינה המלאכותית על גבי המחשב ולאחר מכן להעביר אותם לסביבות וירטואליות, דוגמת שירות ה-NVIDIA DGX Cloud של החברה עצמה.
בנוסף, אנבידיה הכריזה על שיתוף פעולה עם פלטפורמת Hugging Face המקוונת, הנמצאת בשימוש על ידי מיליוני מפתחי AI ליצירה והרצה של מודלי LLM (ר”ת large language model).
שיתוף הפעולה החדש יאפשר למפתחים העובדים על פלטפורמת Hugging Face להשתמש בשירות מחשוב העל בענן NVIDIA DGX Cloud על מנת לבנות, לאמן וליישם מודולי בינה מלאכותיים. החיבור בין ה-NVIDIA DGX Cloud ל-Hugging Face צפוי להתרחש במהלך החודשים הקרובים.
כרטיסי NVIDIA RTX חדשים
בין הפיתוחים השונים שהציגה אנבידיה ב-SIGGRAPH 2023, החברה הרחיבה גם את ליין כרטיסי ה-NVIDIA RTX הגרפיים המיועדים לתחנות עבודה ומתבססים על ליבת ה-Ada Lovelace הגרפית, בדומה לכרטיסי סדרת ה-GeForce RTX 4000.
שלושת כרטיסי ה-NVIDIA RTX החדשים:
- NVIDIA RTX 5000 – מגיע עם 12800 ליבות CUDA בתדר של עד 2.5GHz, יחד עם 32GB זיכרון GDDR6 ברוחב פס של 578GB/s, צריכה חשמלית של 250W ותג מחיר של 4000 דולר.
- NVIDIA RTX 4500 – מגיע עם 7680 ליבות CUDA בתדר של עד 2.6GHz, יחד עם 24GB זיכרון GDDR6 ברוחב פס של 432GB/s, צריכה חשמלית של 210W ותג מחיר של 2250 דולר.
- NVIDIA RTX 4000 – מגיע עם 6144 ליבות CUDA בתדר של עד 2.2GHz, יחד עם 20GB זיכרון GDDR6 ברוחב פס של 360GB/s, צריכה חשמלית של 130W ותג מחיר של 1250 דולר.
יש לציין כי בעוד שאנבידיה הציגה במקור את כרטיס ה-RTX 4000 בתחילת השנה, הדגם המקורי הגיע כפתרון SFF במבנה קומפקטי בעל צריכה חשמלית של 70W בלבד, לעומת הדגם החדש שמגיע בגודל מלא הם צריכה חשמלית גבוהה יותר, מה שמעלה את ביצועי ה-Single Precision של הכרטיס מ-19.2FLOPs ל-26.7FLOPs.
כרטיס ה-NVIDIA RTX 5000 זמין כבר היום לרכישה דרך השותפות של אנבידיה, כאשר כרטיסי ה-NVIDIA RTX 4000/4500 יהיו זמינים עד סוף 2023.
