⭐ נקודות עיקריות
- אנבידיה מכריזה על מודל Nemotron 3 Super המיועד לסוכני AI.
- המודל כולל 120 מיליארד פרמטרים, מתוכם 12 מיליארד פעילים, וחלון הקשר של מיליון טוקנים.
- מציע ארכיטקטורה היברידית המשלבת שכבות Mamba ו-Transformer לשיפור מהירות ויעילות.
- המודל זמין כעת בקוד פתוח עם רישיון גמיש וזמין דרך פלטפורמות ענן שונות.
אנבידיה (NVIDIA) הכריזה היום (ד’ 11.3) על השקת Nemotron 3 Super, מודל הבינה מלאכותית המתקדם ביותר בסדרת ה-Nemotron.
מדובר במודל פתוח הכולל 120 מיליארד פרמטרים, שנוצר במיוחד עבור הפעלת מערכות מורכבות של סוכנים אוטונומיים (Agentic AI) בקנה מידה רחב.
המודל החדש מצטרפת למשפחת מודלי ה-Nemotron 3 שהושקה בסוף השנה הקודמת, כאשר הוא נועד לפתור שתי מגבלות מרכזיות ביישומי ריבוי-סוכנים:
- “פיצוץ הקשר” (Context explosion) הנובע מהעברת היסטוריות ארוכות,
- “מס החשיבה” (Thinking tax) המייקר ומאט את המערכת בשימוש במודלים גדולים לכל תת-משימה.
הכירו את Nemotron 3 Super
המודל מבוסס על ארכיטקטורת מומחים מעורבים (Mixture-of-Experts) היברידית, אשר מפעילה רק 12 מיליארד מתוך 120 מיליארד הפרמטרים שלה בזמן הסקה (Inference).
ארכיטקטורה זו משלבת שכבות ממבה (Mamba) המספקות יעילות זיכרון וחישוב גבוהה פי ארבעה, יחד עם שכבות טרנספורמר (Transformer) להסקת מסקנות מתקדמת.
כמו כן, המודל כולל חלון הקשר של מיליון טוקנים (Tokens), המאפשר לסוכנים לשמור בזיכרון את מצב העבודה המלא לאורך זמן ולמנוע סטייה מהמטרה.
טכניקה נוספת המשולבת במודל, המכונה Latent MoE, מאפשרת הפעלת ארבעה מומחים בעלות של אחד כדי לייצר את האסימון הבא, תוך חיזוי של מספר מילים עתידיות בו-זמנית.
ביצועים
לדברי החברה, Nemotron 3 Super מספק תפוקה גבוהה עד פי 5 ודיוק גבוה עד פי 2 בהשוואה לדור הקודם של סדרת מודלי ה-Super.
כאשר המודל פועל על גבי פלטפורמת Blackwell של החברה הוא מצליח להציג מהירות הסקה גבוהה עד פי 4 לעומת פלטפורמת Hopper הקודמת על ידי שימוש בדיוק מסוג NVFP4 לעומת FP8, ללא פגיעה בדיוק.
בנוסף, המודל דורג במקום הראשון במדד DeepResearch Bench על פי נתוני החברה, תוך הפגנת יכולת לבצע מחקר רב-שלבי על פני מסמכים גדולים.
יכולות נוספות
המודל נועד לנהל תת-משימות מורכבות בתוך מערכות מרובות סוכנים. בתחום פיתוח התוכנה, סוכן המבוסס על המודל יכול לטעון קוד מקור (Codebase) שלם לתוך חלון ההקשר בפעם אחת, מה שמאפשר יצירת קוד וניפוי שגיאות ללא צורך בחלוקת מסמכים למקטעים.
בתחומים נוספים כמו ניתוח פיננסי או אבטחת מידע, המודל מסוגל לטעון אלפי עמודי דוחות לזיכרון ולנווט בספריות פונקציות גדולות.
חברות טכנולוגיה דוגמת פרפלקסיטי (Perplexity) כבר משלבות את המודל במנועי חיפוש, בעוד חברות תעשייה פורסות אותו לאוטומציה של תהליכי עבודה.
זמינות
אנבידיה משחררת את Nemotron 3 Super תחת רישיון חופשי, כאשר המודל זמין כעת להורדה ושימוש דרך האתר הרשמי של החברה, ובפלטפורמות נוספות דוגמת Hugging Face.
