Tiiny AI, סטארט-אפ אמריקאי בתחום הבינה המלאכותית, הכריז על ה-Tiiny AI Pocket Lab, מחשב זעיר חדש המיועד להריץ מודלי שפה גדולים (LLM) באופן מקומי לחלוטין ללא צורך בחיבור לענן או לשרתים חיצוניים.
המכשיר, שזכה לשיא גינס בקטגוריית “המחשב המיני הקטן ביותר המריץ מודל 100B באופן מקומי”, מציע ביצועי AI של 190TOPS ומסוגל להריץ מודלי AI עם עד 120 מיליארד פרמטרים בצריכת חשמל של 65 וואט בלבד.
ה-Pocket Lab מייצג שינוי משמעותי בגישה לבינה מלאכותית אישית. במקום להסתמך על שירותי ענן עם צריכת אנרגיה גבוהה וסיכוני פרטיות, המכשיר מאפשר עיבוד מקומי מלא של מידע רגיש.
לדברי החברה, המחשב המיני מסוגל לספק ביצועים ברמת GPT-4o תוך שמירה על פרטיות מלאה ועבודה לחלוטין ללא אינטרנט.
מפרט טכני ויכולות
המכשיר מבוסס על ארכיטקטורת ARM עם מעבד בעל 12 ליבות מדגם ARMv9.2 המספק ביצועי AI של 30TOPS ויחידת עיבוד dNPU יעודית ל-AI המספקת 160TOPS נוספים, יחד עם 80GB זיכרון LPDDR5X ו-1TB אחסון SSD.
הממדים הקומפקטיים של 14.2x8x2.53 ס”מ והמשקל של כ-300 גרם הופכים אותו לנייד ביותר.
כדי לאפשר הרצה של מודלים בגודל של עד 120 מיליארד פרמטרים, ה-Pocket Lab משלב שתי טכנולוגיות:
- טכנולוגיית TurboSparse מאפשרת הפעלה דלילה של נוירונים, מה שמשפר את יעילות הביצועים תוך שמירה על רמת האינטליגנציה המלאה של המודל.
- מנוע ההסקה PowerInfer הפתוח מפזר באופן דינמי את העיבוד בין ה-CPU ל-NPU, ומאפשר ביצועים ברמת שרתים בצריכת חשמל נמוכה משמעותית.
תמיכה במודלים ובאקוסיסטם פתוח
ה-Pocket Lab תומך בהתקנה מהירה של מודלי קוד פתוח מובילים כמו Llama, Qwen, DeepSeek, Mistral, Phi ו-OpenAI GPT-OSS, ומאפשר פריסה של סוכני AI פופולריים דוגמת OpenManus, ComfyUI, Flowise ואחרים. החברה מבטיחה עדכוני OTA שוטפים, כולל שדרוגי חומרה רשמיים.
המכשיר מיועד למפתחים, חוקרים, יוצרי תוכן, אנשי מקצוע וסטודנטים, ומאפשר ניתוח רב-שלבי, הבנת הקשר עמוק, יצירת תוכן ועיבוד מאובטח של מידע רגיש, כולם ללא חיבור לאינטרנט.
המכשיר גם מספק זיכרון אישי ארוך-טווח על ידי אחסון נתוני משתמש, העדפות ומסמכים באופן מקומי עם הצפנה ברמה גבוהה.
ה-Tiiny AI Pocket Lab יוצג רשמית בתערוכת CES 2026 שתתקיים בחודש ינואר הקרוב. מחיר המכשיר טרם פורסם, אך צפוי להיות גבוה בהתחשב במפרט הטכני המתקדם.
