⭐ נקודות עיקריות
- חברת OpenAI מודיעה על רכישת Promptfoo, פלטפורמת אבטחה המיועדת לזיהוי ותיקון חולשות במערכות בינה מלאכותית.
- טכנולוגיית האבטחה תשולב ישירות ב-Frontier, הפלטפורמה הארגונית של החברה לבנייה ותפעול של סוכני בינה מלאכותית.
- השילוב יאפשר בדיקות אבטחה אוטומטיות לזיהוי סיכונים כמו דליפות מידע, פריצות עקיפת מגבלות ושימוש לרעה בכלים.
- חברת Promptfoo הוקמה ב-2024 ולדבריה מוצריה נמצאים בשימוש של מעל ל-25 אחוזים מחברות דירוג Fortune 500.
חברת OpenAI, הודיעה על רכישת הסטארט-אפ Promptfoo, חברת אבטחת מידע המתמחה בהגנה על מערכות בינה מלאכותית.
המערכת של Promptfoo היא פלטפורמה טכנולוגית שנועדה לעזור לארגונים לזהות ולתקן חולשות במודלי שפה גדולים (LLMs) ויישומי בינה מלאכותית במהלך שלבי הפיתוח.
הרכישה מגיעה על רקע המעבר הגובר של ארגונים לשימוש בסוכני בינה מלאכותית (AI Agents) עצמאיים, הדורשים מנגנוני אבטחה מוגברים כדי למנוע גישה למידע רגיש או הפעלה זדונית.
השילוב של כלי האבטחה נועד לספק מענה לאחד האתגרים המרכזיים בפריסת בינה מלאכותית בסביבה העסקית, באמצעות מתן כלים שיטתיים לבדיקת התנהגות מודלים לפני הטמעתם.
שילוב Promptfoo ב-OpenAI Frontier
טכנולוגיית הבדיקה של Promptfoo תשולב באופן מובנה בתוך OpenAI Frontier, הפלטפורמה הארגונית של החברה המיועדת לבנייה ותפעול של סוכנים חכמים.
במסגרת השילוב, הפלטפורמה תציע יכולות בדיקות חדירה (Red-Teaming) אוטומטיות, אשר יאפשרו לאתר מראש סיכוני אבטחה פוטנציאליים בסביבות עבודה מורכבות.
מערך האבטחה החדש יתמקד בזיהוי איומים נפוצים כגון הזרקת הנחיות (Prompt Injections), עקיפת מגבלות מודל (Jailbreaks), דליפות מידע ושימוש לא מורשה בכלים חיצוניים.
השילוב יאפשר לצוותי פיתוח לאתר ולתקן חריגות בהתנהגות הסוכנים כבר בשלבים המוקדמים של מחזור הפיתוח ובכך למנוע תקלות בזמן אמת.
הכירו את Promptfoo
חברת Promptfoo הוקמה בשנת 2024, ופיתחה כלים הכוללים ממשק שורת פקודה (CLI) וספריית קוד פתוח המשמשים להערכת יישומי בינה מלאכותית.
לדברי החברה, חבילת הכלים שהיא פיתחה נמצאת כיום בשימוש של למעלה מ-25 אחוזים מהחברות המופיעות בדירוג Fortune 500.
על פי נתוני חברת המחקר Pitchbook, הסטארט-אפ גייס כ-23 מיליון דולר מאז הקמתו, והוערך בשווי של 86 מיליון דולר בסבב הגיוס האחרון שנערך ביולי 2025.
בהודעה הרשמית שלה, OpenAI לא חשפה את הסכום שבו התבצעה עסקת הרכישה.
יכולות נוספות
מעבר לבדיקות אבטחה ישירות, השילוב של טכנולוגיית Promptfoo יספק לארגונים יכולות פיקוח מורחבות לצורך עמידה ברגולציה ואחריות תאגידית.
המערכת תציע דוחות משולבים ואפשרויות מעקב שיסייעו בתיעוד תהליכי הבדיקה ובמעקב אחר שינויים בהתנהגות המודלים לאורך זמן.
OpenAI ציינה כי היא מתכוונת להמשיך ולתמוך בפיתוח פרויקט הקוד הפתוח של Promptfoo, במקביל להרחבת היכולות המיועדות ללקוחות הארגוניים בסביבת Frontier.
ההצהרה שלה נועדה להבטיח לקהילת המפתחים הרחבה גישה חופשית לכלים הבסיסיים המשמשים להערכה ובדיקה של יישומי בינה מלאכותית.
זמינות
הטמעת טכנולוגיות האבטחה של Promptfoo לתוך פלטפורמת OpenAI Frontier צפויה לצאת לדרך לאחר השלמת תהליך הרכישה באופן רשמי.
בשלב זה, החברה לא פרסמה לוח זמנים מדויק לשחרור הכלים המשולבים.
