חברת OpenAI מציגה את Lockdown Mode: מצב אבטחה מתקדם נגד הזרקת פרומפטים

חברת OpenAI הכריזה על השקת פיצ’ר אבטחה חדש בשם Lockdown Mode, המגביל מגוון רחב של כלים ויכולות במוצרי החברה שמתחברים לרשת או לשירותים חיצוניים.

מהותו של הפיצ’ר היא ניתוק מהותי של הצ’אטבוט מהאינטרנט הפתוח ומשירותים חיצוניים, על מנת למנוע כמעט לחלוטין את היכולת של תוקפים לחלץ מידע רגיש החוצה.

הפיצ’ר מיועד למשתמשים וארגונים המטפלים במידע רגיש במיוחד ומעוניינים בהגנה מחמירה מפני זליגת נתונים (Data Exfiltration) הנובעת ממתקפות הזרקת פרומפטים (Prompt Injection).

מתקפות אלו מתרחשות כאשר הוראות זדוניות מוטמנות בתוך דפי אינטרנט או מקורות תוכן חיצוניים שהצ’אטבוט ניגש אליהם, ומנחות את המודל לפעול בניגוד לרצון המשתמש.

Lockdown Mode מונע את השלב הסופי והקריטי במתקפות אלו – שליחת המידע לתוקף מחוץ למערכת OpenAI – על ידי חסימה פיזית של כל בקשת רשת יוצאת.

על מה משפיע ה-Lockdown Mode

הפעלת המצב החדש תגרום להשבתה או להגבלה של מגוון פיצ’רים ויכולות בשירותי החברה:

• גלישה ברשת (Live web browsing): הגישה לאינטרנט מוגבלת לתוכן שמור במטמון (Cached) בלבד.
• תמיכה בהצגת תמונות חיצוניות: השבתת הצגת תמונות בתשובות או משיכת תמונות מהרשת (יצירת תמונות והעלאה ידנית נותרות זמינות).
• מחקר מעמיק (Deep Research): הפיצ’ר מושבת לחלוטין.
• מצב סוכן (Agent mode): פעילות אוטונומית של סוכני בינה מלאכותית מושבתת.
• חיבורי רשת ב-Canvas: לא תתאפשר תקשורת רשת דרך קוד שנוצר ב-Canvas.
• הורדת קבצים: הפיצ’ר מושבת (משימות ניתוח על קבצים שהועלו ידנית נותרות זמינות).

השפעת המצב החדש על יישומים וחיבורים חיצוניים משתנה. בחשבונות אישיים וחשבונות עסקיים בשירות עצמי, חיבורי סנכרון נתונים קיימים יפעלו, אך גישה חיה ופעולות כתיבה ייחסמו.

בסביבות עבודה מנוהלות (Managed Workspaces), מנהלי המערכת שולטים בגישה באמצעות תפקידים ייעודיים. על המנהלים לבחון היטב את רמות הסיכון: הפעלת פעולות ‘כתיבה’ או ‘קריאה’ מאפליקציות שאינן מהימנות נחשבת לסיכון גבוה מאוד ואינה מומלצת, שכן היא עלולה לאפשר יצירת פריצות שדרכן תוקף יכול לחלץ מידע.

זמינות ורמת יעילות

כדי להפעיל את הפיצ’ר בחשבונות אישיים ועסקיים יש להיכנס להגדרות האבטחה (Security) ולהפעיל את המצב תחת סעיף האבטחה המתקדמת. שימו לב כי הפעלת הפיצ’ר מבטלת אוטומטית את מצב המפתחים (Developer Mode).

ניתן לבטל את המצב באופן זמני עבור שיחה אחת ספציפית דרך תפריט ‘עוד אפשרויות’ (•••). הפיצ’ר אינו משפיע על ניתוח הקוד ב-Codex.

למרות היעילות הגבוהה בחסימת הוצאת המידע, OpenAI מבהירה כי Lockdown Mode אינו מבטיח הגנה של 100%.

הפיצ’ר לא מונע מהזרקות הפרומפטים להופיע בתוך התוכן שהמודל מעבד (למשל בקובץ שהועלה). הוראות זדוניות אלו עדיין עלולות להשפיע על התנהגות המודל ולהוביל לתשובות שגויות או מטעות, גם אם היכולת לחלץ את המידע החוצה נחסמה.