חוקרי האבטחה של חברת ESET הכריזו כי גילו פריצת דרך מדאיגה בתחום האבטחה – PromptLock, נוזקת הכופר (ransomware) הראשונה בעולם המשתמשת בבינה מלאכותית לביצוע פעילות זדוניות.
הנוזקה אותרה ב-25 באוגוסט ב-VirusTotal, פלטפורמה מקוונת לדיווח על קבצים חשודים, כאשר היא משתמשת במודל ה-gpt-oss:20b ומציגה שיטה חדשה ומתוחכמת לביצוע מתקפות כופר.
נוזקת הכופר החדשה מהווה מימוש מעשי של “הזרקת פרומפטים” (Prompt Injection). מדובר בטכניקה מתקדמת שבה תוקפים מטמיעים הוראות סמויות בתוך טקסטים תמימים לכאורה, כמו מיילים, מסמכים או אתרי אינטרנט.
מודלי AI שקולטים את הטקסט מתייחסים להוראות כחלק לגיטימי מהבקשה, ומבצעים אותן מבלי שהמשתמש מודע לכך – מה שמאפשר לעקוף מגבלות, להדליף מידע או לייצר קוד זדוני בצורה מתוחכמת במיוחד.
במקרה של נוזקה זו, הפרומפט הזדוני גורם למודל ה-gpt-oss:20b של OpenAI לסייע בביצוע התקפת כופר מלאה.
אופן הפעולה הטכני של PromptLock
הנוזקה משתמשת ב-gpt-oss:20b, מודל השפה הגדול (LLM), הפתוח והחינמי של OpenAI.
הנוזקה לא מורידה את המודל ששוקל כ~13GB למחשב של המשתמש, אלא משתמשת במודל על שרת מרוחק דרך פרוקסי על ידי שימוש בממשק ה-Ollama API.
Ollama API הוא ממשק פיתוח (API) פתוח המאפשר להריץ מודלי שפה גדולים באופן מקומי או על גבי שרתים, תוך שליחת פקודות וקבלת תשובות בצורה פשוטה.
במקרה זה, הנוזקה מנצלת את היכולת להתחבר למודל מרוחק כדי להריץ סקריפטים זדוניים מבלי להעמיס על המחשב של הקורבן.
היא מכילה הוראות מוטמעות (hardcoded prompts) שהיא שולחת למודל כדי ליצור סקריפטי Lua זדוניים המבצעים משימות שונות.
בין יכולות הנוזקה אפשר למצוא סריקת מערכת הקבצים המקומית, גניבת קבצים והצפנת מידע במכשירים מבוססי ווינדוס, Mac ו-Linux באמצעות הצפנת SPECK 128bit.
בנוסף, הנוזקה מסוגלת לזהות מידע אישי בקבצים וליצור הודעת כופר מותאמת אישית.
הערכת הסיכון
למרות הפוטנציאל המדאיג, בחברת ESET מעריכים כי הנוזקה נוצרה כ”הוכחת קונספט” (proof of concept) ולא כאיום פעיל.
אחד החידושים המדאיגים בנוזקה הוא התלות שלה בסקריפטים שנוצרים על ידי AI, דבר שיכול לגרום לאינדיקטורי הפשרה (IoCs) להשתנות מביצוע אחד למשנהו.
השינויים הללו עלולים לסבך משמעותית את הזיהוי ולהקשות על מערכות אבטחה.
בעוד ש-PromptLock עשויה להיות הוכחת קונספט בלבד ולא איום פעיל, היא מספקת דוגמה טובה לסכנה הפוטנציאלית של מודלי ה-AI בהם אנו משתמשים כיום.
