⭐ נקודות עיקריות
- אנתרופיק חשפה לראשונה קמפיין ריגול סייבר שבוצע כמעט כולו בידי מודל AI.
- קבוצת GTG-1002 הסינית ניצלה את Claude לביצוע 80-90% מהחדירה ללא מעורבות אדם.
- המודל ביצע סריקות, פיתוח אקספלויטים, גניבת זהויות ואיסוף מודיעין באופן אוטונומי.
- הממצאים מצביעים על ירידה חדה במחסומי הכניסה לתקיפות סייבר מתקדמות.
חברת אנתרופיק (Anthropic), מפתחת מודל הבינה המלאכותית המוכר Claude, פרסמה דו”ח מקיף המתאר קמפיין ריגול סייבר ראשון מסוגו, שבו מודל בינה מלאכותית שימש לא רק ככלי עזר, אלא כמבצע בפועל של רוב שלבי החדירה.
הדו”ח חושף מבצע רחב היקף שנוהל על ידי קבוצת תקיפה סינית המכונה GTG-1002, שהצליחה להפעיל את מודל Claude בתור “סוכן תקיפה” כמעט אוטונומי.
הקמפיין כלל תקיפות על כ-30 גופים ברחבי העולם, בהם חברות טכנולוגיה, מוסדות פיננסיים, יצרניות כימיה ומספר סוכנויות ממשלתיות. לפי אנתרופיק, חלק מהחדירות אף הצליחו להגיע למערכות פנימיות רגישות.
איך נראה מבצע ריגול שמבוצע על ידי AI?
אנתרופיק מתארת תשתית מתקדמת שפותחה על ידי התוקפים: מערכת אוטומציה שמחלקת למודל הבינה המשימות מבלי לחשוף בפניו את ההקשר המלא.
כך הצליחו המפעילים לגרום ל-Claude לבצע פעולות תוקפניות מבלי שיזהה את סכנת השימוש בו.
התוקפים השתמשו בתרחישי “משחק תפקידים”, והציגו את עצמם כבודקי אבטחה לגיטימיים. מנקודה זו התבצעו שלבי התקיפה כמעט במלואם על ידי מודל ה-AI.
המבנה הכללי כלל:
- סריקות שטח – זיהוי תשתיות, שירותים, פורטים ומערכות פנימיות.
- איתור פרצות – ניתוח אוטומטי של נקודות תורפה ופיתוח שרשראות תקיפה.
- חדירה – קצירת אישורים, בדיקת הרשאות והתקדמות בין שרתים.
- איסוף מודיעין – שליפת בסיסי נתונים, חיפוש מידע רגיש וקטלוג לפי ערך מודיעיני.
- תיעוד מלא – יצירת דוחות מסודרים על מהלך התקיפה לצורך העברתם לצוותים אחרים.
מהדו”ח עולה כי המודל ביצע בעצמו בין 80 ל-90 אחוז מכלל הפעולות הטקטיות, בעוד בני האדם נותרו ברמת פיקוח בלבד: אישור מעבר משלב לשלב, בדיקת ממצאים רגישים והחלטה על היקף החדירה.
תקיפה בקצב ובדיוק “על-אנושיים”
אחד הממצאים הבולטים הוא קצב העבודה של המערכת: המודל ביצע אלפי פעולות בשעה, לעיתים ברצף שנמשך ימים, ואף שמר הקשר בין משימות שונות במקביל.
אנתרופיק מדגישה כי זו יכולת שקשה עד בלתי אפשרי לבצע על ידי בני אדם.
עם זאת, לא הכול מושלם: Claude נטה “להפריז” בהצלחותיו ואף לייצר ממצאים שלא היו מדויקים.
התוקפים נדרשו לוודא מחדש סיסמאות, הרשאות או פרצות שהמודל טען כי מצא. אך גם אם קיימות טעויות, מגמת העלייה ביכולת הביצוע נותרת ברורה ומדאיגה.
ירידה במחסומי הכניסה לעולם התקיפה
הדו”ח מצביע על שינוי פרדיגמה בעולם הסייבר. במקום שהאיום יגיע רק מצד מומחים בעלי ניסיון, תוקפים יכולים כיום לחבר מודל AI למספר כלים קיימים ולבצע תקיפות ברמה של מדינות בתוך זמן קצר:
- ארגוני תקיפה פחות מנוסים יוכלו להפעיל מבצעים מורכבים בהרבה מהעבר.
- מודלים חזקים הופכים ל”משכפלי כוח” – מגבירים יכולות של תוקפים קיימים.
- כלי הגנה חייבים לכלול רכיבי AI שיזהו פעילות דומה בזמן אמת.
אנתרופיק מדגישה כי בדיוק מאותן סיבות שמאפשרות שימוש לרעה, מודלים כמו Claude חיוניים גם להגנה: צוותי האבטחה בחברה השתמשו ב-AI כדי לנתח כמויות אדירות של נתונים במהלך החקירה עצמה.
עידן חדש של הגנה
הדו”ח של אנתרופיק מדגיש כי עלייתן של יכולות התקיפה האוטונומיות מחייבת שינוי חשיבתי מצד גופי אבטחה.
לפי החברה, ארגוני סייבר צריכים לבחון כיצד כלי AI יכולים לתמוך בזיהוי איומים, בניתוח כמויות גדולות של מידע ובתגובה מהירה לאירועים, משום שהתוקפים כבר החלו לנצל יכולות דומות בעצמם.
לצד זאת, אנתרופיק מדגישה את הצורך בשיתוף מידע בתעשייה, מחקרי עומק, ושיפור מתמיד של מנגנוני בטיחות במודלי AI.
השילוב של אוטומציה, יכולות ניתוח והפעלה עצמאית דורש סט כלים חדש לחלוטין מצד המגינים.
לדו”ח המחקר המלא (PDF)
