אנתרופיק (Anthropic) הציגה את Claude for Chrome, תוסף חדש עבור דפדפן הכרום (Chrome) של גוגל המאפשר ל-Claude (“קלוד”), צ’אטבוט הבינה המלאכותית של החברה, לפעול ישירות מתוך הדפדפן של המשתמש, לראות את מה שהמשתמש רואה, ללחוץ על כפתורים, למלא טפסים ועוד.
לצד מירוץ החימוש הגדול בתחום ה-AI, אחד מהתחומים החדשים בנושא הם דפדפני AI כמו דפדפן ה-Comet של Perplexity והצפי להשקה קרובה של דפדפן AI חדש מבית OpenAI, שיגיע לצד סוכן ה-ChatGPT Agent המסוגל לבצע מגוון פעולות ברשת בעבור המשתמש.
במקרה של אנתרופיק, החברה בחרה להימנע מהצורך לפתח דפדפן יעודי והסתפקה בתוסף יעודי לדפדפן הכרום הפופולרי של גוגל.
התוסף מאפשר ל-Claude לבצע פעולות מורכבות כמו ניהול לוחות זמנים, תזמון פגישות, כתיבת תגובות למיילים וטיפול בדוחות הוצאות שוטפים ישירות מהדפדפן.
אתגרי אבטחה משמעותיים
למרות הפוטנציאל הרב, אנתרופיק מזהירה מאתגרי אבטחה משמעותיים הכרוכים בטכנולוגיה החדשה.
בדומה לפתרונות AI אחרים, ההרחבה חשופה למתקפות “הזרקת פרומפטים” (Prompt Injection) – מצב בו גורמים זדוניים מחביאים הוראות באתרים, במיילים או במסמכים כדי לגרום ל-AI לבצע פעולות מזיקות ללא ידיעת המשתמש.
במבחנים שערכה החברה על 123 מקרי בדיקה המייצגים 29 תרחישי תקיפה שונים, נמצא כי ללא אמצעי הגנה, שיעור ההצלחה של התקפות הגיע ל-23.6%.
לדוגמה, מייל זדוני שהתחזה להוראות אבטחה מהמעסיק הצליח לגרום ל-Claude למחוק מיילים של המשתמש ללא אישור.
על מנת למנוע מצבים כאלו, אנתרופיק פיתחה מספר מנגנוני הגנה להפחתת הסיכונים:
- הרשאות ברמת האתר – משתמשים יכולים לאשר או לבטל את הגישה של Claude לאתרים ספציפיים.
- אישורי פעולה – Claude מבקש אישור מהמשתמש לפני ביצוע פעולות בסיכון גבוה כמו פרסום, קנייה או שיתוף מידע אישי.
- חסימת קטגוריות מסוכנות – אתרי שירותים פיננסיים, תוכן למבוגרים ותוכן פיראטי נחסמו.
- מסווגים מתקדמים – זיהוי דפוסי הוראות חשודים ובקשות גישה חריגות למידע.
עם יישום האמצעים החדשים, שיעור הצלחת המתקפות ירד מ-23.6% ל-11.2%, ובמבחנים ספציפיים לדפדפן שיעור ההצלחה הופחת מ-35.7% לאפס.
זמינות
בשלב הפיילוט הראשוני, הרחבת ה-Claude for Chrome תהיה זמינה ל-1000 ממנויי Claude Max בלבד, עם צפי להרחבת הגישה באופן מדורג בהמשך.
משתמשים המעוניינים להצטרף לרשימת ההמתנה יכולים להרשם באתר claude.ai/chrome ולהתקין את ההרחבה מחנות הכרום לאחר קבלת גישה.
