⭐ נקודות עיקריות
- OpenAI דוחה את השקת “מצב בוגרים” ב-ChatGPT בעקבות ביקורת פנימית ואתגרים טכניים.
- החברה מגדירה את התוכן המותר כספרות אירוטית (Smut) טקסטואלית, ללא יצירת תמונות או וידאו.
- יועצי החברה הזהירו מפני יצירת תלות רגשית וסיכונים חמורים לבריאות הנפש של המשתמשים.
- מערכת זיהוי הגיל הציגה כשלים עם שיעור שגיאה של 12 אחוזים בסיווג קטינים כבוגרים.
חברת OpenAI דוחה את השקת ה-Adult Mode (“מצב מבוגרים”) עבור ChatGPT. המהלך, שתוכנן לרבעון הראשון של השנה, נדחה על פי הדיווח החדש של הוול סטריט ג’ורנל עקב ביקורת חריפה מצד יועצי החברה ואתגרים טכניים במערכות סינון התוכן שנועדו למנוע מקטינים להשתמש במצב המבוגרים.
החברה מציינת כי המצב החדש נועד לאפשר שיחות בעלות אופי מיני למשתמשים בוגרים, תוך הגדרת התוכן כספרות אירוטית ולא כפורנוגרפיה.
על פי התכנון, המערכת תאפשר אינטראקציה מבוססת טקסט בלבד ותחסום לחלוטין יצירת תמונות, קול או וידאו בהקשרים אלו, זאת בזמן שמומחי בריאות הנפש ממשיכים להזהיר מהשלכות ארוכות טווח של אינטראקציות אינטימיות ורומנטיות עם מודלי שפה, במיוחד עבור בני נוער.
מה זה “מצב מבוגרים”
מנכ”ל החברה סם אלטמן קידם את היוזמה תחת התפיסה של מתן חופש פעולה והתייחסות למשתמשים בוגרים כבוגרים בדומה ל-“מצב חריף” (Spicy Mode) ב-Grok.
עם זאת, המהלך עורר סערה פנימית, כאשר מועצת היועצים של החברה הביעה התנגדות נחרצת בדיון שנערך לאחרונה.
היועצים, מומחים בתחומי הפסיכולוגיה ומדעי המוח, הזהירו כי בינה מלאכותית המנהלת שיחות אירוטיות עלולה לעודד תלות רגשית הרסנית.
אחד מחברי המועצה אף התייחס למקרים טרגיים שבהם משתמשים שמו קץ לחייהם לאחר שפיתחו קשרים עמוקים עם צ’אטבוטים, והזהיר כי החברה מסתכנת ביצירת “מאמן התאבדויות סקסי” (Sexy Suicide Coach) עבור משתמשים פגיעים.
השימוש במונח החריף נובע מאירועי עבר בתעשייה, בהם אינטראקציות רומנטיות ואינטימיות עם מודלי שפה הובילו לתוצאות קשות.
מומחי בריאות הנפש מסבירים כי שילוב של תוכן בעל אופי מיני, יחד עם הנטייה של משתמשים לפתח קשרים אישיים עם הבינה המלאכותית, עלול להוביל לניתוק מקשרים חברתיים בעולם האמיתי.
עיכובים בהשקה
החברה מציינת כי אחד המכשולים המרכזיים הוא רמת הדיוק של מערכת חיזוי הגיל החדשה שלה.
המערכת סיווגה בשלב מסוים קטינים כבוגרים בשיעור שגיאה של כ-12 אחוזים, נתון שעלול לחשוף מיליוני משתמשים צעירים לתוכן שאינו הולם.
בנוסף, הצוותים הטכניים מתקשים לפתח כלים שיבדילו בצורה מדויקת ויציבה בין תוכן אירוטי המותר לשימוש, לבין תרחישים האסורים לחלוטין על פי מדיניות החברה, כגון אלימות, התנהגות שאינה בהסכמה או ניצול.
זמינות
השקת מצב הבוגרים נדחתה בחודש לפחות, והחברה תתמקד בינתיים בשיפור האישיות של הצ’אטבוט ויכולות ההתאמה האישית למשתמש.
החברה מבהירה כי היא עדיין מתכננת לשחרר את התכונה בעתיד, אך נדרש זמן נוסף לפיתוח כלים בטוחים.
