⭐ נקודות עיקריות
- OpenAI החלה להשיק מערכת לזיהוי גיל ב-ChatGPT לצורך התאמת חוויית שימוש לבני נוער.
- המערכת מעריכה האם חשבון שייך למשתמש מתחת לגיל 18 ומפעילה הגנות תוכן אוטומטיות.
- משתמשים מבוגרים שזוהו בטעות יכולים לאמת גיל באמצעות סלפי או תעודה דרך Persona.
- באיחוד האירופי ההשקה תחל בשבועות הקרובים עקב דרישות רגולטוריות.
OpenAI הודיעה רשמית על תחילת פריסה של מנגנון חדש ב-ChatGPT, שנועד להעריך האם חשבון מסוים שייך למשתמש מתחת לגיל 18 – ולהתאים עבורו את חוויית השימוש והגנות הבטיחות.
המהלך הוא חלק ממדיניות רחבה יותר לחיזוק בטיחות בני נוער בפלטפורמה, עליה הצהירה החברה במסמכי Teen Safety Blueprint ועקרונות ההתנהגות למשתמשים מתחת לגיל 18.
המערכת החדשה, שנכנסת בהדרגה לתוכניות של ChatGPT, לא חוסמת את השירות, אלא מפעילה שכבת הגנה נוספת כאשר היא מעריכה כי ייתכן שמדובר בקטין.
במקרים כאלה, ChatGPT עובר למצב שימוש ייעודי לבני נוער, הכולל סינון והגבלה של תכנים רגישים.
כך פועל מנגנון זיהוי הגיל
לפי OpenAI, הצ’אטבוט ChatGPT עושה שימוש במודל ייעודי לחיזוי גיל, אשר בוחן שילוב של אותות התנהגותיים ואת נתוני החשבון של המשתמש.
בין היתר נלקחים בחשבון ותק החשבון, דפוסי שימוש לאורך זמן, שעות פעילות אופייניות, נושאים כלליים של אינטראקציה וגם גיל שהמשתמש מסר בעצמו.
בחברה מדגישים כי המערכת אינה מושלמת, והפריסה נועדה גם לאיסוף נתונים שיסייעו לשפר את הדיוק לאורך זמן. כאשר קיימת אי-ודאות, המערכת תעדיף ברירת מחדל זהירה יותר ותפעיל את חוויית השימוש לבני נוער.
ההגנות שמופעלות לחשבונות מתחת לגיל 18
כאשר המערכת מעריכה שחשבון עשוי להיות של משתמש צעיר, ChatGPT מפעיל אוטומטית הגנות שמטרתן לצמצם חשיפה לתכנים רגישים או בעייתיים.
בין הקטגוריות שיטופלו בזהירות מוגברת:
- אלימות גרפית או תכנים מדממים.
- אתגרים ויראליים המעודדים התנהגות מסוכנת.
- משחקי תפקידים מיניים, רומנטיים או אלימים.
- תיאורים של פגיעה עצמית.
- תכנים המעודדים אידאלים קיצוניים של יופי, דיאטות לא בריאות או ביוש גוף.
OpenAI מציינת כי עיצוב ההגנות נשען על ליווי מומחים וספרות אקדמית מתחום התפתחות ילדים ובני נוער, ומתחשב בהבדלים מוכרים בתפיסת סיכון, ויסות רגשי והשפעת לחץ חברתי.
אימות גיל למשתמשים בגירים
משתמשים בני 18 ומעלה שזוהו בטעות כקטינים יכולים להסיר את מגבלות התוכן באמצעות אימות גיל. תהליך האימות מתבצע דרך שירות צד שלישי בשם Persona, וכולל סלפי חי ו-או העלאת תעודה מזהה ממשלתית, בהתאם למדינה.
האימות מתבצע דרך תפריט ההגדרות (Settings > Account > Verify age) או ישירות בעמוד הייעודי של השירות. לאחר קבלת אישור שהמשתמש בגיר, ההגנות הנוספות יוסרו לפי החברה בתוך זמן קצר.
לפי OpenAI, החברה אינה מקבלת עותק של התעודה או התמונה, אלא רק את אישור הגיל של המשתמש. הנתונים שמועברים ל-Persona נמחקים תוך עד 7 ימים.
פרטיות ושליטה על הנתונים
OpenAI מדגישה כי ניתן להפסיק את הרצת מנגנון חיזוי הגיל על החשבון באמצעות אימות גיל חד-פעמי. בנוסף, משתמשים יכולים לשלוט בהגדרות השימוש בנתונים לצורך שיפור מודלים דרך מסך בקרת הנתונים בחשבון.
במקרה של שאלות או התנגדות לשימוש במידע בהקשר זה, החברה מפנה לפנייה ישירה לכתובת [email protected].
זמינות
המערכת החלה להופיע אצל משתמשים ברחבי העולם. באיחוד האירופי, כך מסרה החברה, ההשקה תתבצע בשבועות הקרובים כדי להתאים לדרישות רגולטוריות מקומיות.
ב-OpenAI מציינים כי שלב ההשקה הראשוני ישמש גם ללמידה ושיפור המודל, וכי החברה תעקוב מקרוב אחרי ביצועי המערכת ותמשיך לעדכן את מנגנוני ההגנה.
במקביל, החברה מגדירה את העבודה על בטיחות בני נוער בפלטפורמה כתהליך מתמשך, שילווה בדיאלוג עם ארגונים ומומחים מתחום הפסיכולוגיה, הרפואה והבטיחות הדיגיטלית.
