OpenAI הכריזה על שורת צעדים חדשים שמטרתם להתאים את חוויית השימוש ב-ChatGPT לבני נוער ולשפר את ההגנות עליהם.
בחברה מציינים כי הטכנולוגיה הולכת ותופסת מקום מרכזי בחיי צעירים, ולכן יש צורך בהפרדה ברורה בין אופן השימוש של מבוגרים ב-ChatGPT לבין זה של מתבגרים.
מערכת חיזוי גיל
החברה עובדת על פיתוח מערכת לזיהוי גיל, שתאפשר להבדיל בין משתמשים מעל ומתחת לגיל 18.
כאשר יזוהה שמשתמש הוא קטין, יופעלו אוטומטית מנגנוני הגנה הכוללים סינון תכנים מיניים גרפיים, מניעת שיח פלרטטני והתמודדות ייחודית עם נושאי אובדנות או מצוקה נפשית.
במקרים נדירים של חשש ממצב חירום, OpenAI עשויה לערב את רשויות אכיפת החוק.
במידה והמערכת לא תהיה בטוחה בגיל המשתמש, ברירת המחדל תהיה להעניק חוויית שימוש מותאמת לנוער. למבוגרים תינתן אפשרות להוכיח את גילם כדי לשחזר גישה מלאה ליכולות המתקדמות יותר.
בקרות מותאמות להורים
כפתרון זמני עד לכניסת מערכת החיזוי לפעולה מלאה, OpenAI מציעה בקרות להורים שייכנסו לשימוש כבר בסוף החודש.
בקרות ההורים יאפשרו:
- קישור חשבון ההורה לחשבון המתבגר (מגיל 13 ומעלה).
- הגדרת כללי שימוש מותאמים לבני נוער, בהתאם להתנהגות המודל.
- ניהול תכונות כמו זיכרון ושמירת היסטוריית שיחות.
- קבלת התראות במצבים של מצוקה חריפה, עם אפשרות לערב גורמי חירום.
- הגדרת שעות “כיבוי” בהן לא ניתן להשתמש ב-ChatGPT.
בנוסף, המערכת תכלול תזכורות כלליות לכל המשתמשים על לקיחת הפסקות במהלך סשנים ארוכים.
איזון בין פרטיות, חופש שימוש ובטיחות
בסמוך להודעה הדגיש מנכ”ל OpenAI, סם אלטמן, כי מדובר בשדה מורכב שבו עקרונות החברה מתנגשים לעיתים: הגנה על פרטיות, מתן חופש שימוש למבוגרים, ובטיחות בני נוער.
בעוד שלמבוגרים תינתן חירות רחבה להשתמש במערכת גם עבור תכנים רגישים בהקשרים יצירתיים או אישיים, אצל קטינים תינתן עדיפות מוחלטת לבטיחות על פני פרטיות וחופש.
לטענת אלטמן, השיחות עם AI הופכות בהדרגה לרגישות לא פחות משיחות עם רופא או עורך דין, ולכן יש חשיבות בהבטחת פרטיות מלאה לצד מנגנוני בקרה אוטומטיים שיזהו ניסיונות שימוש לרעה או מצבי סכנה חמורים.
המשך פיתוח ושיתוף פעולה
OpenAI מדגישה כי הפיתוחים החדשים מבוצעים תוך שיח עם מומחים, עמותות וארגונים חברתיים ומקבלי החלטות, וכי העבודה תימשך במטרה לחדד את ההגדרות ולשפר את הכלים.
החברה מתכוונת לשתף בעדכונים נוספים ככל שתתקדם המערכת, מתוך שאיפה ליצור חוויית שימוש בטוחה, מותאמת גיל ושקופה למאות מיליוני המשתמשים ברחבי העולם.
