לפני ימים בודדים סיפרנו לכם על פרויקט מיוחד של מיקרוסופט המנסה לבחון את הגבולות של צ’אט בוט מבוסס אינטליגנציה מלאכותית. לאותה מערכת מתקדמת קראו “טאי” והיא התנהגה כנערה בין הגילאים 18-24 ואף השתמשה במינוחים ובקיצורים האופיניים לבני נוער. טאי לא הייתה מערכת פסיבית, היא למדה והפכה חכמה יותר לאחר כל אינטרקציה שהגולשים יצרו איתה. בעולם אוטופי היה מדובר בפרויקט מרשים, אך בפועל טאי החלה לצייץ ציוצים גזעניים ואנטישמיים שחייבו את מיקרוסופט להוריד את השאלטר.
לאחר שמיקרוספט הכריזה על טאי, משתמשים רבים בעולם החלו להתנסות במערכת והתחילו לקיים שיחות עם “הנערה”. כעת מסתבר כי לא מעט משתמשים ברחבי העולם ניצלו את העובדה כי מדובר במערכת לומדת והחלו ללמדה תכנים לא כל כך חינוכיים. זמן קצר לאחר שעלתה לאוויר החלה טאי, על סמך המידע שלמדה, לציץ ציוצים פוגעניים במיוחד שהעליבו יהודים, צידדו בהיטלר ופגעו בלא מעט אוכלוסיות שונות ברחבי העולם. בדומה ללא מעט מערכות לומדות אחרות, למפתחים של מיקרוסופט אין באמת שליטה על אופי המידע שהוזן למערכת ולעיתים קשה מאוד לחזות ולהגיב בהתאם למקרים בו נעשה ניצולה לרעה.
בהודעה ששחררה ענקית התכנה הוסבר כי המערכת עברה מספר בדיקות עם קבוצת מיקוד שחקרה את נקודות התורפה של טאי, אך הן לא הצליחו לעלות על נקודות אלה. מיקרוסופט אף התנצלה והבעיה צער רב על הציוצים הפוגענים והבהירה כי לא עומדת מאחוריהם וכמובן לא תכננה את טאי בצורה זו. כמו כן, הדגישה החברה כי טאי מושבתת עד להודעה חדשה והסבירה כי בצוות החברה שוקדים על מציאת פתרון כולל וסגירת הפרצות – תנאי הכרחי לחזרתה של טאי.
בסופו של יום התקרית עם טאי עלולה להיות אסון תקשורתי, אך מבחינה טכנולוגית מדובר בהצלחה לא קטנה. המערכת של טאי הצליחה, בין אם מדובר על דבר טוב או רע, ללמוד ולהתנהג בדיוק כפי שלימדו אותה שאר המשתמשים בטוויטר. תוך יום אחד תהליך הלמידה הושלם ושיקף את מרבית המידע ואופי ההתנהגות שהוזן לטאי. מעבר לזווית הטכנולוגית, מדובר על שיעור חשוב גם להורים שכעת קיבלו הצצה יותר מציאותית וחדה לשיח ברשתות החברתיות ועל ההשלכות הרבות שיש לו על בני נוער.
