אפל (Apple) הכריזה על תוכנית חדשה להגנה על ילדים על ידי שדרוג מערכות ה-iOS, macOS, watchOS ומערכת ה-iMessage של החברה ושילוב אלגוריתם חכם שיוכל לזהות ולהתריע בפני הורים, ובמידת הצורך בפני רשויות החוק, על חומרים המוגדרים כהתעללות מינית בילדים, או CSAM (ר”ת child sexual abuse material) כפי שהחברה קוראת לחומרים אלו.
כחלק מהרצון של אפל להגן על ילדים מתוכן בעל אופי מיני, החברה יצרה אלגוריתם בינה מלאכותית חכם בשם neuralMatch, שאומן על ידי 200,000 תמונות ממאגר המידע של ה”המרכז הלאומי לילדים נעדרים ומנוצלים” NCMEC (ר”ת National Center for Missing & Exploited Children) בארה”ב לזיהוי וסימון של תמונות המוגדרות כ-CSAM.
>> הצטרפו לערוץ הטלגרם של גאדג'טי
עם שילוב האלגוריתם החדש, תמונות בעלות אופי מיני שיתקבלו על ילדים יטושטשו באופן אוטומטי וההורים יקבלו התראה על כך כי הילד קיבל תוכן שהמערכת זיהתה כ”בעייתי”. דבר זהה יתרחש במידה והילד ינסה לשלוח בעצמו תמונות שיזוהו על ידי המערכת כבעלי אופי מיני. בנוסף גם חיפושים “בעייתיים” ב-Siri יציגו התראות ויפנו לחומרי הסברה ברשת ולקבלת עזרה.
לדרך הפעולה של אפל יש משמעויות חיוביות על החיים בעולם הדיגיטלי. השיטה שמציעה החברה עשויה להפחית באופן משמעותי מקרי פגיעה בילדים על ידי ילדים אחרים ומבוגרים גם יחד במרחב הדיגיטלי. אך מן הצד השני, ולמרות המטרה החשובה והחיובית של המאבק בניצול מיני של ילדים, האלגוריתם החדש של אפל לזיהוי תמונות CSAM לוקח צעד אחד שיכול להיחשב כרחוק מדי להגנה על ילדים מניצול מיני, אשר מגיע על חשבון פרטיות המידע של המשתמשים במכשיריה של אפל.
מנגנון הזיהוי אינו מוגבל רק להודעות ולחיפושים שנעשים במכשיר, אלא גם בודק את התמונות אותן מעלים המשתמשים לאחסון ה-iCloud בענן לתאימות מול אלגוריתם זיהוי ה-CSAM שיאשר אותן כתמונות “בטוחות”. במידה והאלגוריתם יזהה תמונות כבעלות אופי מיני התואם ל-CSAM התמונות יתוייגו כחשודות ובמידה וכמות מסוימת של תמונות יקוטלגו כתוכן CSAM הן יועברו לבדיקה על ידי גורם אנושי באפל ו-NCMEC על מנת לוודא שאכן מדובר על תוכן CSAM ולא זיהוי שגוי, כאשר במידה ואכן מדובר בתוכן כזה המידע הרלוונטי יועבר לרשויות החוק.
מערכת זיהוי חומרי ה-CSAM החדשה של אפל תחל להיות פעילה בהמשך השנה בארה”ב עם עדכוני גרסה למערכת ה-iOS 15, iPadOS 15, WatchOS 8 ו-macOS Monterey.
ישנו קו דק בין הרצון של אנשים לביטחון ובין רצונם לביטחון הפרטיות, בעיקר במדינות כמו ארה”ב ואירופה. הרצון להילחם בתופעת ההתעללות המינית בילדים הוא דבר חיובי וחשוב במיוחד, אך הוא מגיע כעת על חשבון פרטיות המשתמשים שהתמונות האישיות שלהם יעברו בדיקה על ידי אלגוריתם שפרטיו המלאים אינם ידועים, שיכול במידה ויזהה תמונות חשודות להעביר אותן לעיון של גורמים אנושיים זרים.
