הפרלמנט האירופאי (European Parliament), הגוף המחוקק של האיחוד האירופאי, הגיע אמש (ש’, 9.12) להסכם זמני (provisional agreement) על חוק ה-Artificial Intelligence Act (להלן AI Act), אחת מהצעות החוק הראשונות בעולם ליצירת רגולציה על תחום הבינה המלאכותית, חוק שיגביל את אופן הפעולה של ענקיות ה-AI ברחבי האיחוד.
תחום הבינה המלאכותית ממשיך להיות הדבר הגדול הבא בעולם הטכנולוגיה, כאשר לא מעט אנשים יוכלו להסכים כי התחום מתקדם בקצב מהיר במיוחד ויש שיגידו מהם מדי.
הדבר יצר לא מעט חששות מחוסר הרגולציה בתחום והסכנות הטמונות בבינה מלאכותית “בלתי מפוקחת”, מה שהוביל ליצירת ה-AI Act.
ההסכם הזמני על ה-AI Act מגיע כחצי שנה לאחר שטיוטת החוק הוצגה על ידי הפרלמנט, כאשר מדובר על צעד מקדים לפני העברת החוק בצורתו הסופי.
מלבד סעיפי הרגולציה הרבים מתגלה גם “המקל”, המאפשר לפרלמנט להטיל קנסות בגובה של עד 35 מיליון אירו או 7.5% מהמחזור הגלובאלי של החברה המפרה.
AI Act: ???????? Council and ???????? Parliament strike a deal on the first rules for AI in the world#AIAct
Read our press release????
— EU Council Press (@EUCouncilPress) December 9, 2023
על מנת לתת מענה לבעיות המגיעות לצד פיתוחי הבינה המלאכותית השונים, הפרלמנט האירופאי הגדיר “רמות סיכון” שונות של מערכות בינה מלאכותית, החל מסיכון מינימלי ועד מערכות ברמת סיכון אשר “אינה מתקבלת על הדעת” (unacceptable level).
להלן הרשימה של היישומים האסורים בבינה מלאכותית:
- קטלוג אנשים על בסיס מגדר, גזע, אתניות, תושבות, דת ודעה פוליטית.
- איסוף תמונות פנים מהאינטרנט ומערכות אבטחה ליצירת מאגר זיהוי פנים.
- זיהוי רגשות במקום העבודה או הלימודים.
- יצירת “דירוג חברתי” בהתאם להתנהגות חברתית או מאפיינים אישיים.
- מערכות בינה מלאכותית שנועדו למניפולציה של התנהגות אנושית.
- שימוש בבינה מלאכותית לניצול חולשות אנושיות (גיל, מצב חברתי ועוד).
בעוד שבמצב רגיל רשויות החוק אינן אמורות להשתמש בכלי בינה מלאכותית שיחרגו מהגדרות החוק, הפרלמנט שינה את הטיוטה המקורית בהקשר הזה והחריג מצבי חירום בהם יותר שימוש במערכות זיהוי ביומטריות במצבים דוגמת חיפוש קורבנות (חטיפה, סחר בבני אדם ועוד), מניעת פעולת טרור ספציפית ואיתור אנשים המעורבים בפשעים הרלוונטיים.
החוק החדש שם מגבלות גם על ”בינה מלאכותית כללית” GPAI (ר”ת general-purpose AI) ומודלי GPAI שיצטרכו לעמוד בדרישות גבוהות של שקיפות על מנת לפעול באיחוד האירופאי, דרישות בהן מסמכים טכניים וחשיפת המקורות עליהם המודלים אומנו ועוד.
לאחר ההסכם הזמני אליו הגיע הפרלמנט האירופאי, השלב הבא הוא העברתו הצפויה של החוק במועצה והפרלמנט האירופאי על מנת להפוך את ה-AI Act לחוק מחייב באיחוד.
