זה מתחיל: המדינה שצפויה להטיל קנסות על חוסר סימון של תוכן שנוצר ע"י בינה מלאכותית

This post is also available in: English (אנגלית)

ספרד פרסמה הצעת חוק חדשה שמטרתה להסדיר את השימוש בתכנים שנוצרו על ידי בינה מלאכותית (AI), במיוחד לאור החשש ההולך והגובר סביב "דיפ פייק". החקיקה, שאושרה ביום שלישי, מציעה קנסות כבדים לחברות שלא מסמנות כראוי חומר שנוצר על ידי בינה מלאכותית, מה שנועד להבטיח שקיפות ואחריותיות בשימוש בכלי זה.

מהלך זה תואם את המאמצים הרחבים של האיחוד האירופי לאכוף תקנות AI מחמירות, במיוחד בתוך מערכות "בסיכון גבוה". הצעת החוק משקפת קווים מנחים של חוק ה-AI של האיחוד האירופי, המחייב סימון ברור של תוכן מבוסס AI כדי להגן מפני שימוש לרעה הפוטנציאלי שלו. שר הטרנספורמציה הדיגיטלית אוסקר לופז הדגיש את האופי הדו-צדדי של הבינה המלאכותית, והדגיש את יכולתה לשפר חיים, אך גם את הפוטנציאל שלה להפיץ מידע שגוי ולערער את הדמוקרטיה.

על פי רויטרס, אם החוק יעבור סופית, הוא עלול להטיל קנסות של עד 35 מיליון יורו או 7% מההכנסות השנתיות של החברה, על כך שלא סימנו כראוי תוכן שנוצר על ידי בינה מלאכותית. החוק מבקש לפעול נקודתית למול דיפ פייקס, מניפולציות של קטעי וידאו, תמונות, או אודיו שנוצרו על ידי אלגוריתמים של בינה מלאכותית אבל מוצגים כאותנטים. חומרים אלה משמשים יותר ויותר למטרות מזיקות, כולל קמפיינים של דיסאינפורמציה וגניבת זהות.

בנוסף לדרישות הסימון, החוק אוסר על שימוש בטכניקות חשאיות – כגון צלילים או תמונות בלתי מורגשות – כדי לתמרן אוכלוסיות פגיעות. היא גם מגבילה את השימוש ב-AI לסיווג אנשים בהתבסס על נתונים ביומטריים, התנהגויות או תכונות אישיות בהקשרים כמו הערכת סיכונים או גישה להטבות. עם זאת, מעקב ביומטרי בזמן אמת למטרות ביטחון לאומי פטור מהגבלות אלה.

תקנות אלה לא יכללו תחומים כגון פרטיות נתונים, פשע, ביטוח ובחירות, שבהם הגופים הרגולטוריים הרלוונטיים ישמרו על סמכות השיפוט שלהם.

מאמץ חקיקה זה מציב את ספרד בין המדינות הראשונות באיחוד האירופי לאמץ תקנות AI מקיפות, ומסמן צעד משמעותי לקראת הבטחת שימוש בבינה מלאכותית אתית תוך איזון חדשנות עם בטיחות הציבור.