O nouă reglementare europeană interzice generarea de conținut AI care evidențiază părți intime ale persoanelor, inclusiv în cazul materialelor sexuale explicite și al celor care exploatează imagini de copii. Aceasta vizează oprirea utilizării ilegale a inteligenței artificiale pentru crearea de deepfake-uri sexuale nedorite sau materiale abuzive, urmând să intre în vigoare până la 2 decembrie 2026. Decizia vine în contextul unor scandaluri legate de generarea de imagini sexuale false, inclusiv cu minori, care au crescut presiunea asupra autorităților europene.
Continutul interzis și scopul noii reguli
Legislația europeană interzice utilizarea AI pentru a crea imagini sau videoclipuri cu părți intime ale persoanelor identificabile, fără acordul acestora. De asemenea, se interzice utilizarea tehnologiei pentru a genera materiale care expun victimele în situații sexuale explicite sau ce le pot umili. Măsura urmărește să prevină răspândirea acestor conținuturi, care pot avea consecințe devastatoare asupra victimelor, precum hărțuire, șantaj sau prejudicii sociale și emoționale.
Responsabilitatea platformelor și dezvoltatorilor
Furnizorii de sisteme de inteligență artificială nu vor putea introduce pe piața Uniunii Europene servicii pentru generarea de astfel de conținut dacă nu implementează măsuri tehnice pentru a preveni abuzurile. Aceasta presupune construcția de bariere de siguranță în sistemele AI, pentru a bloca generarea imaginilor intime false, a conținutului sexual explicitar neconsensual și a materialelor ce exploatează copii.
Platformele și companiile dezvoltatoare au termen până la 2 decembrie 2026 pentru a-și adapta sistemele. În această perioadă, conținutul generat va trebui să fie etichetat clar, pentru a facilita identificarea automată a materialelor create artificial și pentru a crește transparența.
Impactul asupra platformelor sociale
Chiar dacă legea se adresează în principal furnizorilor AI și utilizatorilor de tehnologii în scopuri abuzive, presiunea asupra platformelor sociale va crește. Deepfake-urile și alte imagini false se răspândesc rapid și pot fi dificil de eliminat, astfel încât platformele de distribuție vor fi și ele afectate de aceste reglementări.
Modificări la legea AI și amânări pentru sistemele cu risc ridicat
Legislația europeană considerată una dintre cele mai ambițioase în domeniul AI a fost revizuită pentru a include interdicția menționată. Totuși, unele reguli pentru sistemele AI cu risc ridicat sunt amânate. Aceste reguli vor fi aplicate începând din 2 decembrie 2027 pentru sistemele considerate cu risc înalt și din 2 august 2028 pentru cele integrate în produse supuse legislației privind siguranța și piața.
Motivele pentru aceste întârzieri sunt legate de necesitatea ca firmele să aibă mai mult timp pentru adaptare, standardizare tehnică și clarificări legislative.
Reacțiile din industrie și din corpul legislativ
Organizațiile din domeniul tehnologic ar putea considera amânările o facilitate pentru conformare. În schimb, apărătorii drepturilor digitale semnalează riscul relaxării stricte a normelor, mai ales în domenii sensibile precum sănătatea, securitatea, educația și protecția drepturilor fundamentale.
Regulamentul transmite totodată un mesaj ferm: Uniunea Europeană intenționează să păstreze o linie dură împotriva abuzurilor produse cu ajutorul inteligenței artificiale, în special cele care afectează demnitatea și viața privată a persoanelor, iar măsura pentru interzicerea aplicațiilor de nudifier este una concretă și vizibilă în efortul de a combate aceste fenomene.