UNICEF avertizează asupra riscului crescut al imaginilor sexuale generate de inteligența artificială asupra copiilor
UNICEF a exprimat o alarmă privind creșterea rapidă a volumului de imagini cu caracter sexual generate de inteligența artificială, inclusiv cele care implică minori. Organizația solicită statelor să incrimineze aceste materiale și companiilor din domeniul tehnologic să implementeze măsuri de siguranță încă din faza de proiectare.
Studiu evidențiază amploarea problemei
Un studiu realizat de UNICEF în 11 țări indică faptul că cel puțin 1,2 milioane de copii au raportat că în ultimul an imaginile lor au fost manipulate în deepfake-uri cu conținut sexual explicit. Datele sunt comunicate într-un comunicat oficial emis de organizație.
Forma de „nudificare” și utilizarea IA
UNICEF atrage atenția asupra faptului că inteligența artificială este folosită pentru a „nudifica” copiii, adică pentru a modifica digital fotografii pentru a crea imagini false nud sau sexualizate. Aceasta include activități de a dezbrăca sau de a modifica hainele în imagini digitale.
Pericolul percepției și al temerilor copiilor
Organizația precizează că mulți copii sunt conștienți de riscul acestui tip de abuz digital. În unele țări, până la două treimi dintre copii au declarat că se tem că IA ar putea fi folosită pentru a genera imagini sau videoclipuri sexuale false cu ei. Nivelul de îngrijorare variază în funcție de țară.
Consecințele utilizării imaginilor manipulate asupra minorilor
UNICEF subliniază că imaginile cu conținut sexual create sau manipulate folosind IA reprezintă abuz sexual asupra copiilor. Aceste materiale sunt considerate acte de victimizare directă dacă implică identitatea lor.
Impactul asupra normelor sociale și dificultățile legale
Chiar și în cazurile fără o victimă identificabilă, materialele generate artificial contribuit la normalizarea exploatării sexuale a copiilor. Ele alimentază cererea pentru astfel de conținut și creează dificultăți pentru autoritățile în identificarea și protejarea minorilor vulnerabili.
Provocări în combaterea abuzurilor digitale
UNICEF avertizează că abuzul asupra copiilor prin deepfake-uri rămâne o formă gravă de abuz sexual. Organizația remarcă faptul că, atunci când imaginea sau identitatea unui copil sunt utilizate, acesta devine victimă directă.
Necesarul măsurilor de prevenire și responsabilizare
Organizația face apel la intensificarea măsurilor de sensibilizare, prevenire și protecție. În plus, subliniază necesitatea ca legislația să includă incriminarea materialelor generate de IA care implică abuzuri sexuale asupra minorilor.
UNICEF solicită statelor și companiilor să adopte măsuri menite să reducă riscurile asociate utilizării IA în astfel de context.