Guvernele sunt solicitate să adopte măsuri ferme pentru protejarea copiilor în fața riscurilor generate de inteligența artificială, într-un context în care peste 100 de organizații internaționale, printre care Amnesty International și Save the Children, au lansat un apel public. Solicitarea vine cu puțin timp înaintea primului summit global al Organizației Națiunilor Unite (ONU) dedicat guvernanței AI.
Organizațiile semnatare afirmă că actualele reglementări de domeniu vin prea târziu, atunci când efectele negative asupra minorilor sunt deja vizibile. Ei consideră că responsabilitatea pentru siguranța copiilor trebuie să revină companiilor care dezvoltă și lansează sisteme bazate pe inteligență artificială, nu exclusiv părinților.
Organizațiile solicită testarea produselor AI înainte de lansare
Inițiativa de reglementare este coordonată de organizația 5Rights Foundation, care avertizează că tehnologiile AI impactează deja copiii, iar ritmul rapid de dezvoltare depășește măsurile actuale de protecție.
Solicitarea publică subliniază că numeroase companii din domeniu, precum OpenAI și Character Technologies, se află în vizor pentru procese legate de impactul chatbot-urilor asupra minorilor.
În special, compania a criticat „companioni AI”, asistenți conversaționali concepuți pentru a simula relații emoționale de lungă durată. Reclamanții susțin că acești asistenți sunt promovați ca fiind potriviți pentru copii, fără avertismente suficiente privind riscurile potențiale.
Organizațiile propun un set de zece măsuri pentru guverne, printre care obligativitatea ca produsele AI să fie testate pentru siguranță înainte de a fi puse pe piață. Alte prevederi vizează sancțiuni financiare pentru încălcarea drepturilor minorilor și interzicerea funcțiilor AI care exploatează vulnerabilitățile psihologice ale copiilor.
Printre măsurile cerute se află și interzicerea utilizării în scop comercial a imaginilor, vocii și datelor biometrice ale minorilor.
Coaliția nu consideră nevoie de legi noi, ci de aplicarea celor existente
Reprezentanții 5Rights Foundation afirmă că nu este necesar un nou cadru legislativ internațional pentru astfel de măsuri. Ei susțin că statele au deja obligații legale asumate prin Convenția ONU privind Drepturile Copilului și prin Global Digital Compact.
Aceste instrumente internaționale stabilesc principii pentru respectarea drepturilor copilului și pentru garantarea respectării legislației în mediul digital. Organizațiile solicită aplicarea strictă a acestor prevederi existente, fără a impune noi norme legislative.
