Nicoleta Prutean, doctor în neuroștiințe cognitive și analist senior în inteligență artificială la o organizație neguvernamentală din Bruxelles, a discutat despre impactul AI asupra sănătății mintale și necesitatea reglementărilor în domeniu. În cadrul unui interviu, cercetătoarea a subliniat importanța ajustării designului platformelor digitale pentru a proteja și dezvolta autonomia utilizatorilor, inclusiv a copiilor.
Obiectivele cercetării și raportul despre influența AI asupra sănătății mintale
Prutean a lucrat la un raport intitulat „Governing AI for cognitive integrity”, concentrându-se pe modul în care rețelele sociale și sistemele de AI afectează sănătatea mintală. Scopul a fost să definească și să operationizeze conceptul de sănătate mintală, nu doar ca absență a unor patologii, ci ca stare de bine mentală care permite persoanelor să facă față stresului și să contribuie la societate.
Ce reprezintă integritatea cognitivă?
Din perspectiva sa, integritatea cognitivă este capacitatea de a păstra autonomie asupra funcțiilor cognitive, esențiale pentru gândire, decizie și comportament. Aceasta trebuie măsurată pentru a evalua impactul tehnologiilor și a reglementărilor europene în domeniu. În legislație, protecția libertății de gândire și a sănătății mentale este prioritară, însă operaționalizarea acestor concepte rămâne o provocare științifică.
Pericolul pierderii autonomiei și cele cinci nevoi umane fundamentale
Prutean susține că tehnologiile bazate pe AI satisfac cinci nevoi psihologice: înțelegerea, conectarea, crearea de sens, comunicarea și coping-ul cu dificultățile. Însă, când aceste nevoi sunt externalizate complet către AI, apare riscul ca autonomia persoanei să scadă, afectând plasticitatea neurală și starea de bine mentală, mai ales dacă reperul de autonomie este pierdut.
Reglementarea AI și analogia cu electricitatea
Prutean compară reglementarea AI cu modul în care este reglementată electricitatea. Nu există un singur act, ci mai multe legislații care abordează componente diferite: AI Act, GDPR, Digital Services Act și legislație pentru protecția consumatorilor. Reglementările trebuie integrate pentru a acoperi toate aspectele tehnologice, iar în implementare există întârziere și ambiguități, precum cele din cazul riscurilor sistemice și a amenințărilor la adresa alegerilor din România.
Ccața rețelelor sociale pentru copii și abordarea designului platformelor
Prutean evidențiază că interzicerea strictă a rețelelor sociale pentru copii, precum exemplul Australiei, poate fi ineficientă, dat fiind că majoritatea copiilor accesează aceste platforme necontrolat. În schimb, propune abordarea designului platformelor pentru a face rețelele sociale sigure, fără a limita accesul, inclusiv pentru noile tehnologii de AI generativă.
Propunerea EU Kids Act și vulnerabilitatea copiilor
Proiectul european vizează restricții de vârstă, până la 13 ani, și obligă platformele să adapteze designul pentru a preveni vulnerabilități. Conform experților și cercetărilor, copiii sunt cei mai expuși riscurilor din cauza stadiului de dezvoltare, însă vulnerabilitatea nu dispare odată cu trecerea de vârstă.
Riscurile și vulnerabilitatea umană în contextul AI
Prutean consideră că vulnerabilitatea umană nu a apărut odată cu AI, ci este o caracteristică a evoluției minții umane. Riscurile implică multiple straturi, de la vulnerabilități comune, la cele individuale și sociale, precum izolarea sau stresul. Reglementările trebuie să țină cont de aceste multiple fațete pentru a fi eficiente.
Următorii pași și perspectiva europeană
Pentru creșterea conștientizării, cercetătoarea plănuiește să continue studiile asupra impactului tehnologiei asupra relației umane, precum și să promoveze dezvoltarea unui ecosistem de talente în AI, în special în domeniul modelării avansate, unde Europa, inclusiv România, are încă nevoie de investiții.
Rolul unui ministru pentru AI în România
Prutean afirmă că numirea unui ministru pentru AI reprezintă un semnal semnificativ. Rolul acestuia trebuie definit clar: fie pentru digitalizarea administrației, fie pentru suveranitatea națională în domeniu. În special, accentul ar trebui pus pe dezvoltarea talentelor în AI și pe susținerea inovației, inclusiv în România, pentru a acoperi lacunele existente în formare și investiții.
În final, cercetătoarea subliniază că utilizarea tehnologiilor AI trebuie să fie centrată pe oameni, iar reglementările și designul platformelor trebuie să pună în primul plan protejarea autonomiei și integrității cognitive.
