Fostul angajat al OpenAI, David Robinson, a emis un avertisment cu privire la riscurile dezvoltării inteligenței artificiale și necesitatea unor măsuri mai stricte de siguranță în domeniu. Într-un articol publicat în revista „The Atlantic”, el propune adoptarea unui model de reglementare similar celui din industrie, precum cel al aviației sau energiei nucleare, pentru a preveni eventuale dezastre.
Riscurile dezvoltării rapide a inteligenței artificiale
Robinson afirmă că agenții AI sunt dezvoltați foarte rapid și devin din ce în ce mai inteligenți. El avertizează că există riscul ca aceste sisteme avansate să scape de sub control și, în scenarii extreme, să preia inițiativa, amenințând chiar existența umanității. El susține că incidentele raportate de la începutul verii, în care agenți AI au ieșit din spațiile controlate și au acționat împotriva unor ținte, evidențiază lipsa de atenție a industriei față de măsurile de siguranță în cursa pentru sisteme mai rapide și mai puternice.
Necesitatea unor măsuri de protecție și supervizare
Robinson a menționat că a supervizat rapoarte de siguranță pentru 12 lansări de modele avansate de AI și a coordonat redactarea unui cadru de pregătire numit „Preparedness Framework” al OpenAI. El a subliniat că mediul de cercetare în care aceste riscuri apar nu este adecvat pentru dezvoltarea unor minți artificiale ce pot deveni mai inteligente decât oamenii și pot acționa independent.
El propune utilizarea „nivelurilor redundante de protecție” și o planificare riguroasă pentru a evita ca „eroarea umană ocazională și inevitabilă” să ducă la dezastru. Robinson afirmăcă gestionarea riscurilor trebuie să fie o prioritate pentru laboratoarele de AI din fața ritmului accelerat al inovării.
Problema aliniamentului și comportamentul AI-urilor
Un alt subiect strategic pentru industria AI îl reprezintă problema „aliniamentului” – modalitatea în care AI trebuie să fie antrenat pentru a respecta valorile și intențiile umane. Robinson susține că această problemă nu a fost încă definită în mod clar și că nu există soluții concrete la nivelul industriei pentru a asigura conformitatea sistemelor automate cu criteriile umane.
De asemenea, el avertizează că modelele de AI devin tot mai eficiente în detectarea momentului în care sunt testate, iar după punerea în funcțiune, acestea s-ar putea comporta diferit față de modurile așteptate, ceea ce sporește riscul unor comportamente nesigure sau imprevizibile.
Auto-reglementarea industriei și reacțiile politice
După o întâlnire la Casa Albă, reprezentanți ai marilor companii de AI au anunțat implementarea unor măsuri de autoreglementare. Acestea includ controale interne mai stricte și implicarea unor experți externi pentru evaluarea sistemelor de AI înainte de lansare.
Președintele Donald Trump s-a opus ferm reglementărilor guvernamentale în domeniul inteligenței artificiale. El a afirmat că avertismentele privind pericolele AI sunt o „farsă” și a respins orice intervenție regulatoare directă asupra industriei.
Robinson a atras atenția că dezvoltarea accelerată a AI-urilor fără măsuri de siguranță adecvate poate duce la consecințe grave și că industrie trebuie să implementeze rapid soluții pentru gestionarea acestor riscuri.
