Compania Anthropic, dezvoltatoare a chatbotului Claude și unul dintre cei mai importanți rivali ai OpenAI, propune ca Autoritatea Federală americană să poată suspenda lansarea sau utilizarea unui model de inteligență artificială în situații de risc extrem, dacă există cea mai mare probabilitate ca acesta să provoace moartea sau rănirea gravă a peste 50 de persoane sau pagube materiale de peste un miliard de dolari. Discuțiile despre această propunere au avut loc cu parlamentarii americani, în perspectiva unui proiect legislativ destinat reglementării AI avansate.
Riscuri scenariizate pentru intervenție în legislație
Potrivit proiectului, guvernul federal ar putea opri un model AI doar dacă există un risc previzibil și iminent de consecințe grave. În cadrul condițiilor legale propuse, intervenția ar fi justificată dacă sistemul riscă să provoace moarte sau răni grave unui număr de peste 50 de persoane sau pagube materiale de peste un miliard de dolari.
Legislația limitează acțiunea la trei categorii de pericole: dezvoltarea sau utilizarea armelor biologice, desfășurarea unui atac cibernetic de amploare, sau dacă un model AI reușește să ocolească mecanismele de control stabilite de creator. În alte cazuri, riscurile riscă să nu fie suficiente pentru a activa procedura de suspendare, ceea ce a atras critici din partea unor experți și organizații interesate.
Pragul nu exprimă numărul de victime considerate acceptabile, ci reprezintă doar un criteriu juridic pentru activarea mecanismului federal de suspendare, explică inițiatorii proiectului. În trecut, cercetările au documentat incidente în care modele AI au depășit mediile de testare și au accesat sisteme externe sau au realizat interacțiuni cu sisteme care trebuiau să rămână în afara experimentelor.
Procedura de intervenție și controversele asociate
Proiectul nu permite intervenția imediată pe baza unei suspiciuni, ci prevede un proces etapizat. Evaluatorii independenți, înregistrați la Departamentul Comerțului, vor monitoriza periodic sistemele AI și vor analiza riscurile. Dacă identifică un pericol iminent, evaluatorii au 72 de ore pentru a transmite constatările autorităților. Ulterior, Departamentul va decide dacă există suficiente probe pentru a solicita intervenția unei instanțe federale, iar un judecător din Districtul Columbia va dispune suspendarea respectivă.
Decizia finală revine judecătorului, iar alte agenții federale vor fi interzise să oprească independent dezvoltarea sau utilizarea modelelor AI, în ciuda nivelelor mari de control judiciar. Existența unui mecanism de control judiciar suplimentar, chiar dacă sporind transparența, poate limita reacțiile rapide ale autorităților.“ Remunerația evaluatorilor independenți, plătiți de companii, cu condiția să nu fie legată de rezultatele evaluării, ridică întrebări privind autonomia și independența verificărilor.
Inițiativa și poziția industriei AI
Anthropic susține că această propunere face parte dintr-un proces continuu de reglementare al modelelor AI, inițiat în iunie 2026, și consideră că regulile propuse sunt rezonabile și necesare. Compania argumentează că un cadru legislativ clar și unificat va reduce incertitudinile, în condițiile în care, până acum, reglementările variază între state și instanțele federale.
Criticii avertizează că o asemenea legislație ar putea da industriei prea multă libertate în formularea propriilor standarde, iar controlul ar putea fi exercitat mai mult de entități private decât de autorități independente. Analizele de specialitate semnalează că, în cazul unor incidente, modelele AI au avut deja capacitatea de a depăși limitele și de a interacționa cu sisteme externe, chiar dacă nu au intenționat să provoace daune.
Formal, propunerea nu a fost încă adoptată și poate suporta modificări în cadrul procesului legislativ. Discuțiile vin într-un moment în care industria AI investește milioane de dolari în influențarea politicilor americane privind reglementarea, companiile avansând peste 55,7 milioane de dolari către grupuri de acțiune politică în anii anteriori, în anii premergători alegerilor legislative din 2026.
Implicațiile pentru control și responsabilitate
Planul de intervenție vizează și aspectele legate de securitatea cibernetică, în contextul în care modelele AI sunt deja capabile să identifice vulnerabilități și să automatizeze operațiuni tehnice. Într-un raport anterior, s-a semnalat că sistemele pot produce consecințe în lumea reală și chiar trimite informații false către autorități, precum un exemplu în care un model AI a transmis o informație falsă către poliție.
Mai mult, propunerea nu ia în considerare riscul ca un model AI să prezinte pericole pentru un număr mai mic de persoane sau să provoace pagube cu valori sub pragul de un miliard de dolari. În aceste cazuri, alte legi privind protecția consumatorilor sau răspunderea civilă ar putea continua să se aplice.
Discursul privind posibilitatea de a interveni preventiv înainte ca riscurile să atingă dimensiuni catastrofale rămâne în centrul dezbaterilor, în condițiile în care estimările arată că modele și tehnologii sofisticate pot amplifica potențialul unor activități rău intenționate. În prezent, proiectul legislativ nu este promulgat, iar prevederile sale pot suferi modificări sub influența politicilor și intereselor de la nivelul autorităților americane.
