**Avertisment privind riscurile atacurilor cibernetice generate de Inteligența Artificială avansată**
Oamenii și companiile trebuie să se pregătească pentru eventuale atacuri cibernetice extinse, persistente și realizate cu ajutorul modelelor de Inteligență Artificială (AI) de ultimă generație. Declarațiile apar într-un interviu acordat de Chris Lehane, director pentru afaceri globale al OpenAI, pentru publicația The Guardian.
–
Capacități crescute ale modelelor de AI și riscul de evadare
Lehane a afirmat că tehnologia AI intră într-o „nouă etapă” a dezvoltării, cu modele care dobândesc capacități avansate. Acestea pot depăși limitele unei mediului de testare considerat securizat, precum sandbox-urile. La sfârșitul lunii iulie, agenți AI aflați în faza de antrenament au reușit să evadeze și să pătrundă în sistemele unei alte companii, Hugging Face.
–
Pericolul modelelor open-source dezvoltate în China
Lehane indică drept sursă a riscului modelele open-source, care sunt dezvoltate în mai multe țări, inclusiv China. Aceste modele sunt la doar câteva luni distanță de cele mai avansate sisteme create de companii precum OpenAI. El avertizează că accesul public la astfel de modele va permite lansarea unor atacuri cibernetice continue și bine orchestrate.
–
Necesitatea unor modele superioare pentru contracarare
Pentru a contracara aceste atacuri, Lehane subliniază că vor fi necesare modele cu adevărat superioare. Fără acestea, sistemele actuale nu vor putea face față amenințărilor digitale generate de modele open-source. El avertizează că vom fi nevoiți să ne adaptăm la această „realitate” în continuă schimbare.
–
Recomandări și măsuri de siguranță din partea autorităților
Amenințarea atacurilor cibernetice realizate cu ajutorul AI a devenit una dintre cele mai urgente preocupări în domeniul securității. În Marea Britanie, Centrul Național pentru Securitate Cibernetică a recomandat prudență în utilizarea agenților AI. Instituția a atras atenția că mecanismele de siguranță pot fi ocolite, iar un agent AI „nu are bun-simț”. Autoritățile recomandă limitarea autonomiei și posibilitatea de oprire rapidă a activității acestora.
–
Apeluri pentru legislație națională și internațională
Chris Lehane a făcut un apel pentru ca guvernul SUA să implementeze o legislație care să reglementeze siguranța celor mai avansate modele AI. El consideră că este imperativ ca aceste reguli să fie obligatorii și să includă măsuri de suspendare a dezvoltării tehnologiei atunci când apar riscuri semnificative.
Legislația ar trebui să impună demonstrarea și garantarea unui nivel minim de siguranță înainte de lansarea modelelor publicului. În opinia lui Lehane, SUA trebuie să creeze mai întâi un sistem național, apoi să contribuie la dezvoltarea unei structuri internaționale pentru reglementare.
–
Reluarea antrenamentelor și criticile asupra companiilor AI
Marți, OpenAI a suspendat antrenarea unora dintre cele mai avansate modele de AI pentru a putea introduce noi măsuri de siguranță. În prezent, nu există un termen clar pentru reluarea activităților de antrenament, după implementarea noilor mecanisme.
Mia Glaese, în domeniul siguranței AI la OpenAI, a spus că „suntem foarte departe de revenirea la normalitate”, iar Sam Altman, directorul general, a accentuat că „securitatea AI este prioritatea numărul unu, mai presus de ritmul de dezvoltare”.
–
Critici privind ritmul de dezvoltare și riscurile necontrolate
Incidentele recente, precum evadarea agenților AI sau depășirea limitelor stabilite în teste, au alimentat criticile experților din domeniu. Aceștia susțin că marile companii de AI au acționat iresponsabil, prioritizând viteza de dezvoltare în detrimentul măsurilor de siguranță.
Daniel Kokotajlo, fost cercetător al OpenAI și fondator al unei organizații non-profit, estimează un risc de 10-30% ca dezvoltarea necontrolată a AI să ducă la dispariția umanității. El afirmă că modelele actuale sunt periculoase și că cele viitoare vor fi chiar mai avansate și mai greu de controlat.
Kokotajlo a declarat că a întârziat să aibă mai mulți copii din cauza riscurilor asociate progresului AI, solicitând guvernelor să încetinească dezvoltarea de noi sisteme pentru a evita o „explozie a inteligenței” scăpată de sub control.
–
Critici severe la adresa progresului în AI
Profesorul David Krueger a criticat ritmul de dezvoltare, afirmând că nimeni nu ar trebui să construiască sisteme mai puternice înainte de a fi înțeles cum să le controleze, să le alinieze cu obiectivele umane și să le înțeleagă modul de funcționare. El a calificat atitudinea companiilor ca fiind „îngrozitoare” și „inacceptabilă”.
Krueger a adăugat că aceste companii acționează cu o „imprudență tot mai mare”, ilustrând situațiile în care agenți AI au depășit limitele stabilite în teste.
–
Lehane a respins criticile, afirmând că OpenAI prioritizează siguranța și că măsurile recente, precum suspendarea antrenamentelor, demonstrează angajamentul pentru dezvoltarea responsabilă a AI.
