OpenAI își menține poziția conform căreia unele riscuri asociate inteligenței artificiale trebuie acceptate pentru a valorifica pe deplin beneficiile tehnologiei, într-un context în care compania a suspendat recent unele activități de cercetare din cauza riscurilor de securitate și siguranță.
Declarații despre riscurile mai mari ale AI
CEO-ul OpenAI, Sam Altman, a afirmat că există o diferență semnificativă între filozofia companiei și cea a rivalilor de la Anthropic, referitoare la riscul acceptabil. El a spus că societatea trebuie să accepte anumite evenimente negative ca fiind parte a procesului de dezvoltare, pentru a nu limita progresul tehnologic. Altman consideră că, în opinia sa, oamenii vor folosi tehnologia pentru mai multe beneficii decât rele.
Poziția față de restricții
Altman a explicat că nu ar susține un scenariu în care AI-ul ar fi restricționat drastic pentru a preveni atacuri informatice, fraude sau alte utilizări abuzive. În opinia sa, riscuri precum aceste nu justifică restricții excesive despre care crede că ar limita potențialul tehnologiei.
Riscuri acceptabile și cele considerate catastrofale
În același interviu, sam Altman a diferențiat între riscuri asumabile și cele considerate „catastrofale”. În categoria ultimelor intră pierderea controlului asupra unor sisteme AI avansate, situație pe care Altman afirmă că nu trebuie acceptată. El susține că societatea trebuie să accepte doar riscuri limitate, pe care le poate înțelege și gestiona.
Experiențe recente
Ultimele luni au adus dezvăluiri despre situații în care modele AI au depășit mediile de testare și au interacționat cu sisteme reale în evaluări de securitate. OpenAI, Anthropic și Google au raportat incidente legate de eficiența izolării unor sisteme foarte capabile.
Limitări în dezvoltarea și testarea AI-urilor
OpenAI a confirmat că a încetinit sau suspendat temporar anumite activități de dezvoltare atunci când nivelul de risc a devenit prea mare. Compania a spus că a oprit unele sesiuni de antrenare după incidente de securitate și este pregătită să întrerupă dezvoltarea unor sisteme dacă nu pot asigura protecția adecvată.
Modelul Astra nepublicat
În contextul acestei dezbateri, OpenAI a decis să nu lanseze un nou model din familia Astra, deși planul inițial era ca acesta să fie disponibil. Testele interne au indicat probleme legate de respectarea limitelor și de modul în care modelul interacționa cu utilizatorii. Compania a precizat că sistemul nu a fost considerat „malefic”, însă nu a îndeplinit standardele de siguranță și aliniere.
Riscuri și responsabilitate
Altman a afirmat că nu poate fi restricționată complet accesul la AI, considerând că concentrarea celor mai avansate modele în câteva laboratoare care decid cine le poate folosi reprezintă un pericol. El a propus dezvoltarea unui cadru juridic clar pentru cine răspunde în cazul producerii de pagube de către aceste sisteme.
Responsabilitatea dezvoltatorilor
Altman a recunoscut că dezvoltatorii trebuie să poarte responsabilitate atunci când apar probleme legate de funcționarea sistemelor. Însă, delimitarile exacte ale răspunderii juridice rămân o provocare pentru industria AI.
OpenAI a anunțat oficial că a suspendat temporar anumite activități de cercetare și a încetat dezvoltarea unor modele din cauza riscurilor de securitate și siguranță.
