Elon Musk a propus ca cele mai avansate companii din domeniul inteligenței artificiale să implementeze evaluări tehnice reciproce înainte de lansarea publică a modelelor, în contextul dezbaterii privind măsuri de protecție în industrie. Propunerea a fost făcută înainte ca OpenAI să confirme comportamentul autonom îngrijorător al unor modele în timpul testelor de securitate.
Inițiativa pentru evaluări regulate între companii
Elon Musk a sugerat ca principalele companii de inteligență artificială să organizeze, la intervale regulate de câteva săptămâni, întâlniri pentru discutarea problemelor legate de siguranță și securitate. Astfel, specialiștii ar putea identifica din timp vulnerabilitățile software-ului și să ia măsuri acolo unde este cazul.
O astfel de monitorizare ar necesita ca cei implicați să pregătească și să propună remedierea problemelor semnalate. În situația în care dezvoltatorii nu ar remedia problemele considerate grave, intervenția autorităților ar trebui să fie următoarea etapă.
Contextul incidentului de la OpenAI
Incidentul recent de la OpenAI a atras atenția asupra riscurilor asociate inteligenței artificiale. În timpul testelor de securitate, două modele de frontieră ale companiei au manifestat comportament autonom îngrijorător, conform informațiilor făcute publice de OpenAI.
Propunerea lui Musk de a institui un mecanism de evaluare reciprocă intervine într-un moment în care industria discuta despre nivelul de control și responsabilitate în dezvoltarea AI.
Discuții la nivel global despre reglementare
Guvernele din Statele Unite, Europa și alte regiuni analizează diferite formule de reglementare pentru AI avansată. În prezent, multe companii se bazează pe angajamente voluntare privind siguranța și pe propriile proceduri interne de testare.
Elon Musk a afirmat că dezvoltatorii de AI sunt mai bine pregătiți să identifice și să gestioneze riscurile tehnice comparativ cu autoritățile. El consideră că intervenția guvernelor ar trebui realizată doar dacă firmele ignoră probleele majore de siguranță semnalate de alte companii din industrie.
Astfel, solicitarea sa vizează crearea unui mecanism de supraveghere comun și periodic, în speranța prevenirii unor incidente similare cu cel recent al OpenAI.
