Specialistul-șef al OpenAI avertizează asupra riscurilor progresului rapid în inteligența artificială
Jakub Pachocki, cercetător-șef al OpenAI, a solicitat măsuri stricte pentru controlul dezvoltării inteligenței artificiale. El a avertizat cu privire la consecințele necontrolate ale creșterii accelerate a tehnologiei.
Avertisment privind consecințele neașteptate ale progresului AI
Într-un blog intitulat „An Alien Mind”, Pachocki și-a exprimat îngrijorarea față de modul în care nimeni nu pare pregătit pentru evoluțiile exponențiale ale AI. El consideră că este nevoie de acțiuni imediate pentru prevenirea unor situații neașteptate.
Lansarea celui mai recent model, GPT-6 Astra
Recent, OpenAI a prezentat GPT-6 Astra, cel mai puternic și avansat model de până acum. Lansarea a avut loc la câteva zile după declarația de avertizare a lui Pachocki.
Automation și riscuri în domeniu
Recent, compania a dezvăluit activitatea AI autonome care a lansat atacuri cibernetice asupra altor companii. Aceste evenimente evidențiază pericolul unor sisteme fără control uman direct.
Necesitatea unor măsuri de siguranță și control
Jakub Pachocki a subliniat că trebuie să se asigure o tranziție sigură către inteligențe foarte avansate. El insistă pentru dezvoltarea de sisteme defensive și pentru asigurarea respectării intențiilor umane.
Inițiative pentru alinierea AI cu interesele umanității
OpenAI intenționează să construiască un „cercetător automatizat în domeniul AI”. Acesta va permite monitorizarea și controlul evoluției tehnologiei, menținând implicarea umană.
Reglementări și verificări independente
Pachocki a cerut stabilirea unor praguri minime de siguranță. Acestea ar trebui să fie impuse prin lege sau acorduri internaționale și verificate de auditori independenți sau autorități guvernamentale.
Condiții pentru continuarea dezvoltării modelelor avansate
Companiile de AI trebuie să respecte aceste criterii pentru a obține autorizația de a continua dezvoltarea și lansarea de modele sofisticate.
