Companiile americane din domeniul inteligenței artificiale au lansat un plan în trei pași pentru a încetini ritmul de dezvoltare a modelelor avansate, evitând astfel posibile riscuri pentru societate și menținând avantajul competitiv în cursa globală pentru AI. Propunerea a fost prezentată de Amodei, reprezentant al companiei Anthropic, și primește sprijin din partea unor lideri din industrie, inclusiv OpenAI și Elon Musk.
Planul în trei etape pentru încetinirea dezvoltării AI
Primul pas al inițiativei prevede ca evaluatori independenți să aibă acces similar angajaților companiilor pentru verificarea măsurilor de siguranță și raportarea incidentelor. Această măsură a fost deja adoptată de Anthropic.
Al doilea pas implică coordonarea principalelor companii AI din țările democratice pentru stabilirea unor standarde comune care să guverneze dezvoltarea tehnologiilor AI.
Ultima etapă presupune încheierea unor acorduri între guvernele democratice și cele autoritare pentru a reglementa și limita ritmul de cercetare și introducere pe piață a modelelor avansate de AI.
Context și motivație
Inițiativa a fost lansată după ce cercetătorul Jacob Coxon, fost angajat al Anthropic, a criticat compania și OpenAI, avertizând asupra riscurilor pe care le poate genera tehnologia AI, inclusiv dispariția umanității în următorul deceniu.
Amodei a afirmat că aceste riscuri trebuie abordate cu prioritate, fiind mai importante decât în trecut, având în vedere creșterea capacităților modelelelor AI și posibilitatea ca acestea să acționeze în lumea reală.
Reacții și sprijin din industrie
Sam Altman, CEO-ul OpenAI, a susținut în mod public ideea încetinirii dezvoltării AI, menționând că subiectul este central în discuțiile din compania sa.
Altman a exprimat și susținerea pentru evaluatori independenți cu acces extins și a anunțat că OpenAI va implementa măsuri similare.
Elon Musk a declarat public că „Dario are dreptate” în sprijinul sugestiei de încetinire a ritmului de cercetare în AI.
Implicații și perspective
Amodei consideră că o întârziere de unul sau doi ani în dezvoltarea modelelor AI avansate poate oferi cercetătorilor timpul necesar pentru a îmbunătăți alinierea tehnologiilor și a reduce riscul ca dezvoltarea să scape de sub control.
Inițiativa are ca scop să asigure controlul asupra avansurilor tehnologice, menținând în același timp poziția competitivă a companiilor și a statelor în domeniul inteligenței artificiale.
