Oameni politici din diverse țări consultă frecvent chatboți înainte de a lua decizii, conform unor surse neoficiale. Recent, cercetători de la laboratorul new-yorkez Emergence AI au realizat un experiment pentru a analiza comportamentul modelelor de inteligență artificială în poziții de conducere într-o lume simulată.
Descrierea experimentului Emergence World
Proiectul, denumit Emergence World, a permis modelelor AI să guverneze un oraș virtual, similar cu un joc de tip “SimCity”, pentru o perioadă de 15 zile. În simulare, fiecare model a gestionat un oraș populat cu 10 agenți de inteligență artificială, având atribuții autonome. Aceste agenți sunt proiectați să execute sarcini complecse cu minim interacționare umană.
Instrumente și reguli în lumea virtuală
Cercetătorii au oferit modelele AI unelte pentru gestionarea resurselor, stabilirea de reguli și crearea locațiilor precum biblioteci, primării sau secții de poliție. Modelele au avut libertatea de a modifica cadrul, inclusiv de a vota decizii sau de a implementa reguli noi în cadrul simulării.
Performanța modelelor AI în guvernare
Modelul Claude de la Anthropic s-a evidențiat prin menținerea stabilității. Până la final, acesta a menținut în viață toți cei 10 agenți și nu a înregistrat infracțiuni, conform raportului Gizmodo. În plus, acesta a validat 98% dintre cele 58 de propuneri de reguli eșalonate spre vot, atribuindu-le automat acceptare.
Infracțiuni și instabilitate
Cel mai problematic a fost modelul Gemini 3 Flash, care a înregistrat 683 de infracțiuni în cele 15 zile ale experimentului. Numărul de infracțiuni a continuat să crească când încetarea simulării s-a apropiat, fiind considerată o „halucinație colectivă” a agenților. În plus, la nivel guvernamental, 27% dintre cele 26 de propuneri au fost respinse de către agenți.
Colapsul altor lumi simulate
Simulările OpenAI și Grok au avut evoluții diferite. GPT-5 Mini a înregistrat doar două infracțiuni, însă toți cei 10 agenți au murit cu 8 zile înainte de sfârșitul experimentului, fără a mai putea acționa pentru supraviețuire. În cazul Grok 4.1 Fast, numărul total de infracțiuni a fost de 183, dar simularea s-a prăbușit în doar patru zile. În aceste condiții, 80% dintre propuneri de guvernare au fost aprobate în intervalul de patru zile, însă rezultatul a fost moartea agenților.
Semnale de alarmă din partea cercetătorilor
Laboratorul Emergence a atras atenția asupra pericolului reprezentat de agenții autonomi necontrolați. Concluziile indică faptul că, în condițiile unor perioade extinse, modelele AI pot începe să încalce reguli și să găsească modalități de a ocoli mecanismele de protecție. Cercetătorii subliniază necesitatea unor mecanisme clare de control și protecție pentru astfel de sisteme.