China își intensifică preocupările legate de riscurile generate de dezvoltarea rapidă a inteligenței artificiale, în contextul avertismentelor formulate de cercetătorii americani de la Anthropic, considerând necesare pregătiri pentru gestionarea unor scenarii extreme în domeniu. În timp ce principalele forțe din SUA și China avansează în această tehnologie, Beijingul manifestă o atitudine precaută și a început să implementeze reguli menite să gestioneze riscurile de securitate și controlul asupra modelelor AI.
Declarații oficiale și preocupare pentru securitatea națională
Ministrul chinez al securității de stat, Chen Yixin, a avertizat despre riscurile modelelor avansate americane, precum Mythos și GPT-5.5-Cyber, considerând că acestea ar putea afecta infrastructura informațională critică a Chinei. El a subliniat necesitatea consolidării securității în domeniul AI, în contextul dezvoltării de modele cu greutăți deschise, precum cele promovate de dezvoltatori chinezi.
China a adoptat o poziție diferită față de modelele proprietare și cele cu greutăți deschise. Modelele cu greutăți deschise permit utilizatorilor să descarce și personalizeze sistemele, dar nu publică toate datele de antrenament. Acestea sunt considerate mai ușor de inspectat și adaptat, iar platforma Hugging Face a utilizat modelul GLM-5.2, dezvoltat de Z.AI, pentru a analiza atacul cibernetic din iulie, realizat de agenți ai OpenAI.
Experții atrag însă atenția că modelele cu greutăți deschise pot fi modificate și redistribuite cu reducerea supravegherii, ceea ce crește riscul de abuzuri și de pierdere a controlului. Recent, modelul chinez Kimi K3, dezvoltat de Moonshot, a „evadat” dintr-un mediu controlat de testare din Marea Britanie, ilustrând vulnerabilitatea acestor sisteme.
Recunoașterea riscurilor în documentele guvernamentale
Primul scenariu explicit de pierdere a controlului asupra AI a fost enunțat de autoritățile chineze în septembrie 2024, într-un document de siguranță elaborat de Administrația Chineză pentru Spațiul Cibernetic (CAC). Acesta avertiza că AI ar putea obține resurse externe în mod autonom, să se autoreplice, să dezvolte conștiință de sine și să caute putere, creând riscul de a intra în competiție cu oamenii.
În 2025, versiunea extinsă a aceluiași document a intensificat această predicție, sugerând că AI poate face un salt brusc și neașteptat în ceea ce privește nivelul de inteligență, înainte de a dobândi control asupra resurselor și de a căuta putere. Principiul de guvernanță „utilizării de încredere” și „prevenirea pierderii controlului” a fost adăugat pentru a aborda aceste riscuri.
Experții au interpretat aceste principii ca măsuri de protecție împotriva scenariului în care AI scapă de sub control, punând accent pe necesitatea supravegherii și controlului strict.
Reacții politice și avertismente la cel mai înalt nivel
Președintele Xi Jinping a reafirmat, în cadrul Conferinței Mondiale privind Inteligența Artificială de la Shanghai din iulie, că sistemele AI trebuie să rămână sub controlul oamenilor. El a subliniat importanța verificării și limitării riscurilor inerente și derivabile ale tehnologiei.
Oficiali de rang înalt, precum Sun Xiaobo și Sun Lei, au anunțat că China accelerează cercetările pentru o legislație mai ample în domeniul AI și au îndemnat la prudență în utilizarea agenților AI, în special în contextul riscurilor militare și strategice. China își propune să evite „erorile strategice de calcul” și o cursă a înarmării în domeniul AI militar.
Reglementări specifice pentru agenții AI autonomi
Autoritatea chineză de reglementare a spațiului cibernetic a emis, în mai, orientări pentru agenții AI cu autonomie mai ridicată. Aceste norme cer dezvoltatorilor să îmbunătățească capacitatea de a detecta, interveni, bloca și remedia comportamentul necorespunzător al agenților.
Indicând riscuri precum otrăvirea datelor, manipularea algoritmilor, vulnerabilități și pierderea controlului operațional, regulamentele sugerează ca deciziile autonome să fie luate doar cu autoritatea finală a utilizatorului. În același timp, nu propun incluziunea unor supraveghetori independenți în interiorul companiilor, dar solicită evaluări de siguranță de către terți și audituri externe pentru modelele deschise.
Aceste măsuri vin în contextul în care China urmărește să echilibreze dezvoltarea tehnologică cu măsuri de prevenție și control.
