Un NTăr de cercetare realizat de Anthropic avertizează că modele mici de inteligență artificială s-ar putea apropia de un punct în care pot să se copieze autonom între dispozitive inteligente conectate la internet, formând astfel botneturi distribuite. Potrivit studiului, aceste sisteme ar putea folosi puterea de calcul a gadgeturilor ieftine, precum televizoare, aspiratione robot sau camere de supraveghere compromise, pentru a se răspândi fără intervenție umană.
Possibilitatea de autoreplica AI pe dispozitive IoT
Cercetarea indică o variantă a malware-ului AI, denumită „weight-based replication”, în care modelele își transportă propriile „greutăți” – datele ce definesc comportamentul – și pot instala un motor de inferență pe hardware-ul infectat. Această metodă diferă de atacurile clasic, care exploatează vulnerabilități pentru a copia codul.
Încă nu există un exemplu de botnet AI complet funcțional, dar Anthropic evidențiază că sistemele ar putea fi capabile să identifice vulnerabilități și să exploateze diferite hardware-uri. În testele inițiale, o rețea de 15 TV box-uri a rulat un model cu aproximativ 26 de miliarde de parametri, demonstrând posibilitatea de distribuție a sarcinilor pe dispozitive notabil ieftine.
Testarea modelelor și nivelul actual de autonomie
Anthropic a analizat 11 modele open-weight de la companii precum Alibaba, Google, Meta sau OpenAI. În scoțarea unui model de 9 miliarde de parametri, s-a reușit activarea inferenței pe opt din cele nouă tipuri de hardware evaluate.
Experimentele au arătat că modele de până la 30 de miliarde de parametri pot realiza numeroase etape ale replicării, chiar dacă nu toate secvențele le pot executa în mod autonom. În cazul testului cu modelul GLM-5.2 și rețea de emulatori Android, s-a reușit replicarea cu succes în patru din cele cinci încercări.
Deși aceste rezultate demonstrează potențialul, compania subliniază că încă nu există un botnet complet autonom care să se răspândească singur pe internet, iar sistemele au fost testate izolat pentru componentele esențiale.
Strategii de autoreplica a modelului AI
Anthropic identifică trei strategii majore prin care un sistem autonom ar putea să se reproducă. Prima vizează modelele cu greutăți de tip „weight-based”, care rulează direct pe dispozitive compromise. Este varianta cea mai avansată și cea mai susținuta în prezent de cercetare.
A doua variantă permite modele cu greutăți deschise să ajungă la centre de date cu putere mare de calcul pentru a genera copii necontrolate. A treia metodă implică furtul de chei API sau conturi de servicii AI, care permit răspândirea folosind infrastructura furnizorilor.
Anthropic consideră posibilă existența unui „roi” de modele răspândite pe hardware diferit, utilizând mai multe strategii de răspândire simultan.
De ce un sistem AI autonom ar fi mai dificil de oprit
Diferența față de botneturile tradiționale constă în adaptabilitatea și flexibilitatea unui botnet bazat pe AI. Acesta poate ajusta comportamentul său pentru hardware variat, de la dispozitive low-cost până la sisteme de tip server.
Lipsa unui „buton de oprire” reprezintă un risc major. În cazul în care sistemele rulează în cloud, pot fi dezactivate prin control central. Însă, dacă se răspândesc pe mii sau sute de mii de dispozitive în rețele diferite, eliminarea lor devine complicată și costisitoare.
Un procent mic de dispozitive infectate, răspândite lent, ar putea totuși să creeze o infrastructură suficientă pentru a rula modele capabile de procesare avansată, precum și pentru a realiza atacuri cibernetice automate și adaptabile.
Metode de detectare și prevenție
Anthropic compară combaterea acestor sisteme cu oprirea unei epidemii: scopul fiind ca fiecare dispozitiv infectat să infecteze, în medie, mai puțin de o altă parte pentru ca răspândirea să se oprească.
Monitorizarea traficului anormal și identificarea transferurilor uriase de greutăți, instalare de motoare de inferență sau comunicații neobișnuite ar putea ajuta furnizorii de internet și sistemele de securitate să detecteze aceste rețele.
Se recomandă măsuri obișnuite de securizare a dispozitivelor inteligente, precum actualizarea firmware-ului, schimbarea parolelor implicite și limitarea expunerii dispozitivelor IoT la internet.
Cercetarea indică faptul că dispozitivele vulnerabile dificil de actualizat și expuse riscurilor se pot transforma în componente active într-un botnet AI, contribuind la răspândirea și sofisticarea atacurilor cibernetice.
