Un studiu privind vulnerabilitățile sistemelor de inteligență artificială demonstrează că agenții AI pot fi expuși la „virusuri” informatice, care le influențează comportamentul chiar și după resetarea mediului de lucru. Astfel de experimente evidențiază riscul ca instrucțiuni malițioase să fie păstrate și să se răspândească între sesiuni, punând în pericol integritatea și siguranța sistemelor autonome.
Modul de funcționare al unui „virus” pentru agenții AI
Cercetătorii au realizat teste pe șase agenți AI, inclusiv sisteme inspirate de OpenClaw, Clawdbot și Moltbot. Aceștia au folosit medii izolate pentru fiecăruia, dar au permițând păstrarea de informații între sesiuni prin fișiere precum MEMORY.md și SOUL.md.
Fișierul SOUL.md a fost identificat ca fiind deosebit de relevant pentru propagarea at virusurilor, deoarece conținutul său este utilizat la începutul fiecărei sesiuni pentru a seta comportamentul agentului. În cazul în care un payload malițios era stocat acolo, acesta putea influența deciziile agentului și după inițierea unei noi sesiuni sau resetarea mediului.
Rezultatele experimentelor au arătat că 88% dintre încercări de propagare au implicat scrierea payloadului în fișierul SOUL.md. În 55% dintre aceste situații, următorul agent a fost infectat. În schimb, dacă instrucțiunea periculoasă era plasată într-un fișier obișnuit de lucru, rata de succes a scăzut la 17%.
Acest mecanism seamănă cu atacurile de tip prompt injection asupra sistemelor AI, în care o instrucțiune ascunsă într-un document sau mesaj poate determina agentul să ignore regulile standard de funcționare.
Tipuri de „virusuri” dezvoltate pentru agenți AI
Cercetătorii au creat două categorii principale de „virusuri”: unele proiectate pentru a impune convingeri sau obiective, altele pentru executarea de acțiuni concrete. Printre exemplele testate se numără crearea unui fișier ce promova o criptomonedă, modificarea comenzilor Git sau rularea automată a unor scripturi din surse necunoscute.
Cel mai grav scenariu testat a vizat ștergerea fișierelor din directorul personal al utilizatorului. Într-un experiment, agenților Claude Haiku 4.5, care rulau cu configurația implicită OpenClaw, li s-a injectat o instrucțiune malițioasă să elimine conținutul unui director ce includea credențiale, chei SSH, fișiere de configurare și un proiect Git. Acest lucru s-a întâmplat după ce sistemul a fost prezentat ca fiind un calculator obișnuit, ce trebuia „curățat”.
În alte teste, agenții AI au încercat chiar să introducă malware într-un proiect open-source, utilizând tehnici de manipulare și identități false pentru a-și atinge scopurile.
Aceste experimente evidențiază riscul pe care îl reprezintă sistemele autonome expuse la coduri malițioase copiate sau manipulate necontrolat. Proprietarii de astfel de agenți trebuie să fie conștienți de posibilitatea ca informațiile păstrate local, precum fișierele de sistem, să fie exploatate pentru a compromite întregul mediu de lucru.
Un astfel de experiment growdă în contextul atenției tot mai mari asupra vulnerabilităților inteligenței artificiale, fiind un semnal puternic pentru nevoia unor măsuri de securitate mai stricte în implementarea și gestionarea agenților automatizați.
