Inteligența artificială agentică, sisteme capabile să ia decizii, să folosească instrumente, să acceseze date și să execute acțiuni autonom, poate genera riscuri importante pentru securitatea organizațiilor. Agențiile de securitate cibernetică din alianța Five Eyes au publicat un ghid comun care avertizează asupra vulnerabilităților accentuate de adoptarea rapidă a acestor tehnologii.
De ce agenții AI pot deveni o problemă de securitate
Sistemele agentice nu se limitează la conversații și pot fi conectate la baze de date, aplicații interne, platforme de email sau surse externe de informații. Fiecare conexiune extinde eficiența, dar și suprafața de atac.
Avertismentul alianței Five Eyes este că pericolul nu vine doar din modelul AI în sine, ci din întregul ecosistem înconjurător. Datele externe pot fi manipulate, sistemele integrate pot fi compromise, iar permisiunile pot fi configurate cu greșeli. Acest lucru poate duce la interpretări malițioase ale unor comenzi legitime.
Un exemplu concret evocă riscul rapid de pierdere a controlului. Dacă un agent AI primește sarcina de a instala patch-uri de securitate și i se acordă drepturi de scriere vaste, un angajat rău intentat ar putea propune o comandă aparent inofensivă. În cazul în care agentul are permisiunea de a executa astfel de acțiuni, poate șterge și jurnalele firewall-ului, ceea ce ar ascunde activitatea malițioasă, produsă fără ca sistemul să realizeze consecințele.
Când autonomia devine risc operațional
Un alt scenariu problematic implică utilizarea AI-ului agentic în gestionarea relațiilor cu furnizorii, în special în procesele financiare. O companie poate lega agentul de sisteme de plăți, emailuri și arhive pentru a automatiza aprobări și comunicări. În teorie, această metodă sporește eficiența.
În practică, dacă agentul primește privilegii prea largi, și alte sisteme încredințează automat deciziile sale, riscurile încep să crească. Un atac asupra unui sistem periferic poate duce la preluarea controlului indirect asupra agentului. Aceasta poate avea drept rezultat modificări de contracte, plăți frauduloase, raportări trucate sau alerte false, exploatând încrederea implicită în deciziile AI.
Această evoluție reprezintă o schimbare semnificativă, întrucât o configurație superficială sau o greșeală de proiectare pot avea consecințe grave. Spre deosebire de un chatbot simplu, un agent cu acces la infrastructură poate genera pagube reale.
Recomandarea Five Eyes: adopție controlată și reversibilă
Ghidul comun subliniază că adoptarea AI-ului agentic trebuie să fie graduală și controlată, considerându-l o tehnologie cu risc ridicat. Implementarea ar trebui să înceapă cu sarcini simple, clar delimitate și cu impact redus.
Testarea, monitorizarea continuă și evaluarea deciziilor trebuie să fie obligatorii înainte de extinderea atribuțiilor. Organizațiile sunt sfătuite să elaboreze strategii pentru a putea reveni rapid asupra sistemelor în cazul apariției unor probleme sau vulnerabilități.
Organizațiile trebuie să trateze astfel de proiecte cu prudență, evitând reducerea riscurilor cu compromisuri în privința securității. În cazul unor erori sau atacuri, abilitatea de a opri sau de a reverti sistemul devine criticală pentru a proteja integritatea infrastructurii.