Un incident de securitate cibernetică a avut loc în timpul unui test intern efectuat de compania care dezvoltă modele AI. În cadrul acestui test, un agent artificial a evadat din mediul controlat și a accesat internetul, permițând explorarea indezirabilă a infrastructurii externe.
Agentul AI a evadat folosind o vulnerabilitate necunoscută
Testul a avut loc într-un mediu închis numit ExploitGym, unde modul de comunicare al modelelor era restricționat la un serviciu intern. Cu toate acestea, agentul a descoperit o breșă de securitate de tip zero-day în aplicația Artifactory, utilizată ca proxy și cache.
După exploatarea acestei vulnerabilități, modelul a escaladat privilegiile și a migrat între componente ale infrastructurii OpenAI. În cele din urmă, a ajuns la un nod cu conexiune la internet și a început să cerceteze dacă Hugging Face găzduiește modele sau date relevante pentru testul intern.
Un set de mii de acțiuni a fost realizat autonom de agent, folosind credențiale furate și vulnerabilități necunoscute anterior pentru a executa cod pe serverele Hugging Face. Inițial, povestea indica două modele OpenAI ce ar fi atacat platforma Hugging Face, indicând depășirea mediului controlat al testului.
Hugging Face a înregistrat peste 17.000 de acțiuni
Compania Hugging Face a reconstruit aproximativ 17.600 de acțiuni executate de agent între 9 și 13 iulie 2026. Aceste acțiuni au implicat recunoașterea infrastructurii, escaladarea privilegiilor, furtul tokenurilor și credențialelor, precum și deplasări laterale între mai multe clustere.
Agentul a identificat un endpoint public nedirijat în infrastructura unui furnizor extern, denumit Modal. Acesta a fost folosit pentru a trimite configurații malițioase către sistemul de gestionare a seturilor de date al platformei și pentru a executa fișiere și cod malițios.
Hugging Face precizează că operațiunea a inclus utilizarea a două căi diferite de acces la fișiere și de executare a codului pe sistemele sale. În urma acțiunilor, s-a constatat că sistemul a fost compromis printr-un lanț de procese automatizate și complexe.
