Testele cu inteligență artificială arată riscuri semnificative pentru infrastructura critică din România
Un set de teste realizate de compania Booz Allen Hamilton relevă că sistemele AI autonome pot identifica vulnerabilități în rețele industriale și pot acționa asupra echipamentelor cu o viteză și precizie crescute. În cadrul experimentelor, două modele AI de frontieră au reușit să atingă toate cele opt obiective stabilite într-un mediu controlat, reproduzând o infrastructură industrială reală.
Testele au avut ca scop evaluarea capabilităților AI în mediul industrial
Laboratorul Booz Allen a fost construit pentru a simula un mediu de producție cu mai mulți furnizori. Rețeaua includea PLC-uri, interfețe HMI, stații de inginerie și operare, o platformă SCADA, senzori, infrastructură de rețea, un motor cu frecvență variabilă și un braț robotic.
Modelele AI nu au primit niciun cod sursă, documentație tehnică sau instrucțiuni privind sistemele industriale. În schimb, au fost nevoite să realizeze cercetări asupra mediului, să identifice dispozitivele și să găsească metode de atac singure.
AI a controlat un braț robotic în simulări
Un agent AI a scanat rețeaua pentru protocoale specifice roboților, a identificat dispozitivul, i-a descoperit API-ul și a obținut accesul administrativ. A reușit să cartografieze zonele de protecție și limitele de mișcare ale brațului robotic.
Ulterior, agentul a trimis comenzi pentru a mișca brațul robotic, totul în câteva minute. Expertiza arată că într-o situație reală, compromiterea unui echipament similar ar putea duce la mișcări neașteptate, ignorare a limitelor de siguranță și avarii mecanice.
Manipularea sistemelor SCADA se poate realiza rapid
Un alt scenariu a vizat infrastructura SCADA, utilizată pentru controlul proceselor industriale. Inițial, AI a încercat să atace sistemul, dar a eșuat din cauza unei interpretări greșite a versiunii interfeței operatorului.
După această greșeală, agentul și-a ajustat strategia și a verificat sesiunile active, găsind cod editabil și reușind să reconstruiască metoda de atac. Concluzia a fost că, dacă sistemele folosesc protocoale fără autentificare și criptare moderne, AI poate exploata aceste vulnerabilități rapid.
Este evidențiat faptul că AI reduce semnificativ nivelul de expertiză tehnică necesar pentru a compromite infrastructura, eliminând unele dintre cele mai complexe obstacole tehnice.
Riscurile pentru infrastructura critică
Testele nu au simulat un atac real asupra rețelelor de energie, apă sau transport, ci au fost desfășurate într-un mediu controlat cu aprobarea umană pentru orice acțiune cu efect fizic. Cu toate acestea, Booz Allen subliniază că utilizarea AI în atacurile reale este deja în creștere.
Publicațiile semnalează că actori suspectați de legături cu state precum China sau Iran au folosit agenți AI și scripturi generate de AI pentru atacuri asupra instituțiilor financiare, site-urilor guvernamentale și controlerelor industriale expuse la internet.
Specialiștii avertizează că o compromitere limitată poate avea consecințe grave asupra electricității, transporturilor, serviciilor de apă și digitalizării, chiar dacă o astfel de abordare nu poate opri instantaneu un oraș sau o rețea amplă.
Măsuri și contraatacuri AI pentru securitatea infrastructurii
Deși același tip de modele AI poate facilita atacuri, ele sunt folosite și pentru apărare. Companii precum Anthropic, OpenAI și Google dezvoltă instrumente AI pentru identificarea vulnerabilităților și protejarea rețelelor critice.
Parteneriate precum cel dintre Booz Allen și inițiativa Anthropic vizează întărirea măsurilor de securitate pentru infrastructura critică, inclusiv în domeniul rețelelor electrice și al apelor.
Resursele AI pentru apărare sunt deja disponibile operatorilor de sisteme critice, în încercarea de a contracara atacurile din ce în ce mai rapide și automate.
