Companiile de inteligență artificială au implementat filtre rigide pentru a preveni utilizarea modelelor în atacuri cibernetice, însă aceste măsuri creează obstacole și pentru specialiștii în securitate care încearcă să identifice și să remedieze vulnerabilități înainte ca acestea să fie exploatate de hackeri.
Limitări ale modelelor AI în analizarea codului vulnerabil
Filtrele automate impuse de companii blochează adesea cereri care ar putea fi esențiale pentru cercetarea de securitate. Specialiștii susțin că modelele refuză uneori să analizeze sau să testeze coduri ce pot indica breșe de securitate, deoarece sistemele nu diferențiază dacă utilizatorul acționează în scop legitim sau malițios.
Chris Anley, cercetător în domeniul securității cibernetice, explică că identificarea vulnerabilităților necesită, de multe ori, analizarea modului în care acestea pot fi exploatate. Fără această etapă, riscul este ca potențialele probleme să fie subestimate și să nu fie dezvoltate patch-uri în timp util.
Filtrele automate încearcă să împiedice scenarii periculoase, însă, din cauza dificultăților în interpretarea intenției utilizatorilor, ele pot bloca solicitări care vin din partea specialiștilor pentru a înțelege și remedia vulnerabilități. Astfel, munca cercetătorilor devine mai dificilă și poate întâmpina întârzieri.
Impactul restricțiilor asupra cercetării și riscurile asociate
În căutarea unor soluții, cercetătorii utilizează platforme open-source fără restricțiile impuse de furnizorii cloud. Aceasta le permite să evalueze vulnerabilitățile fără ca sistemul să refuze solicitările, însă această metodă are propriile riscuri.
Modelele fără măsuri de protecție pot fi folosite de infractori pentru dezvoltarea de malware, phishing sau alte atacuri cibernetice automate. Au fost raportate cazuri în care modele precum Claude sau Gemini au fost utilizate de grupări susținute de state pentru cercetare țintită, dezvoltare de cod malițios și campanii de phishing.
Riscul apare și din cauza posibilității ca informațiile despre vulnerabilități, odată introduse în modele AI online, să fie stocate, analizate sau expuse, înainte ca producătorii să lanseze actualizări de securitate. Aceasta poate duce la un compromis al confidențialității datelor sensibile.
Inițiative ale companiilor pentru acces controlat al experților verificați
Pentru a permite cercetarea în domeniu, OpenAI a lansat programul Trusted Access for Cyber, care oferă acces limitat pentru specialiști și organizații verificate. Prin această platformă, aceștia pot realiza activități precum identificarea vulnerabilităților, analiza programelor malware și verificarea patch-urilor.
Au fost create și mecanisme de verificare a identității, astfel încât activitățile precum furtul de date sau compromiterea de sisteme să fie împiedicate. Similar, și Anthropic solicită ca utilizatorii să-și demonstreze în prealabil domeniul profesional pentru a primi acces la modele cu restricții mai permisive.
Chiar dacă aceste inițiative facilitează cercetarea legitimă, uneori apar probleme legate de inconsistența deciziilor de aprobare sau refuz, care necesită reformularea cererilor, consumând timp și resurse.
Provocări și perspective în utilizarea AI pentru securitatea cibernetică
Inteligența artificială reprezintă o unealtă valoroasă în combaterea atacurilor informatice, fiind capabilă să analizeze volume mari de cod, să identifice erori și să propună soluții mult mai rapid decât o echipă umană.
Problema critică rămâne a fi echilibrul între securitate și accesul la instrumente pentru cercetători. Dacă restricțiile devin prea stricte, specialiștii legitimi riscă să fie blocați, în timp ce dacă sunt prea permisive, riscul de utilizare malițioasă crește semnificativ.
Până în prezent, companiile de AI încearcă să găsească un compromis, însă provocarea majoră constă în implementarea unor sisteme care să nu împiedice intervenția specialiștilor în domeniu și să nu faciliteze activitatea hackerilor.
