România asistă la o evoluție rapidă în domeniul inteligenței artificiale, în contextul unei curse globale ce devine tot mai tensionată din cauza apariției unui model chinezesc open-weight care se apropie de capacitățile celor mai avansate sisteme americane folosite în securitatea cibernetică. În premiere globală, modelul GLM-5.2, dezvoltat de compania Z.ai din Beijing, poate fi descărcat și utilizat local, ceea ce ridică semne de întrebare legate de controlul și securitatea acestor tehnologii.
De ce GLM-5.2 ridică astfel de semne de întrebare
Numele Mythos și Fable au devenit relevante în discuțiile despre riscuri legate de AI, după ce administrația americană a cerut companiei Anthropic să retragă temporar cele mai puternice modele, invocând probleme legate de securitate națională. Ulterior, accesul limitat la modelul Mythos 5 a fost reluat pentru un număr restrâns de organizații și instituții din Statele Unite.
Modelul GLM-5.2 diferă, însă, de modelele controlate de companii, fiind un open-weight. Acesta poate fi descărcat, modificat și folosit fără a fi nevoie de intermediar, fără supraveghere sau monitorizare de către un furnizor. Această libertate aduce posibilități pentru cercetare, dar și riscuri sporite privind utilizarea ilegală sau abuzivă.
Impactul asupra securității cibernetice
Mai multe companii de securitate, precum Semgrep și Graphistry, au observat performanțe foarte bune ale modelului GLM-5.2 la identificarea vulnerabilităților software și în sarcini specifice de cybersecurity. Totuși, aceleași performanțe pot fi folosite și de către hackeri pentru a identifica puncte slabe și pentru a accelera atacurile cibernetice.
Experți citați în mediul american de specialitate avertizează asupra riscurilor generate de asemenea modele, care pot fi utilizate pentru automatizarea pașilor în anumite încercări de încălcare a securității digitala. Modelele avansate pot ajuta la găsirea rapidă a breșelor, testarea de metode și adaptarea tacticilor de atac, ceea ce poate spori eficiența și succesul acestora.
Un motiv de preocupare există și în contextul discuțiilor despre jailbreak-uri pentru GLM-5.2, care sunt deja menționate pe forumuri utilizate de hackeri. În cazul modelelor controlate de companii, activitatea suspectă poate fi monitorizată și blocată, însă în cazul modelele rulate local această posibilitate dispare aproape complet.
Schimbare în balanța puterii tehnologice
Până recent, cele mai capabile modele de AI erau concentrate în mâinile unor companii americane, cu acces controlat și reguli stricte de utilizare. Apariția modelului GLM-5.2 indică faptul că diferența tehnologică se micșorează și că modele foarte avansate pot fi create și utilizate și din afara ecosistemului american, la costuri mai reduse și cu restricții mai puține.
Acest fapt poate accelera dezvoltarea și utilizarea tehnologiilor avansate de AI, atât în cercetare, cât și în domenii critice precum securitatea cibernetică, ridicând întrebări despre controlul, reglementarea și responsabilitatea în utilizarea acestor modele.
