În ultimele luni, conceptul de „ agenți AI” a devenit una dintre cele mai promițând promisiuni ale sectorului tehnologic: modele capabile nu doar să răspundă la întrebări, ci să primească atribuții complexe în mai mulți pași și să le finalizeze autonom, fără intervenție umană. În teoria, acestea primesc instrucțiuni, își planifică propriul parcurs, își împart sarcinile în sub-task-uri, iau decizii și livrează rezultatul final ca un asistent digital proactiv.
Însă, pe lângă problemele cunoscute – erori, halucinații, inconsistențe – a apărut și un argument mai greu de ignorat: un studiu atribuit cercetătorilor Vishal Sikka și Varun Sikka indică o limită matematică legată de complexitatea calculelor pe care un model de tip LLM (large language model) le poate realiza în condiții sigure. În esență, nu este vorba doar despre „ajustări și optimizare”, ci despre o posibilă plafonare structurală a performanței.
Ce relevă studiul și ce reprezintă, concret, „zidul” matematic
Rezultatul, explicat simplu, ar fi următorul: există sarcini care necesită o complexitate de calcul superioară capacităților unui LLM într-o singură execuție; odată depășit acest prag, modelul nu mai poate oferi rezultate precise, fie el nu finalizează corect, fie produce răspunsuri greșite, greu de detectat. În cazul agenților AI, această problemă devine mai acută, fiindcă sarcinile acestora presupun în lănțuiri de multiple etape: planificare, execuție, verificare, corectare și reluare.
Studiul evidențiază faptul că, pe măsură ce complexitatea depășește anumite limite, modelele nu doar că devin predispuse la greșeli, ci devin incapabile să se verifice singure în mod credibil. Aceasta afectează direct promisiunea „autonomiei”: dacă agentul nu dispune de un mecanism solid de verificare, acesta poate furniza rezultate ce par plauzibile, dar pot fi false sau incomplete. În contextul în care agenții AI sunt utilizați ca administratori de sistem, executanți de tranzacții, operatori pe infrastructură sau asistenți capabili să modifice fișiere și să ruleze procese, lipsa verificării robuste devine o vulnerabilitate majoră, nu doar o imperfecțiune.
Mai mult, această teorie nu sugerează că „LLM-urile nu sunt utile”, ci că „utilitatea lor are limite de complexitate”. Când sarcinile depășesc acele limite, problema nu mai ține de simpla extindere a datelor sau a parametrilor, ci de o restructurare esențială a arhitecturii, a modului de control și a sistemelor de verificare. Aceasta schimbă perspectiva din „cât de rapid ajungem la autonomia totală” în „ce tip de autonomie este realistă și în ce condiții?”.
De ce agenții AI prezintă o vulnerabilitate mai mare decât chatboții obișnuiți
Un chatbot clasic greșește într-o conversație și poate fi corectat sau oprit relativ ușor. În schimb, un agent AI are un scop diferit: acționează. Astfel, orice eroare poate duce la un lanț de acțiuni greșite: dacă pornește de la o presupunere eronată, își poate construi un plan greșit, îl poate executa coerent, iar rezultatul final, de cele mai multe ori, poate fi prezentat ca fiind „corect” și convingător. Paradoxal, cea mai mare riscură nu constă în blocarea agentului, ci în faptul că acesta continuă să funcționeze cu încredere excesivă în direcții eronate.
O altă vulnerabilitate constă în acumularea erorilor. În sarcinile multiple, fiecare etapă devine intrare pentru următoarea. O greșeală mică la pasul doi poate să afecteze în mod semnificativ rezultatul de la pasul șapte. Dacă agentul utilizează memorie internă sau rezumate, pierderea detaliilor poate amplifica aceste probleme. În scenarii simple, cum ar fi compararea ofertelor sau extragerea datelor, aplicarea regulilor sau luarea deciziilor, inițial pare fiabil, însă pe parcurs începe să confunde constrângeri, să uite excepții sau să inventeze justificări.
De asemenea, există o componentă psihologică: agenții AI sunt promovați ca „muncitori autonomi”. Atunci când exprimă un ton sigur, utilizatorii sunt tentați să le delegheze mai multe sarcini. Creșterea complexității delegată amplifică riscurile. Aici apare „zidul” discutat în studiu: după un anumit punct, delegarea nu mai devine eficientă, ci devine riscantă.
Pentru a evita problemele, recomandarea este să tratezi agenții AI ca pe un coleg nou: atribuie-le task-uri mici, cu pași verificați și măsurabili. Divizează proiectele în bucăți, instalează puncte de control și nu permite agentului să execute acțiuni ireversibile (plăți, ștergeri, modificări în sistem) fără confirmarea explicită a utilizatorului.
Contextul mai larg: de la „iluzia gândirii” la verificare formală
Studiul Sikka se înscrie într-un curent mai larg de scepticism argumentat. În 2025, un raport al cercetătorilor de la Apple despre „iluzia raționamentului” la modelele de procesare a informației a susținut că, pe măsură ce problemele devin mai complexe, atât modelele standard, cât și cele specializate în raționament pot suferi prăbușiri bruste de performanță. Implicit, ideea este că abilitatea de a face pași de raționament nu garantează aplicarea corectă a algoritmilor respecți, mai ales când problema depășește anumite limite.
Pe de altă parte, industria caută soluții pentru creșterea siguranței: verificarea rezultatelor cu mecanisme separate, deterministe. În programare, asta poate însemna teste automate, validare prin tipare sau execuție controlată. În matematică și logică, poate implica verificare formală cu limbaje specializate. Scopul nu este ca LLM-urile să devină perfecte, ci ca sistemul înconjurător să asigure imposibilitatea „minciunii funcționale”.
Astfel, agenții AI vor funcționa mai mult în zone restrânse, cu reguli clare și verificare rigurosă. În sarcini deschise, cu multe necunoscute și riscuri reale, vor rămâne probabil instrumente semi-autonome, necesitătoare de supraveghere. Deși nu este atât de spectaculos ca „Inteligenta Artificială Generală (AGI)”, această abordare este mai aproape de tehnologia actuală.
Dacă dorești o evaluare reală a potențialului, analizează dacă sistemul poate demonstra corectitudinea propriilor rezultate, nu doar să ofere soluții convincătoare. Dacă nu, atunci zidul matematic devine un parametru esențial. În loc să cauți un agent capabil să rezolve orice, prioritizează un sistem ce realizează sarcini precise, verificabile și repetabile, garantând fiabilitate și consistență.