Sam Altman, CEO-ul OpenAI, a declarat că cel mai mare consumator de tokenuri al companiei utilizează aproximativ 100 de miliarde de token-uri lunar. Această cifră accentuează creșterea explozivă a cererii pentru resursele de procesare în domeniul inteligenței artificiale.
De la mici consumuri la cifre uriașe
În urmă cu peste șase ani, cel mai mare consumator de token-uri de la OpenAI folosea circa 100.000 lunar. În prezent, cifra a crescut de o milion de ori, indicând o creștere rapidă a utilizării modelelelor de limbaj mare (LLM). Creșterea evidențiază expansiunea accesului și adoptării AI în mediul industrial și privat.
Importanța tokenurilor în procesarea AI
Token-urile reprezintă unități de bază pentru procesarea textului în modelele de limbaj, precum ChatGPT sau Claude. Acestea descompun limbajul uman în fragmente de cuvinte sau silabe pentru a facilita înțelesul și generarea de text de către sistemele AI.
Impactul cererii și provocările infrastructurii
Numărul de token-uri consumate indică o creștere accelerată în utilizarea AI. Aceasta a generat preocupări legate de costuri și de infrastructură. Altman a menționat că, deși cererea este în creștere, constrângerile de calcul pot limita posibilitatea laboratoarelor de AI de a răspunde complet acesteia, afectând astfel potențialul de creștere al veniturilor.
Preocupări legate de costuri și accesibilitate
Altman a spus că, pentru prima dată, costurile reprezintă a doua problemă cea mai frecvent menționată de clienți, după simplificarea fluxurilor de lucru AI. În trecut, costul nu era o problemă majoră, însă acum devine o preocupare majoră pentru utilizatori și companii.
Strategii și perspective pentru viitor
CEO-ul OpenAI a subliniat importanța găsirii unor soluții pentru reducerea costurilor, pentru a asigura accesibilitatea AI. Altman a indicat că următorul pas major va fi dezvoltarea unei AI proactive, capabile să funcționeze constant fără a fi constant solicitata, ceea ce ar putea implica creșteri de cost semnificative.
Pentru următorul an, Altman consideră că pregătirea pentru această evoluție va fi prioritară. Implementarea unui astfel de sistem va influența planurile companiilor privind utilizarea și securitatea tehnologiei AI, dar și modul în care se gestionează costurile de calcul.
Concurența și piața AI
Conform datelor Ramp, Anthropic, o altă companie de AI, a depășit OpenAI în cheltuieli corporative. Dacă OpenAI va reuși să ofere alternative mai eficiente din punct de vedere al costurilor, ar putea prelua o cotă de piață semnificativă, chiar înainte ca ambele laboratoare să devină companii publice.
Altman a accentuat că activitatea de optimizare a costurilor și a infrastructurii va fi centrală pentru orientarea companiei în anul următor. Sistemele de AI autonome și costisitoare pot deveni o provocare majoră pentru dezvoltatori dacă nu vor fi gestionate corespunzător.
OpenAI încearcă să gestioneze cererea în creștere și să își adapteze modelele pentru a răspunde necesităților pieței, în condițiile în care competiția din industrie se intensifică.