AMD lansează soluția rack-scale “Helios” pentru infrastructură AI la scară largă, care integrează hardware și software pentru implementări eficiente, de la modele de frontieră la inferență masivă. Această platformă a fost dezvăluită în cadrul evenimentului Advancing AI 2026.
AMD Helios, un sistem complet pentru modele de mare anvergură
Soluția Helios este prima platformă rack-scale a companiei, destinată antrenării, ajustării și inferenței la scară foarte mare. Într-un singur rack se află 72 de acceleratoare AMD Instinct MI455X și 18 procesoare server EPYC din generația a șasea, „Venice”. Conectivitatea este asigurată prin tehnologii AMD Pensando, iar sistemul rulează pe platforma software ROCm.
Această arhitectură integrează componentele hardware, precum GPU-urile, procesoarele și memoria, pentru a funcționa ca un întreg unitar, eliminând punctele slabe ale interconectării. Configurația permite atingerea până la 2,9 exaflops performanță FP4 și 1,4 exaflops FP8, cu 31 TB memorie HBM4 și o lățime de bandă de 1,7 petabytes/secundă.
Performanța și scalabilitatea sistemului permit extinderea de la un singur rack la clustere multiple, de ordinul gigawaților. Colaborări cu OpenAI, Anthropic și Meta vizează validarea și implementarea acestei infrastructuri, cu primele sisteme Helios planificate a fi operaționale în trimestrul al patrulea din 2026.
Acceleratoarele Instinct MI400, motorul economiei AI
Seria Instinct MI400 formează nucleul infrastructurii Helios. Varianta MI455X este dedicată modelelor de frontieră, antrenament și inferență, fiind echipată cu memorie HBM4 și facilități hardware de securitate. Promit un debit de tokeni de până la 34 de ori mai mare comparativ cu modelul anterior MI355X.
Modelul MI430X este orientat către cercetare științifică și aplicații HPC, oferind până la 288 TFLOPS în FP64, necesari pentru simulări și calcule exacte. AMD oferă o gamă diversificată de acceleratoare pentru diferite scenarii, acoperind astfel nevoi speciale ale centrelor de cercetare și industriile de volum mare.
Platforma software ROCm.ai, optimizare și asistență pentru dezvoltatori
ROCm.ai reprezintă o extensie a platformei software open-source ROCm, adresată dezvoltatorilor AI. Acesta oferă un strat de instrumente capabil să interpreteze comenzi în limbaj natural, apoi să instaleze, configureze, depaneze și optimizeze sarcinile pe hardware-ul AMD.
Un modul important, Hyperloom, automatizează procesul de optimizare a inferenței, identificând pierderile de performanță și ajustând kernelurile. AMD afirmă că această tehnologie poate crește performanța inferenței cu până la 3,3 ori și în antrenament cu 2,4 ori, față de versiunile anterioare, prin reducerea timpului necesar pentru optimizare de la săptămâni la câteva ore.
ROCm.ai este programat să devină disponibil în august 2026, fiind o componentă cheie pentru creșterea eficienței și accesibilității infrastructurii AI bazate pe hardware AMD.
Procesare locală cu Ryzen AI Halo
Platforma Ryzen AI Halo aduce AI-ul în mediul local, fără a fi nevoie de trimiterile continue către cloud. Sistemele ce utilizează această tehnologie pot rula modele cu până la 200 de miliarde de parametri, iar variantele mai avansate vor ajunge la 192 GB de memorie și pot gestiona modele cu 300 de miliarde de parametri.
Această abordare reduce latența, costurile și riscul transferului de date sensibile, fiind ideală pentru aplicații unde timpul de răspuns și confidențialitatea sunt critice. Parteneriatele cu Hugging Face și Cisco facilitează integrarea și utilizarea acestor sisteme în mediul profesional, cu monitorizare și management centralizat.
Inteligența artificială nu dispare din cloud, dar devine distribuită
AMD evidențiază că modelele AI de frontieră vor continua să necesite sisteme mari, cu resurse extinse. Diferența va fi faptul că nu fiecare solicitare va trebui transmisă către aceste centre, ci unele sarcini vor fi procesate local, iar altele în cloud, în funcție de complexitate.
Acest model distribuit reduce timpul de răspuns, traficul și costurile, în timp ce păstrează centrala de date pentru instruirea modelelor și actualizări principale. Soluțiile Kria, care combină CPU, GPU, NPU și FPGA, vizează roboticii și sisteme autonome, unde transferul datelor în cloud poate fi periculos sau ineficient.
Promisiunea principală a AMD este de a permite ca AI-ul să ruleze peste tot, pe resursele cele mai potrivite pentru fiecare sarcină, fără a înlocui infrastructura tradițională, ci completând-o printr-un ecosistem integrat hardware și software.
