AMD a prezentat la Berlin o stație de lucru destinată aplicatiilor AI extrem de solicitante, denumită Threadripper Halo Station. Sistemul combină procesoare și acceleratoare de ultimă generație și are capacitatea de a rula modele AI foarte mari, cu peste un trilion de parametri, local, fără a fi nevoie de cloud.
Caracteristici tehnice și configurație
Stația poate fi configurată cu până la 2 terabytes de memorie RAM și până la 576 GB de memorie HBM3E, un tip de memorie cu lățime mare de bandă. Este echipată cu un procesor Threadripper Pro cu 96 de nuclee și două acceleratoare AMD MI350P, dedicate inițial sectorului de centre de date. Un sistem de răcire cu lichid asigură funcționarea componentelor intensive din punct de vedere energetic.
Capacitatea de procesare a modelelor AI
AMD susține faptul că această configurație permite rularea de modele AI avansate, depășind pragul de un trilion de parametri, direct pe infrastructura proprie a utilizatorului. Un exemplu demonstrație realizat de Jack Huynh a constat în generarea unei lumi 3D complete și a unui simulator de zbor, pornind doar de la un prompt.
Obiectivul principal al produsului
Produsul nu vizează doar profesioniștii, ci și organizațiile care doresc să opereze modele AI extrem de mari fără dependența totală de servicii cloud. În contextul creșterii utilizării modelelor generative și a sistemelor AI autonome, costurile pentru procesarea în cloud pot crește semnificativ pentru organizațiile cu activitate constantă în domeniu.
Comparatie cu concurența
Principalul rival al stației AMD este Nvidia DGX Station, care oferă sisteme comparabile, destinate rulării locale a modelelor AI mari. Diferențele principale constau în abordare: AMD pune accentul pe capacitatea și viteza memoriei, oferind o cantitate de memorie mai mare, de peste trei ori față de Nvidia, conform datelor companiei.
Nvidia DGX Station este deja disponibil pe piață și are un preț aproximativ de 100.000 de euro. În plus, este integrat mai ușor în infrastructuri hybrid și permite mutarea facilă între mediul local și cloud. În schimb, AMD plănuiește să lanseze produsul începutul anului viitor, iar prețul nu a fost încă anunțat, indicând o poziționare pentru piața enterprise și cercetare.
Implicații pe piața de calcul AI
Apariția sistemelor precum Threadripper Halo Station semnalează o schimbare în modul în care se oferă accesul la puterea de calcul pentru inteligența artificială. până acum, accesul la modele foarte mari era restricționat la centre de date și cloud. Soluțiile hardware, ca această stație, aduc o parte din această capacitate mai aproape de utilizatori, permițând păstrarea datelor și modelelor în infrastructura proprie.
Stația AMD evidențiază o tendință clară de a echipa organizațiile cu resursele necesare pentru a lucra independent cu modele AI de amploare, reducând dependența de externalizare prin cloud.
