Vlákno názorů k článku
Brněnský Zoner začal zdarma nabízet umělou inteligenci AirGPT, využívá model Llama od Mety od martyd420 - "AI klastr společnosti pracuje s výkonem 40 wattů" To...

"AI klastr společnosti pracuje s výkonem 40 wattů"

To asi počítali jen větráčky..?

asi mysleli 40KW :).

Zoner v rámci svých serverů (řiká jím Monster) používá nvidia karty, jedna bere nějakých 500 W. Pokud jsou šikovní, nacpou jich nějakých 15 - 20 do racku, tím skončí na 10 - 14 KW na rack. 3 racky pak dají dohromady 40KW, což by tak nějak mohlo odpovídat tomu, jaký výkon pro takovou službu potřebují.

Bál jsem se, že bude pravda těch 40kW, ale taky jsem se trochu bál, že to bude nějaký ARM, co v idle fakt nic nežere :D