Švýcaři jako open source uvolnili vlastní velký jazykový model (LLM) nazvaný Apertus. Za státní peníze ho vytvořil Swiss National AI Institute společně s dalšími veřejnými a státními organizacemi. Tato konkurence pro modely jako Meta Llama, OpenAI GPT, DeepSeek a podobně byla natrénována na superpočítači vyrobeném v Kutné Hoře.
Výpočetní kapacity poskytlo švýcarské národní superpočítačové centrum sídlící v Luganu, které dodává třeba CERNu. To si v loňském roce koupilo superpočítač Alps dodaný společností Hewlett Packard Enterprise, jenž tyto stroje vyrábí ve Foxconnu v Kutné Hoře. Putují odsud do Evropy, Afriky a na Blízký východ. Kutná Hora kvůli vysoké poptávce nestíhá vyrábět a zvažuje u nás expanzi produkci AI serverů, stejně jako další dva výrobci působící v Česku.
Alps obsahuje 11 tisíc čipů Nvidia GH200, součástí jsou tedy jak GPU, tak procesory od Nvidie (viz naše galerie novější verze GB200). Výkon je až 434 petaflops, což aktuálně podle žebříčku TOP500.org stačí na osmí místo mezi superpočítači na světě. Spotřeba ve špičce je 10 MW. Pořizovací cena činila 126 milionů dolarů, asi 2,7 miliardy korun. Roční provoz vyjde na necelou miliardu.
Švýcarský model Apertus byl natrénovaný na více než tisícovce jazyků. K dispozici je ve dvou verzích, a to s osmi či 70 miliardami tokenů. Zveřejněn byl zdrojový kód a dále rozhodovací váhy, trénovací data, kontrolní body a dokumentace, a to pod licencí Apache i pro komerční užití. Model je na Hugging Face a lze si s ním pokecat i skrze chatbota.
Švýcarská aktivita je příspěvkem do debaty, zda se státy mají pouštět do tvorby vlastních modelů a pořizování projektů typu AI gigafactory, o níž se uchází i Česko. Apertus ukázal, že lze tímto způsobem vytvořit svobodný a kontrolovatelný model. V Evropě se nyní dělá na modelech OpenEuroLLM, práce vede Čech.
ČLÁNKY DO MAILU