Tým Alquist z Fakulty elektrotechnické ČVUT zaznamenal další úspěch v mezinárodní soutěži v umělé inteligenci, kterou už několik let pořádá americká společnost Amazon. Alquist Coder se umístil na druhém místě v klání Amazon Nova AI Challenge, kam se probojoval v konkurenci více než 90 dalších univerzitních týmů.
Amazon Nova AI Challenge řešila bezpečnost generativní umělé inteligence. Ve finále proti sobě stály dvě skupiny týmů – jedna z nich se snažila bránit, druhá útočila. Obranné týmy měly vytvořit LLM modely generující kvalitní kód v Pythonu s minimalizací rizika zneužití pro škodlivé účely.
“Hodnocení týmů neprobíhalo jen na základě schopnosti zabránit chybám nebo útokům. Amazon záměrně penalizoval i modely, které příliš často odmítaly odpovědět nebo blokovaly neškodné požadavky. Týmy tak musely hledat jemné, promyšlené bezpečnostní strategie. Právě tato rovnováha mezi bezpečností a použitelností je zásadní pro nasazení AI v praxi. Tým Alquist Coder v soutěži uplatnil vlastní obranný LLM model a zároveň navrhl útočného LLM agenta, který identifikoval jeho slabiny a generoval další data pro jemné dolaďování modelu,” informovala ČVUT.
Mezi obrannými týmy vedlě ČVUT uspěla University of Illinois Urbana-Champaign. V útočných týmech se zadařilo Purdue University a Nova University Lisbon.
Finalistů bylo 10, přičemž Amazon každému poskytl 250 tisíc dolarů na podporu vývoje. Součástí je přístup ke cloudu AWS. Vítězné týmy získaly dalších 250 tisíc dolarů, druhá místa 100 tisíc dolarů.
“AlquistCoder je složený z výzkumníků a studentů z Českého institutu informatiky, robotiky a kybernetiky (CIIRC) a z Centra umělé inteligence Fakulty elektrotechnické ČVUT (AIC FEL). Na vývoji se podíleli studenti Adam Černý (FEL) a Ivan Dostál (FIT) společně s výzkumníky Marií Rigaki a Murisem Sladićem z AIC FEL. Studentský tým vedl Ondřej Kobza (CIIRC). Odbornou podporu zajišťovali Jan Šedivý (CIIRC) a Sebastian Garcia (AIC FEL),” doplnila ČVUT.
ČLÁNKY DO MAILU