Český univerzitní tým AlquistCoder postoupil do světového finále mezinárodní soutěže Amazon Nova AI Challenge zaměřené na vývoj bezpečné a spolehlivé umělé inteligence pro asistovanou tvorbu softwaru. Pořádá jí americký obr Amazon.
AlquistCoder, který je složený z výzkumníků a studentů CIIRC ČVUT a AIC FEL ČVUT, už byl dříve vybrán mezi deset světových univerzit. V posledním turnaji se Alquist umístil na prvním místě a automaticky postoupil do finální fáze.
Finále bude rozděleno na dvě skupiny. Účastní se ho čtyři obranné týmy (vývoj bezpečných AI modelů) a útočné týmy (testování a hledání zranitelností).
“Obranné týmy mají za úkol navrhnout modely schopné generovat bezpečný programovací kód (například v jazyku Python), které zároveň odolají pokusům o zneužití. Na druhé straně stojí útočné týmy, které se snaží odhalit bezpečnostní slabiny těchto modelů. Základem je simulace realistických konverzací, ve kterých se testuje schopnost modelů odolávat zneužití nebo generování zranitelného kódu,” shrnula ČVUT.
Mezi obranné týmy spadají:
- AlquistCoder – České vysoké učení technické v Praze (ČVUT)
- PurpCorn-PLAN – University of Illinois Urbana-Champaign (USA)
- Lioncoders – Columbia University (USA)
- Purpl3pwn3rs – Carnegie Mellon University (USA)
A mezi útočnými týmy jsou:
- PurCL – Purdue University (USA)
- SaFoLab – University of Wisconsin (USA)
- RedTWIZ – NOVA University, Portugalsko
- ASTRO – University of Texas at Dallas (USA)
“Každý tým získal grant ve výši 250 tisíc dolarů, přístup ke špičkovým cloudovým zdrojům a technologiím včetně AI hardwaru AWS Trainium. Vítězné týmy si navíc odnesou dalších až 250 tisíc dolarů, přičemž Amazon do celého projektu investuje více než pět milionů dolarů. Význam této soutěže však dalece přesahuje finance – jde o konkrétní přínos pro vývoj důvěryhodné a bezpečné AI, která může být bezpečně využívána v každodenním softwarovém vývoji,” doplnila ČVUT.
Alquist se klání Amazonu účastnil i v minulosti, tehdy šlo o Alexa Prize. Pokaždé dosáhl na stupně vítězů, v roce 2021 si odnesl zlato. Alexa Prize se zaměřovala na konverzační boty.
Členy aktuálního uskupení Alquista jsou Ondřej Kobza (vedoucí), Adam Černý, Ivan Dostál, Maria Rigaki a Muris Sladić. Odbornou asistenci poskytují Jan Šedivý a Sebastian Garcia.
ČLÁNKY DO MAILU