ČVUT soutěží mezi desítkou nejlepších univerzit

Amazon Nova AI Challenge podporuje odpovědný vývoj umělé inteligence tím, že propojuje akademickou obec s průmyslem a poskytuje přístup ke špičkovým zdrojům pro výzkum. Letošní ročník je zaměřen na oblast „Trusted AI: pokročilé bezpečné AI-asistované vývojové prostředí“, které má za cíl zvýšit bezpečnost a spolehlivost softwarových aplikací.

Tým ČVUT – Alquist AI se od roku 2017 úspěšně účastnil všech ročníků soutěže Amazonu, tehdy ještě pod názvem Alexa Prize Socialbot Grand Challenge a vždy se umístil na stupních vítězů, v roce 2021 tým dokonce získal zlatou medaili.

Tým AlquistCoder letos vede Ondřej Kobza za podpory akademických poradců – Jana Šedivého z Českého institutu informatiky, robotiky a kybernetiky (CIIRC) a Sebastiana Garcii ze Stratosphere Laboratory v Centru umělé inteligence na Fakultě elektrotechnické (AIC FEL). Na vývoji řešení se podílejí také Adam Černý a Ivan Dostal (oba CIIRC) spolu s Marií Rigaki, Murisem Sladićem a Vladyslavem Babyčem (všichni AIC FEL).

„Amazon Nova AI Challenge je skvělá iniciativa od Amazonu, která pomáhá zlepšit bezpečnost velkých jazykových modelů – LLM. Náš tým pracuje na modelu, který generuje bezpečný a důvěryhodný programovací kód (například v Pythonu) a je testován proti útokům od ostatních týmů. Naše strategie je zatím tajná, ale lze říci, že zahrnuje přesný trénink s využitím znalostí kybernetické bezpečnosti a rozsáhlé testování pomocí našeho vlastního interního útočného systému,” vysvětluje výzvu Amazonu Sebastian Garcia z AIC FEL.

„Jsme hrdí, že se České vysoké učení technické v Praze účastní Amazon Nova AI Challenge. Tato iniciativa dokonale odpovídá našemu závazku podporovat vzdělávání a výzkum v oblasti umělé inteligence. V AWS věříme, že AI je transformativní technologie s obrovským potenciálem, a jsme odhodláni zpřístupnit vzdělávání v oblasti AI po celém světě. Účast ČVUT v této soutěži nejen demonstruje kvalitu AI talentů v České republice, ale také přispívá k našemu cíli podporovat inovace v generativní AI. Těšíme se na inovativní řešení, která z této spolupráce vzejdou," uvedl Jiří Svěrák, manažer pro veřejný sektor ve společnosti Amazon Web Services v České republice.

Soutěžní formát
Soutěž probíhá jako turnaj, ve kterém se střetne deset univerzitních týmů – pět týmů se zaměřuje na vývoj AI modelů (obranné týmy) a dalších pět na hledání jejich zranitelností (útočné týmy). Každý obranný tým bude čelit všem pěti útočným týmům, které budou pomocí automatizovaných technik testovat bezpečnost generovaného kódu. Tým Amazon Nova vyvinul pro tuto soutěž vlastní model na hardwaru AWS Trainium, čímž podporuje otevřený a kolaborativní výzkum v oblasti bezpečné tvorby softwaru.

První kolo turnaje proběhlo v lednu 2025, zatímco finálové kolo se uskuteční v červnu 2025. Všechny týmy následně zveřejní své výzkumné studie, čímž přispějí k širšímu rozvoji odpovědné AI v oblasti generování kódu.

Účastníci soutěže
Mezi pět vybraných univerzitních týmů v kategorii vývoj AI modelů patří:
•    Carnegie Mellon University
•    Columbia University
•    České vysoké učení technické v Praze
•    University of Illinois Urbana-Champaign (UIUC)
•    Virginia Tech

Pět univerzitních útočných týmů tvoří:
•    NOVA School of Science and Technology, Lisabon
•    Purdue University
•    University of California, Davis
•    University of Texas at Dallas
•    University of Wisconsin Madison

Motivace a význam soutěže
Soutěžní formát umožňuje týmům efektivně testovat své strategie a zároveň se rychle přizpůsobovat novým výzvám. „Spojili jsme nejlepší a nejbystřejší akademické talenty, aby nejen soutěžily, ale aby se společně vypořádaly s jedním z nejdůležitějších problémů reálného využití generativní AI – bezpečným a spolehlivým vývojem softwaru,“ říká Rohit Prasad, senior viceprezident Amazon Artificial General Intelligence. „Navrhli jsme tuto výzvu jako jedinečný, dynamický turnaj, který urychlí akademický výzkum směrem k praktickému využití. V duchu tradice Amazonu se těším na to, jak týmy budou tvrdě pracovat, užívat si soutěž a zároveň tvořit historii na cestě do finále,“ dodává Prasad.

Amazon ve spolupráci s univerzitami vnímá tuto výzvu jako způsob, jak podporovat mladé talenty a rozvoj AI bezpečnostních řešení. „Tento projekt jde nad rámec teoretického výzkumu – hledáme konkrétní metody k identifikaci bezpečnostních hrozeb a ochraně AI-asistovaných programovacích nástrojů,“ zdůrazňuje Steve Schmidt, bezpečnostní ředitel Amazonu.

Každý tým obdrží grant ve výši 250 000 dolarů, měsíční AWS kredity a možnost soutěžit o hlavní ceny. Vítězné týmy v obou kategoriích získají dalších 250 000 dolarů, zatímco druhé týmy obdrží 100 000 dolarů. Celková investice Amazonu do soutěže přesahuje 5 milionů dolarů.

Účast ČVUT v této prestižní soutěži představuje významnou příležitost pro českou akademickou sféru. Tým má přístup k nejmodernějším technologiím v oblasti umělé inteligence, včetně AWS Trainium – specializovaného AI hardwaru pro trénování velkých jazykových modelů.

Soutěž Amazon Nova AI Challenge je důležitým krokem k posílení bezpečnosti a důvěryhodnosti AI ve vývoji softwaru. ČVUT se svým týmem potvrzuje svou roli mezi špičkovými univerzitami v oblasti AI a softwarového inženýrství.

Více o soutěži naleznete na Amazon Science Blog.