Univerzity, ČTK a Demagog.cz získaly grant 175 milionů korun na vývoj a využití nástrojů AI pro boj s dezinformacemi
11. září 2024 10:38
Přidejte si nás na domovskou Jde o doposud největší a nejkomplexnější projekt svého druhu, který svede dohromady informatiky z ČVUT, mediální experty, jazykovědce z Karlovy univerzity a Palackého univerzity a právníky z Masarykovy univerzity. Na straně médií se na něm budou podílet Česká tisková kancelář a Demagog.cz. Společně budou v praxi ověřovat nově vyvinuté AI nástroje při odhalování dezinformací, jejichž nebezpečnost se výrazně zvýšila po nástupu generativní umělé inteligence.
AI jako hrozba a současně příležitost pro mediální prostor
„AI se z hlediska šíření dezinformací ukazuje jako hrozba pro demokratické společnosti a jejich mediální prostor, dokáže falešné texty, obrázky a videa vytvářet a distribuovat v mnohem větším měřítku a natolik realistické podobě, kdy je laicky leckdy nelze odlišit od autentických zpráv,“ říká prof. Jiří Matas z Fakulty elektrotechnické ČVUT, který je garantem projektu. Jím řízená skupina vizuálního rozpoznávání, která působí na katedře kybernetiky, bude v rámci CEDMO 2.0 NPO vyvíjet AI nástroje pro odhalování deepfake videí. Detekce deepfake videí a fact-checking je reálný problém, na jehož řešení pracuje řada špičkových týmů ve vyspělých zemích.
„V podobné oblasti výzkumu se již pohybujeme, obracejí se na nás instituce, které mají podezření na manipulaci s videi. Pracujeme na metodách, které budou jádrem programů schopných odhalit i krátké úseky, kde je realita upravena. Metody směřuji na detekci různých nekonzistencí v obraze, například toho, že v deepfake videích osoby odlišně mrkají,“ přibližuje témata výzkumu prof. Jiří Matas. Český výzkum v rámci projektu CEDMO 2.0 NPO není tematicky jedinečný, ale jeho výjimečnost je v šíři a komplexnosti aktivit a jednotlivých modulů. Do aktivit budou skrz stejnojmenný EU projekt kromě českých zapojeni i zahraniční partneři a instituce, jako např. investigativní žurnalisté na úrovni EU. Cílem je podpořit kvalitní investigativní žurnalistiku a poskytnout jí potřebné nástroje, které budou podporovat média při jejich adaptaci na využívání AI.
Aktivity CEDMO přímo reagují na sdělení Evropské komise „Evropská média v digitální dekádě – Akční plán na podporu oživení a transformace“. Hlavním cílem aktivity je podpora tvorby kvalitního obsahu a vznik nových obchodních modelů vedoucích k profitabilitě a tím i nezávislosti médií. Aktivita tak zahrnuje studii možného využití jazykových a vizuálních nástrojů podporujících ekonomickou transformaci médií ve spolupráci zejména s veřejnoprávními médii. Dále zahrnuje i studii novinářských žánrů a nástrojů po nástupu automatizované AI žurnalistiky. Hlavním cílem aktivity je podpora tvorby kvalitního obsahu a vznik nových obchodních modelů vedoucích k profitabilitě a tím i nezávislosti médií. Jako samostatná aktivita, jež s uvedeným modulem úzce souvisí, je pak regulace využívání AI v médiích.
Další aktivitou projektu je zvyšování digitální gramotnosti pomocí nástrojů AI. CEDMO 2.0 NPO se bude zaměřovat na pomoc znevýhodněným skupinám, jako jsou například sluchově a zrakově postižení, senioři a další. A to zejména za účelem výzkumu, návrhu a vývoje nástrojů, které povedou ke zvýšení jejich mediální gramotnosti s cílem zvýšit jejich schopnost čelit dezinformacím. Zároveň je cílem zvýšit úroveň samotných modelů a nástrojů umělé inteligence, a to pro lepší spolupráci s médii a zajištění jejich pozitivního dopadu na mediální ekosystém a společnost a znevýhodněné skupiny.
Realizace projektu CEDMO 2.0 NPO bude probíhat od září 2024 do konce dubna 2026. Středoevropská observatoř digitálních médií (Central European Digital Media Observatory, CEDMO) je nezávislé nestranické multidisciplinární centrum a jejím cílem je identifikovat, zkoumat a poukazovat na hlavní zdroje a příčiny nežádoucích informačních poruch ve střední Evropě (především v České republice, na Slovensku a v Polsku). Mezinárodní konsorcium bylo vytvořeno s cílem navrhnout soubor krátkodobých a dlouhodobých opatření a doporučení, která umožní občanské společnosti, veřejným institucím a soukromému sektoru reagovat na klesající důvěru v klíčové instituce a která zároveň pomohou společnosti, aby sílícímu působení nepravdivých a zkreslených informací dokázala odolávat.
