Nová pravidla pro užívání nástrojů umělé inteligence platí pro firmy i jednotlivce

Rychlý rozvoj AI přináší nové příležitostí, ale také velká rizika. Od zdravotnictví přes finance až po veřejnou správu – umělá inteligence je stále častěji součástí rozhodovacích procesů, které ovlivňují naše životy. Bez jasných pravidel však hrozí zneužití – narušení soukromí, šíření dezinformací nebo různé podoby diskriminace.

AI Act má nejen chránit občany, ale také podporovat bezpečný vývoj umělých technologií. Nastavuje rovné podmínky pro firmy, dává jim právní jistotu a vytváří prostředí, kde inovace mohou růst bez nebezpečných vedlejších efektů.

A které klíčové povinnosti přináší první část nařízení účinná od 2. února 2025?

1. Zajištění AI gramotnosti zaměstnanců

Firmy musí zajistit, aby jejich zaměstnanci měli dostatečné povědomí o fungování a rizicích AI systémů. Školení by mělo seznámit s pravidly bezpečného využívání AI systémů i s možnými riziky spojenými s jejich používáním.

2. Zákaz nebezpečných AI praktik

Nařízení zakazuje určité způsoby využití umělé inteligence, které představují vysoké riziko pro základní práva a bezpečnost občanů. Co patří mezi zakázané praktiky?

• Podprahová manipulace s chováním uživatelů: AI nesmí být využívána k ovlivňování lidského chování způsobem, který by mohl poškodit uživatele (např. manipulativní reklamy využívající psychologické triky)
• Využití AI k zneužívání zranitelných skupin: Děti, starší osoby nebo osoby se zdravotním postižením nesmí být cíleně ovlivňovány AI systémy.
• Sociální skórování: Jsou zakázány systémy, které hodnotí občany podle jejich chování, aktivit a interakcí a určují jim privilegia nebo sankce.
• Biometrická identifikace v reálném čase na veřejných místech: Použití AI k automatickému sledování a rozpoznávání osob na veřejných prostranstvích je s výjimkou specifických případů zakázáno.

3. Transparentní a odpovědné užívání AI

Podnikatelé pracující s AI musí zajistit základní požadavky na transparentnost a bezpečné užití AI nástrojů.

• Označování obsahu generovaného AI: Některé AI nástroje jsou tak pokročilé, že nelze poznat, zda obsahu vytvořila umělá inteligence nebo člověk. Povinnost jasně uvést, že obsah vznikl za pomoci AI, má každá firma, která používá AI k tvorbě textů, obrázků a videí.
• Lidský dohled nad rozhodováním AI: Rozhodnutí s vysokým dopadem (např. při schvalování půjček, náboru zaměstnanců nebo lékařské diagnostice) musí být pod dohledem člověka.
• Bezpečnostní testování: Před implementací AI systémů s vyšším rizikem je nutné provádět testování a posuzování jejich bezpečnosti.

Za nedodržení těchto pravidel hrozí vysoké sankce. Výše pokut se odvíjí od závažnosti porušení a velikosti podniku.

• Za nejzávažnější porušení (např. použití zakázaných AI praktik, jako je sociální skórování nebo manipulační techniky) hrozí pokuty až 35 milionů eur nebo 7 % ročního globálního obratu.
• Nedodržení povinností u vysokorizikových AI systémů (např. chybějící lidský dohled, neprovedené bezpečnostní testy) může znamenat pokuty až 15 milionů eur nebo 3 % ročního obratu.
• Za menší přestupky (např. nedostatečná transparentnost, nesplnění oznamovacích povinností) to může být až 7,5 milionu eur nebo 1,5 % ročního obratu.

AI gramotnost spadá do obecných povinností regulovaných subjektů. Pokud by došlo k jejímu systematickému nedodržení a mělo by to dopad na bezpečnost a zodpovědné používání AI, hrozily by pokuty ve střední nebo nižší kategorii. Kontrolu dodržování pravidel budou mít na starosti regulační orgány jednotlivých členských států, které mohou upravit dohled a vymáhání pravidel v rámci své jurisdikce.

Jste připraveni na AI Act?

Pokud ve své práci AI nástroje využíváte, ale ještě nejste na nová pravidla nachystaní, doporučujeme podniknout následující kroky:

1. Identifikujte regulované AI nástroje: Prověřte, které z vámi využívaných nástrojů spadají pod regulaci AI Act.
2. Vyhodnoťte rizikovost: Posuďte, jaká rizika jsou s těmito nástroji spojena, a určete jejich potenciální dopady.
3. Zajistěte soulad s pravidly: Připravte interní školení a postupy pro odpovědné užívání AI.
4. Zaměřte se na transparentnost a ochranu dat: Zajistěte kontrolu přístupu k citlivým datům a pravidla pro jejich užívání.

AI Act představuje zásadní krok k odpovědnému využívání umělé inteligence v Evropě. Pro podnikatele znamená nové povinnosti, ale i příležitost odlišit se etickým a bezpečným přístupem k AI. Buďte připraveni včas, získejte konkurenční výhodu a vyhněte se riziku vysokých sankcí.

Autorkou textu je: Mgr. Tereza Pitterlingová, advokátní koncipient (MACEK.LEGAL)