AI Act: Co musí firmy splňovat a co je čeká v příštích letech

AI Act je vůbec prvním předpisem na světě, který užívání umělé inteligence reguluje. Jeho smyslem je minimalizovat rizika, která z používání AI vyplývají a chránit tak bezpečnost, zdraví a základní práva občanů Evropské unie.

Nařízení rozděluje systémy využívající AI do 4 kategorií v závislosti na míře rizika:

1. Systémy s minimálním rizikem (např. spamové filtry, videohry s AI) – nepodléhají žádným novým povinnostem.
2. Systémy s omezeným rizikem (např. chatboti, generátory obrázků, deepfakes) – musí splňovat pravidla transparentnosti. Uživatel musí vědět, že komunikuje s AI, a generovaný obsah musí být označen. Tato pravidla jsou účinná od srpna 2026.
3. Vysoce rizikové systémy AI (např. AI v náboru zaměstnanců, hodnocení úvěruschopnosti, kritické infrastruktury) – podléhají přísným požadavkům na řízení rizik, kvalitu dat, dokumentaci a lidský dohled.
4. Zakázané systémy AI – systémy představující nepřijatelné riziko, které se na území EU nesmí používat vůbec. Sem patří například sociální skórování občanů, rozpoznávání emocí v zaměstnání a školách nebo aplikace na tvorbu falešných intimních snímků bez souhlasu.

Na koho se AI Act vztahuje

Nařízení dopadá na všechny subjekty, které s AI pracují, bez ohledu na to, zda sídlí v EU, pokud jsou jejich systémy nebo výstupy využívány na unijním trhu.

Klíčové je rozdělení rolí:

• Poskytovatel: Vyvíjí (nebo si nechává vyvíjet) AI systém za účelem jeho uvedení na trh pod vlastní značkou.
• Dovozce a distributor: Subjekty uvádějící AI systémy na trh EU.
• Profesionální uživatel: Firma, veřejný orgán či podnikatel, který AI systém využívá při své profesionální činnosti.
• Fyzické osoby: Pokud využíváte AI čistě pro soukromé, neprqacovní účely, AI Act se na vás nevztahuje.

Co již platí od února 2025

První část povinností je platná od 2. 2. 2025.

Zahrnuje:

• zvyšování gramotnosti v oblasti AI,
• definici systému umělé inteligence
• a velmi omezený počet zakázaných praktik umělé inteligence, které dle zákona představují pro EU nepřijatelné riziko.

Povinnost zajistit gramotnost zaměstnanců

Podle článku 4 AI Actu mají zaměstnavatelé povinnost zajistit, aby jejich zaměstnanci dostatečně rozuměli rizikům i příležitostem, které práce s AI technologiemi obnáší. Povinnost se týká všech zaměstnanců, kteří ve své práci přijdou do kontaktu s AI systémy. Může tedy jít jak o vývojáře, tak třeba o HR specialisty, administrativní pracovníky nebo obchodníky.

Jak přesně by mělo školení vypadat a co by mělo zahrnovat, AI Act nedefinuje. Je tedy na firmách, jak k této povinnosti přistoupí. Univerzální řešení ale neexistuje – firmy by měly hledat školení, která jsou v souladu s konkrétními systémy, které používají a řeší tedy i konkrétní rizika.

Z toho důvodu právníci varují, aby se zaměstnavatelé nenechali strhnout hojně nabízenými e-learningy, které nabízí jednotná řešení pro všechny, ale hledali spíše řešení přímo pro svůj obor.

Zakázané praktiky

Další klíčovou povinností, na kterou musí firmy dbát, je zákaz nebezpečných AI praktik. Firmy mají povinnost zajistit, že jimi používané systémy toto ustanovení neporušují.

Mezi zakázané praktiky patří například:

Podprahové a manipulativní techniky – veškeré techniky, které ovlivňují rozhodování lidí bez jejich vědomí. Například AI chatbot, který se podvodně vydává za přítele či příbuzného.

Cílené ovlivňování zranitelných skupin, jako jsou senioři, děti či sociálně a ekonomicky znevýhodnění lidé. Například AI platforma, která lidem v ekonomické nouzi posílá personalizované nabídky s nevýhodnými půjčkami.

Využití AI k sociálnímu skórování – využití AI k hodnocení jednotlivců na základě jejich chování, osobnostních charakteristik a z toho plynoucí neférové jednání. Například přednostní nabízení nevýhodných půjček lidem ve finanční nouzi pomocí AI nástrojů.

Biometrická identifikace, která umožňuje identifikovat jednotlivce na základě citlivých údajů, jako je rasa, politické přesvědčení či osobních charakteristik. Například sledování demonstrantů pomocí kamer.

Detekce emocí – zákaz systémů odvozujících emoce na pracovišti a ve vzdělávacích institucích (s výjimkou bezpečnostních či lékařských důvodů).

Nekontextuální sběr snímků obličeje – necílené stahování fotek z internetu či CCTV kamer pro tvorbu databází rozpoznávání obličeje.

Časový harmonogram zavádění AI Act

Díky schválení balíčku AI Omnibus v červenci 2026 získaly firmy více času na zavedení nejsložitějších povinností. Zde je aktuálně platný harmonogram:

Doporučené kroky pro firmy

1. Ujasněte si svou roli: Jste pouze uživatelem (zavádějícím subjektem) hotových nástrojů, nebo vyvíjíte vlastní AI řešení?
2. Kategorizujte své AI systémy: Zmapujte všechny nástroje, které ve firmě využíváte, a zařaďte je do rizikových tříd.
3. Zajistěte AI gramotnost: Pokud jste tak ještě neučinili, proškolte zaměstnance v základech bezpečné práce s AI.
4. Sledujte pravidla transparentnosti: Od srpna 2026 musíte jasně označovat veškerý generovaný obsah a chatboty.

Zaměstnavatelé, kteří chtějí mít jistotu, že jejich zaměstnanci s AI pracují bezpečně, mohou například:

• Provést audit a přehodnocení AI systémů. A ujistit se, že stávající AI systémy nevyužívají zakázané praktiky a v případě, že ano, ukončit jejich používání.

• Připravit interní předpis týkající se využívání AI, který bude v souladu s AI Actem.

• Zaměřit se na proškolení zaměstnanců, kteří s AI systémy pracují – měli by rozumět tomu, jak AI systémy fungují a jaká jsou jejich rizika.

Jelikož se AI systémy neustále vyvíjí, očekává se, že firmy budou zaměstnance školit pravidelně – podobně jako je to třeba v BOZP oblasti. A zajistí tak, že zaměstnanci budou mít stále aktuální znalosti potřebné k tomu, aby s technologiemi pracovali bezpečně.

Inspirovat se můžete například v repositáři osvědčených postupů, který k tématu vydala Evropská komise. Pamatujte, že jde pouze o inspiraci – je povinností každého, aby si daná pravidla upravil tak, aby jeho práce byla v souladu s regulací AI.

Co znamenají pravidla transparentnosti v praxi (novinka od srpna 2026)

Od srpna 2026 musíte u systémů s omezeným rizikem dodržovat následující pravidla:

Upozornění u chatbotů a voicebotů

Pokud na svém webu či v aplikaci provozujete hlasovou zákaznickou podporu nebo chatbota poháněného AI, musíte uživatele při první interakci jasně informovat, že komunikuje se strojem, nikoliv s člověkem.

Strojové označování generovaného obsahu

Pokud jste poskytovatelem systému generujícího text, zvuk, obrázky nebo videa, musíte technicky zajistit, aby byl tento výstup strojově čitelně označen jako produkt AI (např. vložením digitálního vodoznaku či metadat).

Jasné varování u deepfakes

Pokud vaše systémy vytvářejí nebo manipulují s obrazovým, zvukovým nebo video obsahem, který zobrazuje reálné osoby, místa či události tak věrně, že by mohly působit autenticky (tzv. deepfakes), musíte na ně umístit jasné a viditelné varování. U uměleckých, satirických či tvůrčích děl stačí toto upozornění umístit tak, aby nerušilo estetický zážitek z díla.

Zveřejňování AI textů pro veřejný zájem

Pokud publikujete texty vytvořené AI za účelem informování veřejnosti o záležitostech veřejného zájmu, musíte jejich umělý původ výslovně uvést. Tato povinnost však odpadá, pokud text před zveřejněním prošel lidskou redakční kontrolou.

Upozornění při detekci emocí a kategorizaci

Pokud používáte systémy, které kategorizují lidi na základě biometrických dat nebo analyzují jejich emoce (které jsou povoleny mimo pracoviště a školy), musíte o tom lidi předem jasně informovat.

Jaké pokuty hrozí za porušení pravidel

Výše pokuty se vždy odvíjí od toho, jak vážné porušení firma spáchá:

Až 35 milionů eur (nebo 7 % z ročního obratu): Za používání zakázaných systémů umělé inteligence, jako je například nepovolené rozpoznávání emocí na pracovišti.

Až 15 milionů eur (nebo 3 % z ročního obratu): Za porušení ostatních pravidel – například pokud vysoce riziková AI nesplní bezpečnostní požadavky, chybí jí lidský dohled nebo řádná technická dokumentace.

Až 7,5 milionu eur (nebo 1 % z ročního obratu): Za poskytnutí nepravdivých, neúplných nebo záměrně zkreslených informací kontrolním úřadům či ověřovatelům.

Buďte v obraze s mini akademií

Podnikáte a máte nad hlavu povinností, které musíte splnit? Projděte si naši mini akademii. Obsahuje 30 videí v rozsahu 8 hodin a zejména začínající podnikatele provede všemi nástrahami, které s podnikáním souvisí – od cenotvorby přes fakturaci až po daně.

Pro začínající podnikatele je video akademie zdarma.