AI Act: Co musí firmy splňovat v roce 2025. A co je čeká v dalších letech

AI Act je vůbec prvním předpisem na světě, který užívání umělé inteligence reguluje. Jeho smyslem je minimalizovat rizika, která z používání AI vyplývají a chránit tak bezpečnost, zdraví a základní práva občanů Evropské unie.

Nařízení rozděluje systémy využívající AI do 4 kategorií v závislosti na míře rizika:

• systémy s minimálním rizikem,
• systémy s omezeným rizikem,
• vysoce rizikové systémy AI,
• zakázané systémy AI.

Jednotlivé typy systémů pak podléhají různým typům regulace v závislosti na tom, jak moc rizikové jsou. Například systémy s vysokým rizikem musí splnit přísné bezpečnostní a etické normy, zatímco zakázané systémy, které např. podprahově ovlivňují chování lidí, se nesmí na území EU používat vůbec. 

Na koho se AI Act vztahuje?

Na všechny společnosti na území Evropské unie, které s AI pracují nebo zde chtějí AI nástroje prodávat či provozovat.

Konkrétně se dotýká práce:

1. vývojářů, kteří AI systémy vyvíjí,
2. prodejců nebo dodavatelů softwarů,
3. běžných uživatelů, kteří AI ke své práci využívají.

Co musí firmy splňovat od února 2025

První část povinností je platná od 2. 2. 2025. 

Zahrnuje:

• zvyšování gramotnosti v oblasti AI,
• definici systému umělé inteligence
• a velmi omezený počet zakázaných praktik umělé inteligence, které dle zákona představují pro EU nepřijatelné riziko.

Povinnost zajistit gramotnost zaměstnanců

Podle článku 4 AI Actu mají zaměstnavatelé povinnost zajistit, aby jejich zaměstnanci dostatečně rozuměli rizikům i příležitostem, které práce s AI technologiemi obnáší. Povinnost se týká všech zaměstnanců, kteří ve své práci přijdou do kontaktu s AI systémy. Může tedy jít jak o vývojáře, tak třeba o HR specialisty, administrativní pracovníky nebo obchodníky.

Jak přesně by mělo školení vypadat a co by mělo zahrnovat, AI Act nedefinuje. Je tedy na firmách, jak k této povinnosti přistoupí. Univerzální řešení ale neexistuje – firmy by měly hledat školení, která jsou v souladu s konkrétními systémy, které používají a řeší tedy i konkrétní rizika. 

Z toho důvodu právníci varují, aby se zaměstnavatelé nenechali strhnout hojně nabízenými e-learningy, které nabízí jednotná řešení pro všechny, ale hledali spíše řešení přímo pro svůj obor.

Zakázané praktiky

Další klíčovou povinností, na kterou musí firmy dbát, je zákaz nebezpečných AI praktik. Firmy mají povinnost zajistit, že jimi používané systémy toto ustanovení neporušují.

Mezi zakázané praktiky patří například:

Podprahové a manipulativní techniky – veškeré techniky, které ovlivňují rozhodování lidí bez jejich vědomí. Například AI chatbot, který se podvodně vydává za přítele či příbuzného.

Cílené ovlivňování zranitelných skupin, jako jsou senioři, děti či sociálně a ekonomicky znevýhodnění lidé. Například AI platforma, která lidem v ekonomické nouzi posílá personalizované nabídky s nevýhodnými půjčkami.

Využití AI k sociálnímu skórování – využití AI k hodnocení jednotlivců na základě jejich chování, osobnostních charakteristik a z toho plynoucí neférové jednání. Například přednostní nabízení nevýhodných půjček lidem ve finanční nouzi pomocí AI nástrojů.

Biometrická identifikace, která umožňuje identifikovat jednotlivce na základě citlivých údajů, jako je rasa, politické přesvědčení či osobních charakteristik. Například sledování demonstrantů pomocí kamer.

Co mohou firmy udělat už nyní

Zaměstnavatelé, kteří chtějí mít jistotu, že jejich zaměstnanci s AI pracují bezpečně, mohou například:

• Provést audit a přehodnocení AI systémů. A ujistit se, že stávající AI systémy nevyužívají zakázané praktiky a v případě, že ano, ukončit jejich používání.
• Připravit interní předpis týkající se využívání AI, který bude v souladu s AI Actem.
• Zaměřit se na proškolení zaměstnanců, kteří s AI systémy pracují – měli by rozumět tomu, jak AI systémy fungují a jaká jsou jejich rizika.

Jelikož se AI systémy neustále vyvíjí, očekává se, že firmy budou zaměstnance školit pravidelně – podobně jako je to třeba v BOZP oblasti. A zajistí tak, že zaměstnanci budou mít stále aktuální znalosti potřebné k tomu, aby s technologiemi pracovali bezpečně.

Inspirovat se můžete například v repositáři osvědčených postupů, který k tématu vydala Evropská komise. Pamatujte, že jde pouze o inspiraci – je povinností každého, aby si daná pravidla upravil tak, aby jeho práce byla v souladu s regulací AI.

Druhá vlna povinností začne platit v srpnu 2025

Další milník implementace AI Actu nastane 2. srpna 2025 a obsahuje:

• rozšíření regulace na další sektory, jako je zdravotnictví, finanční nebo veřejná správa,
• zpřísnění povinností pro poskytovatele AI řešení, 
• zavedení sankcí za porušení nařízení.

Platný v celém rozsahu bude AI Act 2. srpna 2027. Kompletní nařízení obsahuje například i zavádění povinných auditů, dokumentace a systém řízení rizik. 

O aktualitách vás budeme dále informovat, sledujte proto náš blog, ať vám nic neuteče. 

Buďte v obraze s mini akademií

Podnikáte a máte nad hlavu povinností, které musíte splnit? Projděte si naši mini akademii. Obsahuje 30 videí v rozsahu 8 hodin a zejména začínající podnikatele provede všemi nástrahami, které s podnikáním souvisí – od cenotvorby přes fakturaci až po daně.

Pro začínající podnikatele je video akademie zdarma.