Dne 2. února 2025 vstoupila v platnost část nařízení AI ACT, které představuje první komplexní právní rámec pro regulaci umělé inteligence v Evropské unii. Toto nařízení přináší zásadní změny nejen pro vývojáře AI, ale také pro všechny subjekty, které umělou inteligenci využívají ve své činnosti, včetně firem napříč různými odvětvími.
Povinnost zajistit AI gramotnost zaměstnanců
Jedním z klíčových požadavků AI ACT je zajištění dostatečné úrovně AI gramotnosti mezi zaměstnanci. Firmy musí zajistit, aby jejich pracovníci rozuměli principům fungování AI, jejím přínosům i potenciálním rizikům. Tato povinnost se nevztahuje pouze na IT specialisty, ale i na administrativní pracovníky, obchodní týmy a další zaměstnance, kteří v rámci své práce přicházejí do kontaktu s AI systémy.
Za porušení této povinnosti sice nehrozí žádná sankce. Může se však jednat o přitěžující okolnost při posuzování porušení dalších povinností. Dostatečná edukace zaměstnanců je tedy vhodným nástrojem prevence před případným nesprávným užitím umělé inteligence.
Zakázané praktiky AI
Nařízení AI ACT stanoví přísné zákazy některých způsobů využití umělé inteligence. Mezi až na výjimky zakázané praktiky patří například:
- Sociální skórování – hodnocení jednotlivců na základě jejich chování, aktivit a interakcí ve společnosti.
- Biometrická identifikace v reálném čase na veřejných místech – technologie, která umožňuje identifikovat jednotlivce na základě jejich biologických nebo behaviorálních charakteristik (například obličejových rysů, otisků prstů, retinálních vzorců, hlasu nebo chůze) v reálném čase, když se pohybují na veřejných prostranstvích.
- Manipulativní AI techniky – použití umělé inteligence za účelem ovlivňování, manipulování nebo přesvědčování jednotlivců k určitému chování nebo rozhodnutí, často bez jejich plného vědomí nebo souhlasu.
Porušení těchto zákazů je postihováno vysokými pokutami v řádech milionů EUR nebo několika procent z celkového celosvětového ročního obratu za předchozí finanční rok.
Další důležité body AI Act
Další důležitá fáze implementace AI ACT nastane 2. srpna 2025, kdy dojde k:
- Rozšíření regulace na další sektory – například finanční služby, zdravotnictví a veřejnou správu.
- Zpřísnění povinností pro poskytovatele AI řešení – včetně povinnosti zajistit transparentnost algoritmů a přístup k auditním záznamům.
- Zavedení přísných sankcí za porušení nařízení.
Plná účinnost AI Actu, včetně pravidel pro řízení rizik, dokumentaci, kontrolu kvality a dalších, nastane od 2. srpna 2027.
AI ACT představuje významnou legislativní změnu, která ovlivní fungování mnoha firem. Nečekejte na poslední chvíli – připravte se včas a zajistěte si plný soulad s novou regulací. Pro více informací nás neváhejte kontaktovat. Rádi vám pomůžeme s nastavením procesů a právních opatření tak, aby vaše firma mohla umělou inteligenci využívat bezpečně a v souladu s právem.
