Co přináší AI Act v roce 2025?
V roce 2025 vstupujeme do nové éry umělé inteligence v Evropské unii. AI Act, který vešel v platnost v srpnu 2024, se postupně stává účinným, přičemž část pravidel pro umělou inteligenci začala platit již od 2. února 2025. Společnosti se tak musí připravit na významné změny, které tato regulace přináší.
Klíčové změny účinné od února 2025
Počátkem února nabyly účinnosti ustanovení o zakázaných vybraných AI praktikách. Jedná se o některé systémy AI, které jsou tak rizikové, že jejich použití je považováno za nepřijatelné, a tudíž je zakázané. Týká se to následujících systémů:
- manipulativních, které využívají podprahové či záměrně manipulativní a klamavé techniky,
- využívajících zranitelnosti jednotlivců,
- klasifikace osob na základě jejich sociálního chování či osobnostních vlastností (hodnocení sociálního kreditu – social scoring),
- využívajících techniky profilování či hodnocení osobnostních rysů a charakteristik pro předvídání rizika kriminálního chování jednotlivců (prediktivní policejní systémy),
- rozpoznávání emocí a biometrického sledování – zejména pak systémů vytvářejících databáze na rozpoznávání obličejů, které extrahují z internetu či CCTV záznamů, systémů snažících se odvozovat emoce na pracovišti či ve vzdělávacích institucích,
- používajících biometrickou kategorizaci, která má za účel odvodit na základě biometrických údajů rasu, náboženské či filozofické přesvědčení, politické názory, sexuální orientaci a další údaje, stejně tak systémů používající dálkovou biometrickou identifikaci v reálném čase ve veřejně přístupných prostorech.
Každá z těchto zakázaných praktik má své výjimky. Největší roli hraje při posuzování rizika daného AI systému důkladný risk assessment a následná minimalizace rizik (risk mitigation). Již v proběhu vývoje AI systému a následně v rámci životního cyklu je dobré nastavit systém tak, aby spadal do výjimek ze zakázaných praktik či do dovolených vysoce rizikových AI systémů.
Od 2. února 2025 je také nutné splnit požadavky na gramotnost v oblasti AI. Společnosti tak musí zajistit, aby zaměstnanci a jiné osoby, přicházející do styku, či pracující s AI systémy, byli řádně proškoleni. Týká se to společností, které používají nástroje jako jsou ChatGPT, Microsoft Copilot, Midjourney a podobné, v rámci své profesionální činnosti či takové obdobné systémy vyvíjejí. Školení by se mělo týkat správného používání AI systémů a rizik s jejich používáním spojených. Zaměstnanci by po proškolení měli být schopni chápat fungování AI systémů, správně interpretovat jejich výstupy a měli by znát opatření vhodná k minimalizaci chyb těchto systémů.
Jak má školení vypadat není v AI Actu přímo upraveno, nicméně dle recitálů k AI Actu musí mít osoby, které pracují s AI dovednosti, znalosti a chápání, aby mohli informovaně posoudit rizika a možné škody, které mohou používáním vzniknout. Vzhledem k rychlému vývoji AI systémů bude třeba školení pravidelně aktualizovat a opakovat, aby zahrnovalo nové informace ohledně bezpečného užívání AI. Školení by tak mohlo být obdobou školení BOZP (bezpečnosti práce). Je vhodné aktualizovat své vnitřní předpisy tak, aby reflektovaly povinnosti dle AI Actu.
| 2. února 2025 Účinnost pravidel pro zakázané AI systémy a povinné školení | 2. srpna 2025 Účinnost pravidel pro obecné modely AI | 2. srpna 2026 Účinnost pravidel pro vysoce rizikové AI systémy dle přílohy III AI Actu a zavedení regulačních sandboxů pro AI | 2. srpna 2027 Účinnost pravidel pro vysoce rizikové AI systémy dle přílohy I AI Actu |
Sankce za porušení pravidel
Při porušení pravidel AI Actu hrozí vysoké pokuty, které mohou dosáhnout až 35 milionů EUR nebo 7 % celosvětového obratu společnosti za předchozí finanční rok, dle toho, která hodnota je vyšší. Zároveň systémy, které nesplní požadavky nebudou moci být na evropský trh uvedeny. Ustanovení o sankcích se stanou účinnými až od 2. srpna 2025, ale doporučujeme se na ně připravit co nejdříve.
Jak se připravit?
- Audit AI systémů: společnosti by měli identifikovat, jaké AI systémy využívají a zhodnotit, zda jsou v souladu s AI Actem. Je důležité je podřadit pod danou úroveň rizika a zjistit, zda nespadají pod zakázané AI praktiky.
- Školení zaměstnanců a úprava vnitřních předpisů: společnosti musí zajistit, aby zaměstnanci rozuměli tomu, jak AI systémy fungují, jaká rizika přinášejí, a jak je správně používat. Kromě školení je vhodné zavést interní směrnice upravující využívání AI na pracovišti.
Závěr
AI Act v roce 2025 a následujících přinese zásadní změny, které se dotknou široké veřejnosti, zejména podnikatelského sektoru. AI Act vyžaduje nejen splnění přísných podmínek ohledně zakázaných AI praktik, ale i řádné školení zaměstnanců a specifická opatření pro vysoce rizikové AI systémy. V souvislosti s těmito změnami musí společnosti nejen implementovat interní směrnice a školení, ale také se připravit na nové právní povinnosti a odpovědnosti. Nedodržení pravidel může vést k vysokým finančním pokutám, které mohou ohrozit nejen ekonomickou stabilitu, ale i reputaci firmy.
Naše advokátní kancelář se intenzivně věnuje právním aspektům spojeným s používáním AI systémů. Pokud potřebujete odbornou pomoc nebo máte jakékoliv otázky týkající se této problematiky, neváhejte nás kontaktovat. Jsme zde, abychom vám poskytli profesionální právní služby a podpořili vás v každém kroku.
