AI Act vstupuje v platnost: Praktický průvodce pro firmy

Postupná účinnost AI Actu

AI Act (Nařízení EU 2024/1689) vstoupil v platnost 1. srpna 2024, ale jeho jednotlivé části se stávají účinnými postupně. Od 2. února 2025 platí zákazy nejrizikovějších AI praktik, což je první milník, na který se firmy musí připravit.

Harmonogram nabytí účinnosti je následující:

• Únor 2025 — zákaz nepřijatelných AI praktik (článek 5).
• Srpen 2025 — povinnosti pro poskytovatele modelů obecného účelu (GPAI) a jmenování příslušných orgánů členskými státy.
• Srpen 2026 — plná účinnost všech ustanovení včetně požadavků na vysoce rizikové AI systémy.

Zakázané AI praktiky od února 2025

Firmy musí okamžitě přestat používat AI systémy spadající do kategorie nepřijatelného rizika:

• Manipulativní AI — systémy využívající podprahové techniky nebo manipulativní postupy k ovlivňování rozhodování osob způsobem, který jim může uškodit.
• Sociální bodování — hodnocení fyzických osob na základě jejich společenského chování, které vede k nepříznivému zacházení v nesouvisejících kontextech.
• Prediktivní policejní systémy — AI systémy pro predikci individuálního kriminálního chování založené výhradně na profilování.
• Neoprávněný scraping biometrických dat — vytváření databází rozpoznávání obličejů z neselektivního sběru z internetu nebo CCTV.
• Rozpoznávání emocí na pracovišti a ve vzdělávacích institucích, s výjimkou zdravotních a bezpečnostních důvodů.

Jak posoudit, zda používáte zakázaný AI systém

Doporučujeme provést inventuru všech AI nástrojů a systémů využívaných ve firmě. Pro každý systém zvažte:

Využívá systém podprahové nebo manipulativní techniky? Hodnotí osoby na základě jejich chování ve společenském kontextu? Vytváří biometrické profily bez odpovídajícího právního základu? Analyzuje emoce zaměstnanců?

V případě kladné odpovědi na kteroukoli z těchto otázek je nutné systém okamžitě přestat používat nebo jej zásadně upravit.

Příprava na další fáze

Přestože plná účinnost nastává až v srpnu 2026, doporučujeme firmám již nyní:

• Klasifikovat všechny používané AI systémy podle rizikových kategorií AI Actu.
• Identifikovat vysoce rizikové AI systémy a zahájit přípravu na splnění požadavků.
• Jmenovat odpovědnou osobu za AI compliance ve firmě.
• Proškolit relevantní zaměstnance na základní požadavky AI Actu.
• Koordinovat AI Act compliance s existujícím GDPR programem.

AI Act společně s GDPR vytváří komplexní regulatorní rámec, který klade důraz na důvěryhodnost, transparentnost a bezpečnost při využívání umělé inteligence. Firmy, které se na tyto požadavky připraví včas, získají konkurenční výhodu.