Transparentnost AI: Povinnosti vůči uživatelům a dotčeným osobám

Transparentnost jako základní pilíř regulace

Transparentnost je jedním z nejdůležitějších principů, které GDPR i AI Act kladou na správce a poskytovatele AI systémů. V kontextu umělé inteligence má transparentnost dvojí rozměr — informační povinnost vůči uživatelům systému a informační povinnost vůči osobám dotčeným rozhodnutími AI.

Povinnosti podle GDPR

GDPR v článcích 13 a 14 vyžaduje, aby správce při automatizovaném rozhodování včetně profilování informoval subjekty údajů o:

• Existenci automatizovaného rozhodování — samotné skutečnosti, že k automatizovanému zpracování dochází.
• Smysluplných informacích o použité logice — nikoliv technický popis algoritmu, ale srozumitelné vysvětlení hlavních faktorů ovlivňujících rozhodování.
• Zamýšleném důsledku a významu takového zpracování pro subjekt údajů.

Pojem „smysluplné informace o použité logice" je v praxi obtížně uchopitelný. Neznamená to povinnost zveřejnit zdrojový kód nebo detailní popis architektury neuronové sítě. Jde o poskytnutí dostatečně srozumitelného vysvětlení, které umožní dotčené osobě porozumět tomu, proč bylo rozhodnutí přijato.

Nové povinnosti podle AI Actu

AI Act přidává další vrstvu požadavků na transparentnost, které se liší podle kategorie rizika:

• Všechny AI systémy interagující s lidmi — povinnost informovat osoby, že komunikují s AI (článek 50). Výjimkou jsou situace, kdy je to zřejmé z okolností.
• Generátory syntetického obsahu — povinnost označit výstupy jako vytvořené AI. Týká se to textu, obrázků, audia i videa generovaného nástroji jako ChatGPT, Midjourney, Suno nebo ElevenLabs.
• Systémy rozpoznávání emocí a biometrické kategorizace — povinnost informovat exponované osoby o provozu systému.
• Vysoce rizikové systémy — rozsáhlé informační povinnosti včetně technické dokumentace, návodu k použití a informací o přesnosti systému.

Jak naplnit požadavek transparentnosti v praxi

Doporučujeme firmám následující přístup:

Víceúrovňový systém informací. Podobně jako u privacy policy doporučujeme strukturovat informace o AI do více vrstev — od stručného upozornění na první kontaktní ploše po detailní dokumentaci dostupnou na vyžádání.

• Na webu nebo v aplikaci jasně označte, kde interaguje uživatel s AI.
• Poskytněte srozumitelné vysvětlení, jaké faktory AI systém zohledňuje při rozhodování.
• Informujte o možnosti požádat o lidský přezkum rozhodnutí AI.
• U generovaného obsahu implementujte automatické označování (watermarking, metadata).

Sankce za porušení transparentnosti

Porušení povinností transparentnosti může vést k pokutám podle obou regulací. GDPR umožňuje pokuty až do výše 20 milionů EUR nebo 4 % ročního obratu. AI Act stanoví pro porušení povinností transparentnosti pokuty až 15 milionů EUR nebo 3 % celosvětového obratu. Transparentnost tak není jen etickým požadavkem, ale závažnou právní povinností.