Poskytovatel vs. Zavádějící subjekt
Před analýzou samotných povinností je nutné správně identifikovat, v jaké právní pozici vaše společnost vystupuje. AI Akt totiž striktně rozlišuje mezi těmito aktéry
- Poskytovatel (Provider): Subjekt, který AI systém vyvíjí, případně si jej nechá zakázkově naprogramovat, a následně ho pod svou vlastní obchodní značkou uvádí na trh nebo do provozu.
- Zavádějící subjekt (Deployer): Firma, podnikatel, úřad či instituce, která již hotový AI systém využívá při své komerční, profesionální činnosti nebo jiné neosobní činnosti. Například jde o e-shopy využívající externí chatboty či marketingové agentury generující grafiku.
Nařízení se naopak vůbec nedotýká osobního, neprofesního využívání AI soukromými osobami. V konkrétním případě se přitom může uplatnit více transparentnostních povinností současně.
Pět pilířů transparentnosti podle Článku 50
1. Interakce s lidmi (Chatboti, voiceboti a AI asistenti)
Podle čl. 50 odst. 1 AI Aktu má poskytovatel povinnost navrhnout a vyvinout konverzační systémy určené k přímé interakci s fyzickými osobami tak, aby byl uživatel jasně, rozlišitelně a včas informován, že komunikuje s umělou inteligencí.
Tato povinnost se typicky týká chatbotů, hlasových asistentů, AI agentů nebo avatarů. Nejedná se však o každý automatizovaný proces. Musí jít o skutečnou obousměrnou interakci s konverzačním nebo reaktivním charakterem. Mimo rozsah této povinnosti proto zpravidla spadají systémy, které pouze pasivně shromažďují údaje, komunikují výlučně s jinými stroji nebo fungují pouze na pozadí bez přímého kontaktu s člověkem.
Informace musí být uživateli předložena srozumitelně a nejpozději při zahájení první konverzace (např. viditelným upozorněním v chatovacím okně). Pouhé odkázání na pasáž v obchodních podmínkách je z právního hlediska neúčinné.
Povinnost odpadá pouze v situacích, kdy je vzhledem k okolnostem zcela zjevné, že osoba komunikuje s AI. Evropská komise však ve svých pokynech varuje, že běžní firemní chatboti či zákazničtí asistenti pod tuto výjimku nespadají a tuto výjimku je obecně třeba vykládat restriktivně. Veřejnost si totiž v těchto případech nemůže být nikdy stoprocentně jistá, zda na druhé straně nesedí reálný operátor.
2. Technické značení a zpětná detekce (Neviditelné vodoznaky)
U systémů, které generují syntetický text, obrazový materiál, audio či video, musí poskytovatel zajistit technické řešení pro jejich označení. Podle čl. 50 odst. 2 AI Aktu musí poskytovatelé AI systémů (včetně systémů založených na general-purpose AI/GPAI) zajistit, aby:
- výstup byl označen ve strojově čitelném formátu;
- obsah bylo možné zpětně detekovat a rozpoznat jako uměle vytvořený nebo manipulovaný.
Použité technické řešení má být účinné, interoperabilní, robustní a spolehlivé. Povinnost se vztahuje na AI systémy, nikoli přímo na samotné GPAI modely; v praxi však mohou být příslušná opatření realizována i na úrovni modelu, pokud stejný subjekt poskytuje model i navazující systém.
Povinnost se nevztahuje na běžné korekční a editační nástroje, které nijak nemění sémantický význam původního obsahu (např. automatická oprava překlepů, základní filtry šumu či standardní editace, pokud podstatně nemění vstupní data ani jejich význam).
Z rozsahu povinnosti jsou dále vyloučeny:
- Krátké sekvence čísel, symbolů či písmen a zdrojový kód.
- Výstupy určené výhradně pro automatizovanou komunikaci mezi stroji.
- Výstupy používané pouze v uzavřených průmyslových nebo vývojových prostředích.
Pro systémy generativní AI, které byly uvedeny do provozu před 2. srpnem 2026, platí odklad této povinnosti do 2. prosince 2026. Systémy uvedené na trh nebo do provozu od 2. srpna 2026 musí tuto povinnost splňovat již při svém uvedení na trh nebo do provozu.
3. Detekce emocí a biometrické zařazování
Pokud jako zavádějící subjekt (např. v roli zaměstnavatele či provozovatele prodejny či jiné instituce) využíváte systémy pro analýzu emocí nebo biometrickou kategorizaci, musíte podle čl. 50 odst. 3 AI Aktu dotčené fyzické osoby, které jsou vystaveny provozu takového systému, o tomto kroku předem informovat. Tato povinnost se uplatní jak při použití systému v reálném čase, tak při následném vyhodnocování pořízených záznamů.
Jako příklad si můžeme uvést kamery vyhodnocující náladu zákazníků pro marketingové účely nebo softwarové nástroje analyzující stres u uchazečů při výběrových řízeních. Tyto aktivity navíc vyžadují extrémní obezřetnost z hlediska ochrany osobních údajů (GDPR).
Samotné splnění informační povinnosti však neznamená, že je dané použití systému přípustné. Zavádějící subjekt musí současně posoudit soulad s dalšími právními předpisy, zejména s GDPR, a podle povahy konkrétního použití případně také s požadavky AI Actu na vysoce rizikové systémy.
U systémů pro rozpoznávání emocí je navíc třeba zohlednit, že AI Act některé způsoby jejich použití přímo zakazuje. To platí zejména pro systémy určené k odvozování emocí osob na pracovištích a ve vzdělávacích institucích, pokud nejsou využívány z lékařských nebo bezpečnostních důvodů.
4. Označování manipulovaného obsahu (Deepfakes)
Zveřejníte-li jako zavádějící subjekt tzv. deepfake, tedy obrazový, zvukový či video obsah vytvořený či upravený AI, který vyvolává klamný dojem autenticity (napodobuje reálné osoby, místa či události), musíte dle čl. 50 odst. 4 AI Aktu výslovně deklarovat, že jde o podvrh či úpravu.
Deepfake je obsah, jenž se podobá existujícím nebo věrohodně existujícím osobám, objektům, místům, subjektům či událostem a mohl by se člověku nepravdivě jevit jako autentický nebo pravdivý záznam reality.
Odpovědnost vzniká bez ohledu na to, zda byl vaším úmyslem podvod, nebo šlo o kreativní marketingovou kampaň. Kodex správné praxe pro tyto účely doporučuje zavedení jednotných štítků typu AI GENERATED (zcela vytvořeno AI) nebo AI MODIFIED (AI upraveno) spolu s oficiální unijní ikonou. Označení musí být pro člověka srozumitelné a vnímatelné bez zvláštních technických nástrojů, nejpozději při první expozici obsahu. Nestačí proto spoléhat jen na technická metadata nebo strojově čitelné označení vložené poskytovatelem AI systému.
U kreativních, satirických, uměleckých či fiktivních děl platí mírnější pravidla. Zde je nutné informovat o umělém vytvoření nebo manipulaci obsahu, lze to však učinit způsobem, který nepřiměřeně nenaruší celkový prožitek z vnímání díla (například v závěrečných titulcích, anotaci, popisku videa nebo v doprovodném sdělení a programu výstavy).
5. AI texty ve veřejném zájmu
Pokud jako zavádějící subjekt publikujete texty vygenerované nebo zmanipulované umělou inteligencí, které se týkají témat obecného veřejného zájmu (např. politika, justice, ekologie, veřejné zdraví či bezpečnost), musíte je označit jako AI výstupy.
Mezi témata obecného veřejného zájmu typicky patří:
- Politika a demokratické procesy,
- Veřejná správa a justice,
- Základní práva, veřejná bezpečnost a zdraví,
- Ekologie a životní prostředí,
- Ochrana spotřebitelů,
- Významný ekonomický, finanční, vědecký či kulturní vývoj.
Tato povinnost odpadá v momentě, kdy text před publikací prošel věcným přezkumem a skutečnou redakční kontrolou fyzickou nebo právnickou osobou, která nese oficiální redakční odpovědnost za jeho zveřejnění. Pouhá formální úprava textu, zejména automatizovaná kontrola stylistiky, kontrola pravopisu či povrchní gramatická korektura, se však za lidský přezkum ani redakční kontrolu nepovažuje.
Požadavky na formu sdělení
Informace poskytované podle čl. 50 odst. 1 až 4 AI Actu musí být jasné, rozlišitelné a přístupné. Dotčená osoba je musí obdržet nejpozději při první interakci se systémem nebo při první expozici obsahu.
V praxi proto zpravidla nepostačí obecná formulace ukrytá v obchodních podmínkách ani samotné technické označení, které běžný uživatel nemůže vnímat. Konkrétní způsob splnění povinnosti musí odpovídat povaze daného systému, obsahu i předpokládanému publiku.
Dozorové orgány a riziko sankcí
Ignorování povinností transparentnosti se může firmám extrémně prodražit. Dodržování čl. 50 AI Actu budou primárně prosazovat vnitrostátní orgány dozoru nad trhem.
Vedle národních orgánů se na dohledu podílí i Evropský úřad pro umělou inteligenci (AI Office). Ten na úrovni EU dohlíží hlavně na poskytovatele obecných modelů AI a na systémy, které tyto modely využívají, pokud je model i systém od stejného poskytovatele, nebo jsou součástí velmi velkých online platforem či vyhledávačů. Ve vztahu k institucím a orgánům EU pak vykonává dohled Evropský inspektor ochrany údajů.
Podle článku 99 AI Aktu hrozí za porušení pravidel transparentnosti správní pokuty ve výši až 15 000 000 EUR, nebo do výše 3 % celosvětového ročního obratu dotčeného podniku za předchozí účetní období (podle toho, která částka je vyšší).
U malých a středních podniků (SMEs) a malých společností se střední tržní kapitalizací se má při ukládání pokut zohlednit zásada proporcionality.
Doporučený plán pro firemní compliance
Abyste své podnikání bezpečně připravili na účinnost nových pravidel, doporučujeme realizovat následující kroky:
- Interní AI audit: Zmapujte všechny nástroje umělé inteligence, které vaše týmy využívají, a přesně definujte vaši právní roli u každého z nich.
- Implementace vnitřních směrnic (AI Policy): Nastavte jasná pravidla pro zaměstnance. Definujte, jaké typy obsahu vyžadují lidskou redakční kontrolu a jak správně označovat výstupy.
- Příprava disclaimerů: Upravte uživatelská rozhraní svých chatbotů a webových stránek tak, aby splňovala požadavky na včasné a srozumitelné informování uživatelů.
- Kodex správné praxe: Jeho dobrovolné podepsání sice přinese dodatečné technické závazky, ale poskytne vaší firmě silný právní štít (tzv. safe harbor) před případným postihem ze strany dozorových orgánů.
Závěr a širší souvislosti
Při výkladu těchto povinností je vhodné vycházet především z Pokynů Evropské komise, které podrobně objasňují, na koho jednotlivé povinnosti dopadají a jak je lze v praxi naplnit. Pro poskytovatele i zavádějící subjekty generativních AI systémů může být užitečným vodítkem také dobrovolný Kodex zásad pro transparentnost obsahu vytvořeného umělou inteligencí.
Transparentnost podle AI Actu představuje pouze jeden z prvků širšího regulatorního rámce, který se v posledních letech formuje kolem využívání umělé inteligence napříč sektory, včetně finančního. Organizace, které dokážou sladit požadavky AI Actu, DORA a NIS2 v rámci jednotného systému řízení rizik a compliance, budou podstatně lépe připraveny na praktické i právní výzvy.
Co vám můžeme nabídnout?
Pomůžeme vám provést komplexní právní prověření vašich AI systémů, navrhneme interní směrnice na míru a zajistíme, aby vaše podnikání plně vyhovovalo evropským standardům bez zbytečného brzdění vašich inovací.
