Transparentnost AI podle EU AI Actu: chatboty, deepfaky a označování obsahu

Transparentnost je jedna z nejpraktičtějších částí AI Actu. Neříká firmám jen to, aby byly „otevřené“. V konkrétních případech stanovuje, že člověk má vědět, kdy komunikuje s umělou inteligencí, kdy je vystaven biometrické nebo emoční analýze a kdy sleduje obraz, zvuk nebo text vytvořený či upravený AI.

Provozovatel webu se s těmito pravidly může setkat při nasazení chatbotu, AI asistenta, generování produktových obrázků, úpravě videa, tvorbě reklam, publikaci článků nebo využití nástroje pro analýzu návštěvníků. Rozhodující není, zda je nástroj interní, placený nebo „jen pomocný“. Rozhodující je konkrétní interakce, obsah, role firmy a způsob zveřejnění.

Krátká odpověď: chatbot musí být pro člověka rozpoznatelně AI, poskytovatelé generativních systémů mají řešit strojově čitelné označení výstupů a provozovatelé musí viditelně označit některé deepfaky a AI texty o věcech veřejného zájmu. Označení má být srozumitelné, včasné a umístěné tam, kde jej člověk skutečně uvidí.

Čtyři různé situace, které se často pletou

Článek 50 AI Actu neřeší jednu obecnou povinnost „přiznat AI“. Rozlišuje několik typů použití a podle nich rozděluje odpovědnost mezi poskytovatele a provozovatele.

SituaceKdo typicky jednáPrvní povinnost Přímá interakce člověka se systémemPoskytovatel systémuNastavit systém tak, aby člověk věděl, že komunikuje s AI. Generovaný nebo upravený obraz, zvuk, video či textPoskytovatel i provozovatel podle roleVýstup má být detekovatelně označen; v některých případech je nutné i viditelné označení. Emoční rozpoznávání nebo biometrická kategorizaceProvozovatelInformovat osoby, které jsou systému vystaveny. AI text o věci veřejného zájmuProvozovatel, který text publikujeJasně uvést, že text byl vytvořen nebo upraven AI, pokud se neuplatní lidská redakční kontrola.

Toto rozdělení je dobrý začátek, ale praxe může obsahovat více rolí. Firma může být zároveň poskytovatelem vlastního chatbotu, provozovatelem cizího modelu a vydavatelem obsahu na svém webu. Každý scénář proto evidujte samostatně.

Chatbot a AI asistent na webu

Pokud systém přímo komunikuje s člověkem, musí být navržen tak, aby člověk věděl, že komunikuje s AI, pokud to není z okolností zcela zřejmé. Návštěvník nemusí dostat dlouhé právní vysvětlení. Musí ale dostat pravdivou a včasnou informaci.

Jak má oznámení vypadat

• Informace má být viditelná při zahájení konverzace, ne až v obchodních podmínkách.
• Text má být konkrétní: „Komunikujete s AI asistentem Silicon Scribe“, ne pouze obecné „tato služba používá automatizaci“.
• Uživatel má vědět, jak získat pomoc člověka, pokud je lidská podpora dostupná.
• Oznámení nesmí být schované pod tlačítkem nebo vizuálně potlačené tak, že jej běžný návštěvník přehlédne.
• Pokud se role systému změní z informačního asistenta na nástroj, který přijímá objednávky nebo vytváří závazné úkony, aktualizujte text i proces.

Výjimka, že je AI původ zřejmý, se posuzuje z pohledu rozumně informovaného, pozorného a obezřetného člověka v konkrétním kontextu. Na tuto výjimku se proto nespoléhejte jen proto, že má chatbot robotickou ikonu nebo odpovídá v samostatném okně.

Generovaný obraz, zvuk, video a text

Poskytovatelé generativních systémů mají zajistit, aby jejich výstupy byly označeny ve strojově čitelné podobě a aby bylo možné rozpoznat, že vznikly nebo byly upraveny AI. AI Act přitom počítá s technickou proveditelností, náklady, limity konkrétního typu obsahu a stavem techniky. Ne každý výstup je možné označit stejným způsobem.

Pro firmu, která si generuje obrázek nebo text přes cizí službu, je důležité zjistit, co dodavatel skutečně poskytuje: metadata, vodoznak, Content Credentials, API příznak nebo jiný mechanismus. Při exportu a následné úpravě se může značka ztratit. Do interního workflow proto patří kontrola při stažení, úpravě i publikaci.

Co se může stát při úpravě souboru

• editor uloží obrázek jako nový soubor a odstraní metadata,
• sociální síť nebo redakční systém zmenší video a odstraní strojovou značku,
• marketingový pracovník přidá vlastní grafiku a už neví, co vytvořila AI a co člověk,
• dodavatel nabízí detekci, ale nepřidává žádnou značku při exportu.

Odpovědnost za technické označení systémového výstupu a odpovědnost za viditelné přiznání zveřejněného obsahu nejsou totéž. Firma musí rozlišit, co má zajistit dodavatel, co její vlastní nástroj a co redakce nebo marketing.

Deepfake: kdy je potřeba viditelné označení

Deepfake je obrazový, zvukový nebo video obsah, který byl vytvořen nebo upraven AI a podobá se existujícím osobám, objektům, místům, entitám nebo událostem tak, že by mohl působit jako pravý nebo skutečný. Provozovatel generativního systému, který takový obsah nasazuje nebo zveřejňuje, musí jasně uvést, že obsah byl uměle vytvořen nebo upraven.

Označení má být viditelné, srozumitelné a umístěné přímo u obsahu nebo v jeho bezprostřední blízkosti. Nestačí odkaz „více v podmínkách“, který návštěvník pravděpodobně neuvidí.

U uměleckých, tvůrčích, satirických nebo fiktivních děl existuje zvláštní výjimka v podobě přiměřeného disclosure, které nemá narušit sledování nebo užití díla. Neznamená to, že se označení vynechá úplně. Znamená to, že může být provedeno způsobem odpovídajícím dílu.

AI text o věcech veřejného zájmu

Provozovatelé generativních systémů musí jasně označit AI vytvořený nebo upravený text, který publikují s cílem informovat veřejnost o věcech veřejného zájmu, pokud text neprošel lidskou kontrolou nebo redakční odpovědností. Do této oblasti mohou patřit témata jako politika a demokratické procesy, veřejná správa, soudnictví, veřejná bezpečnost, veřejné zdraví, životní prostředí, spotřebitelská bezpečnost a ekonomický, vědecký či kulturní vývoj relevantní pro veřejnou debatu.

Ne každý článek na firemním blogu je automaticky věcí veřejného zájmu. Nestačí ani to, že byl napsán přes AI. Posuzují se současně tři prvky: text je publikovaný, informuje veřejnost a týká se věci veřejného zájmu. U hraničních témat je transparentní označení bezpečnější než snaha povinnost zúžit na minimum.

Co znamená lidská redakční kontrola

Výjimka z označení AI textu není založena na tom, že člověk opravil překlep nebo klikl na tlačítko „publikovat“. Komise vysvětluje lidskou kontrolu jako vědomé posouzení obsahu osobou s relevantními znalostmi a odborným úsudkem. Redakční kontrola znamená praktickou pravomoc obsah schválit, změnit nebo odmítnout z věcných důvodů, včetně ověřování faktů a spolehlivosti zdrojů.

Co je skutečná kontrola

• redaktor ověří tvrzení proti primárním nebo jiným důvěryhodným zdrojům,
• posoudí, zda text nepřehání, nezamlčuje zásadní kontext a neobsahuje neověřené závěry,
• má pravomoc text podstatně přepsat nebo publikaci odmítnout,
• firma uchová záznam o tom, kdo kontrolu provedl a kdy.

Kontrola pravopisu, úprava nadpisu nebo formátování samy o sobě nestačí. Ani převzetí textu od agentury neznamená, že redakční odpovědnost automaticky zmizela. Nastavte vlastní schválení podle citlivosti tématu.

Biometrie a rozpoznávání emocí

Provozovatelé systémů rozpoznávání emocí nebo biometrické kategorizace musí informovat osoby, které jsou těmto systémům vystaveny. Tato informační povinnost se vztahuje na provoz v reálném čase i na následné zpracování. Nejde jen o biometrický systém v bezpečnostní hale. Může se týkat také výzkumného, marketingového nebo zaměstnaneckého scénáře.

Transparentní oznámení zde nenahrazuje další právní posouzení. Některé případy rozpoznávání emocí a biometrické kategorizace jsou podle AI Actu zakázané nebo vysoce rizikové. Zároveň se řeší GDPR, právní titul, proporcionalita a případné posouzení dopadu.

Praktické příklady pro web a agenturu

Use casePraktické opatřeníNa co nezapomenout Chatbot pro dotazy k službámOznámit AI hned na začátku, nabídnout kontakt na člověka.Ochrana promptů, osobních údajů a eskalace chybných odpovědí. AI obrázek v reklaměPrověřit technické označení a podle povahy obsahu viditelné označení.Nezobrazovat uměle vytvořenou osobu jako skutečného zákazníka. Video s upraveným hlasemOznačit umělou úpravu přímo u videa.Souhlas, právo na podobu a riziko záměny osoby. AI článek o změně zákonaProvést věcnou redakční kontrolu a uvést zdroje.Udržovat datum aktualizace a nepoužívat formální kontrolu jako náhradu ověření. Analýza emocí návštěvníkůNejprve zastavit a prověřit klasifikaci, právní základ a informační povinnost.Může jít o zakázanou nebo vysoce rizikovou praxi.

Praktický publikační workflow

Pro menší firmu není nutné stavět složitý systém. Stačí několik kontrolních bodů, které se provedou před zveřejněním:

1. Vytvořit: uložit zdrojový soubor nebo záznam, že obsah vznikl s pomocí AI.
2. Zkontrolovat: ověřit faktickou správnost, osobnostní práva, licence, bezpečnost a kontext.
3. Označit: určit, zda je nutná informace o AI interakci, strojová značka nebo viditelné disclosure.
4. Publikovat: umístit oznámení přímo k chatbotu, obrázku, videu nebo textu.
5. Archivovat: uchovat prompt nebo zadání, zdrojovou verzi, schválení a datum publikace.

Checklist pro chatbot

• Je jasně uvedeno, že návštěvník komunikuje s AI?
• Je oznámení zobrazené dříve, než uživatel vloží osobní nebo důvěrné údaje?
• Je uvedeno, co chatbot umí a co neumí?
• Existuje cesta k člověku nebo formuláři při chybě či citlivém dotazu?
• Nejisté odpovědi se nezobrazují jako závazné právní, zdravotní nebo finanční doporučení?
• Je vyřešeno ukládání konverzací, přístup k nim, mazání a případné předávání dodavateli?
• Má tým postup pro incident, stížnost a žádost o výmaz?

Checklist pro obrázky, video a zvuk

• Je obsah syntetický nebo zásadně upravený AI?
• Napodobuje skutečného člověka, místo, událost nebo veřejnou situaci?
• Je označení přímo u obsahu a viditelné na mobilu?
• Zůstává zachována strojově čitelná značka po exportu a nahrání do CMS?
• Má firma souhlas s použitím podoby, hlasu nebo chráněných materiálů?
• Nevypadá syntetická osoba jako skutečný klient, zaměstnanec nebo odborník?

Checklist pro AI články

• Je téma věcí veřejného zájmu podle obsahu a účelu publikace?
• Byla ověřena čísla, data, právní tvrzení a odkazy na zdroje?
• Kontrolu provedl člověk s relevantní znalostí a pravomocí text odmítnout?
• Je v redakčním systému evidován autor, kontrolor, datum a změny?
• Je u citlivých textů viditelná informace o AI, pokud výjimka lidské kontroly není jistá?
• Je nastavená další revize u témat, která se rychle mění?

Jak formulovat označení

Text označení musí být srozumitelný návštěvníkovi, ne jen právníkovi nebo vývojáři. Vhodné formulace mohou být například:

• „Tento chat obsluhuje AI asistent. V případě potřeby vás spojíme s člověkem.“
• „Obrázek byl vytvořen pomocí generativní AI.“
• „Video obsahuje AI upravený obraz nebo zvuk.“
• „Text byl vytvořen s pomocí AI a před publikací prošel věcnou redakční kontrolou.“

Označení nesmí tvrdit, že obsah vznikl výhradně AI, pokud jej člověk významně vytvořil, ani naopak skrývat zásadní AI zásah za neurčitou formulaci „digitálně upraveno“. Popisujte skutečnost přesně podle typu použití.

Výjimky a přechodná pravidla

AI Act obsahuje výjimky podle typu obsahu, způsobu použití a lidské kontroly. U standardní asistivní úpravy, například technického formátování, může být situace jiná než u vytvoření realistického videa. Stejně tak některá průmyslová nebo strojově zpracovávaná použití mohou být mimo praktický rozsah povinnosti označení. Výjimku je však nutné posoudit podle konkrétního scénáře, ne podle obecného názvu funkce.

Podle aktuálních pokynů Komise se povinnosti transparentnosti podle článku 50 uplatňují od 2. srpna 2026. U některých generativních systémů uvedených na trh před tímto datem existuje přechodné období pro označování do 2. prosince 2026. Neznamená to, že firma může mezitím ignorovat ochranu osobnosti, GDPR, autorské právo, spotřebitelské předpisy nebo pravidla proti klamání.

Co může firma udělat tento týden

1. Vypsat všechny chatboty, AI asistenty a generativní nástroje používané na webu i uvnitř firmy.
2. U každého obsahu určit, zda jde o interakci, obraz, zvuk, video, text, deepfake nebo biometrickou analýzu.
3. Doplnit viditelná oznámení do chatbotů a ke zveřejněným syntetickým výstupům.
4. Prověřit, zda CMS, kompresní služba nebo sociální síť nemaže strojově čitelné označení.
5. Zavést jednoduché schválení AI článků a kampaní před publikací.
6. Uchovávat zdrojovou verzi, kontrolu a datum revize.

Nejčastější chyby

• Oznámení až v patičce: člověk musí informaci dostat v kontextu interakce nebo obsahu.
• „Máme lidského editora“ bez důkazu: formální kontrola pravopisu není věcná redakční kontrola.
• Strojové metadata jako jediné řešení: návštěvník webu potřebuje v relevantních situacích i viditelné označení.
• Ztráta značky při exportu: soubor může po úpravě vypadat stejně, ale značka se odstraní.
• Záměna deepfaku a každé retuše: běžné technické úpravy nejsou automaticky totéž co realistická syntetická změna.
• Neřešení odpovědnosti: firma musí vědět, kdo schvaluje publikaci a kdo řeší chybu nebo stížnost.

Jak navázat na další témata

Transparentnost sama o sobě nevyřeší klasifikaci systému. U chatbotu pro HR, financí nebo zdravotnictví je potřeba posoudit také rizikovou kategorii. Začněte článkem Rizikové kategorie AI a pokračujte přehledem vysoce rizikových systémů. Zakázané scénáře shrnuje článek Zakázané praktiky AI. Pro konkrétní nastavení webu nebo obsahu můžete využít kontaktní stránku.

Závěr

Transparentnost AI není dekorativní štítek. Je to způsob, jak člověku umožnit správně vyhodnotit, komu odpovídá, odkud obsah pochází a jakou důvěru mu může dát. U chatbotu pomůže jednoduché oznámení na začátku. U videa nebo obrazu je důležité označení přímo u obsahu. U textu o veřejné věci rozhoduje nejen použití AI, ale také skutečná lidská redakční kontrola.

Nejlepší nastavení je praktické: evidovat nástroje, přiřadit vlastníka, vytvořit několik šablon oznámení, kontrolovat exporty a uchovávat schválení. Díky tomu se transparentnost stane součástí publikačního procesu, nikoli dodatečným hledáním problému po zveřejnění.

Zdroje a právní poznámka

Článek vychází z nařízení Evropského parlamentu a Rady (EU) 2024/1689 (AI Act), zejména článku 50. Praktické vysvětlení zveřejnila Evropská komise ve FAQ k článku 50, dále v pokynech k transparentnosti AI obsahu a v Kodexu postupů pro transparentnost AI obsahu. Aktuální přehled pravidel a přechodných období je také v materiálu Quick Facts: Transparency rules for AI systems.

Aktualizováno 7. srpna 2026. Text je praktický orientační materiál, nikoliv právní stanovisko. Konkrétní povinnost závisí na roli firmy, typu systému, účelu, obsahu a způsobu zveřejnění. U citlivých, veřejně významných nebo osobnostně rizikových výstupů doporučujeme individuální právní posouzení.