Praktický checklist AI Actu pro českou firmu: od inventury po provoz

Aktualizováno 8. srpna 2026. AI Act už není téma pouze pro vývojáře umělé inteligence. Týká se také firem, které AI nakupují, zapojují do zákaznické podpory, používají při náboru, nechávají ji pracovat s dokumenty nebo prostřednictvím ní vytvářejí obsah. Rozhodující není to, zda máte vlastní model. Rozhodující je, co systém dělá, komu může ovlivnit život a jakou roli v jeho používání firma má.

Tento checklist je praktický pracovní návod pro českou firmu. Pomůže vám vytvořit inventuru, přiřadit odpovědnosti, předběžně určit rizikovou kategorii a připravit důkazy, které budete potřebovat při interní kontrole nebo při jednání s dodavatelem. Nenahrazuje právní posouzení konkrétního systému. U hraničních případů je důležité pracovat s aktuálním zněním nařízení, metodikami Evropské komise a odborným posouzením.

Rychlý výsledek: co má firma po prvním kole mít

Po prvním průchodu nemusíte mít stovky stran dokumentace. Měli byste ale mít jednu pravdivou tabulku a několik jasných rozhodnutí. U každého AI systému musí být zřejmé:

• kdo jej vlastní a kdo odpovídá za jeho provoz,
• k čemu se používá a jaké rozhodnutí nebo výstup ovlivňuje,
• jaká data do něj vstupují a kam mohou odcházet,
• zda jde o zákaz, vysoké riziko, povinnou transparentnost, GPAI nebo běžné použití,
• jak člověk výstup zkontroluje, opraví nebo odmítne,
• kde jsou uložené podmínky dodavatele, testy, záznamy a rozhodnutí o schválení.

V srpnu 2026 je praktické počítat s tím, že pravidla zákazu a AI gramotnosti se uplatňují od února 2025, pravidla pro GPAI a governance od srpna 2025, pravidla transparentnosti od 2. srpna 2026 a některé povinnosti pro vysoce rizikové systémy mají po AI Omnibusu odložený termín. U citlivých vysoce rizikových použití je na stránce Evropské komise uveden termín 2. prosince 2027, u AI zabudované v regulovaných výrobcích 2. srpna 2028. Přesný dopad ale vždy závisí na typu systému a roli firmy.

Aktuální termíny, výjimky a vztah jednotlivých částí nařízení popisujeme také v článku Harmonogram AI Actu po AI Omnibusu. Checklist níže vám pomůže převést tento harmonogram do práce.

1. Začněte inventurou, ne klasifikací

Nejčastější chyba je začít otázkou „Je ChatGPT vysoce rizikový?“ Takto položená otázka je příliš obecná. Riziko se posuzuje podle konkrétního použití, role organizace a dopadu. Stejný jazykový model může sloužit k návrhu interního e-mailu, k třídění životopisů nebo k automatickému rozhodování o reklamaci. Technicky jde o podobný nástroj, ale právní a provozní kontext je odlišný.

Vytvořte centrální registr AI systémů. Nemusí začínat jako nový software. Pro první kolo postačí řízená tabulka s vlastníkem, datem poslední kontroly a historií změn. Nezapomeňte na nástroje, které si lidé předplácejí sami, rozšíření v kancelářských aplikacích, funkce v CRM, helpdesku, e-shopu, reklamních platformách a hostingu.

Minimální pole registru

1. Název systému a dodavatel: včetně konkrétního produktu, verze nebo modelu, pokud je známá.
2. Vlastník procesu: člověk, který rozumí účelu použití a může používání zastavit.
3. Uživatelé a příjemci výstupu: zaměstnanci, zákazníci, uchazeči, obchodní partneři nebo veřejnost.
4. Účel a výsledek: co systém vytváří, doporučuje, řadí, předpovídá nebo rozhoduje.
5. Vstupní data: osobní údaje, obchodní tajemství, veřejný obsah, dokumenty, biometrie nebo údaje o dětech.
6. Automatizace: zda člověk výstup pouze čte, nebo podle něj systém sám odešle zprávu, zamítne požadavek či změní stav.
7. Provozní hranice: co se nesmí do systému vložit a kdy se musí případ předat člověku.
8. Smluvní a technické podklady: podmínky, DPA, bezpečnostní dokumentace, nastavení ukládání dat a exportu.
9. Datum kontroly: kdy bude použití znovu posouzeno, například po změně modelu, dodavatele nebo procesu.

2. Přiřaďte roli firmy a odpovědnosti

AI Act rozlišuje různé role v hodnotovém řetězci. Firma může být deployer, tedy subjekt, který AI systém používá pod svou odpovědností. Pokud systém vyvíjí, uvádí na trh nebo jej prodává pod vlastním názvem, může mít také roli poskytovatele. Integrace cizího modelu do vlastního produktu může odpovědnosti změnit. Proto registr doplňte o jednoduchou otázku: Dodáváme systém dál, nebo jej pouze používáme pro vlastní provoz?

U každého záznamu jmenujte alespoň tyto osoby nebo funkce:

• business owner, který odpovídá za účel a přínos,
• technický vlastník, který zná integraci, přístupy, logy a změny,
• vlastník dat, případně pověřenec pro ochranu osobních údajů,
• schvalovatel rizika, který rozhodne, zda se systém smí používat,
• kontaktní osoba pro incident, která umí provoz omezit a zahájit šetření.

U malého podniku může jednu nebo více rolí zastávat stejný člověk. To nevadí, pokud je to zapsané a pokud existuje kontrola u citlivých použití. Firma by neměla mít model „AI používají všichni, ale nikdo za ni neodpovídá“.

3. Proveďte předběžnou klasifikaci

AI Act pracuje s přístupem založeným na riziku. Pro první interní filtr použijte pět pracovních košů:

A. Zakázané praktiky

Pokud použití spadá do zakázané praktiky, řešením není doplnění poučení nebo další test. Použití se musí zastavit nebo změnit tak, aby do zákazu nespadalo. Patří sem například škodlivá manipulace a klamání, zneužívání zranitelnosti, sociální scoring, některé formy predikce individuální trestné činnosti, necílené vytváření databází obličejů, rozpoznávání emocí na pracovišti a ve vzdělávání, některé formy biometrické kategorizace a vybrané použití vzdálené biometrické identifikace pro vymáhání práva. Evropská komise uvádí také zákaz systémů pro nevyžádaný intimní obsah a materiál sexuálního zneužívání dětí; jeho účinnost byla po AI Omnibusu posunuta na prosinec 2026.

Vnitrofiremní pravidlo může být jednoduché: pokud systém hodnotí slabost člověka, odvozuje citlivou vlastnost, vytváří plošné skóre lidí nebo zasahuje do intimní sféry bez souhlasu, před použitím musí projít právním posouzením. Pokud už takové použití běží, nepokračujte jen proto, že „to dělá dodavatel“.

B. Vysoce rizikové systémy

Vysoce rizikové oblasti se týkají například bezpečnostních komponent kritické infrastruktury a regulovaných výrobků, vzdělávání, zaměstnání a řízení pracovníků, přístupu k některým zásadním soukromým a veřejným službám, biometrie, migrace, vymáhání práva nebo spravedlnosti. Rozhoduje konkrétní použití, zařazení v přílohách a případné výjimky, nikoli marketingové označení dodavatele.

Pokud předběžný test míří do této oblasti, založte samostatný spis. Počítejte s posouzením rizik, kvalitou a správou dat, logováním, dokumentací, informacemi pro uživatele, lidským dohledem, přesností, odolností a kybernetickou bezpečností. U některých nasazení se může uplatnit také posouzení dopadu na základní práva nebo registrace. Nečekejte na den, kdy se povinnost formálně přiblíží: evidence a změny systému se budují postupně.

C. Systémy s povinnou transparentností

Sem patří použití, u kterého člověk potřebuje vědět, že komunikuje se strojem, nebo že určitý obsah vznikl či byl změněn pomocí AI. Typickým příkladem je chatbot. Dalším příkladem je syntetický obraz, zvuk nebo video, které může působit jako skutečná nahrávka, a určitý AI text publikovaný s cílem informovat veřejnost o věci veřejného zájmu.

U transparentnosti si zapište tři věci: co uživatel uvidí, kdy to uvidí a kdo označení udržuje při změně nástroje. Oznámení musí být srozumitelné a umístěné tak, aby nebylo schované v obchodních podmínkách. Evropská komise zveřejnila v červenci 2026 k článku 50 praktické pokyny; použijte je při návrhu konkrétního rozhraní.

D. GPAI a modelové služby

Firma, která používá hotovou službu třetí strany, obvykle není automaticky poskytovatelem obecného modelu. Přesto musí vědět, jaký model nebo službu používá, co se stane se vstupy, jak se mění verze a zda smlouva dovoluje daný účel. Pokud vlastní model trénujete, podstatně jej upravujete nebo jej nabízíte dál, je potřeba posoudit roli poskytovatele a povinnosti GPAI podrobněji.

E. Minimální nebo žádné riziko

Spamový filtr, návrh interního textu nebo běžná pomoc s překladem nemusí vyvolat zvláštní povinnost podle AI Actu. Neznamená to ale, že je možné ignorovat smlouvy, GDPR, autorská práva, bezpečnost nebo firemní pravidla. I systém s nízkým regulačním rizikem může omylem odeslat důvěrný dokument nebo vytvořit chybnou informaci zákazníkovi.

4. Udělejte datový a GDPR checkpoint

AI Act nenahrazuje GDPR. Pokud do AI systému posíláte jméno, e-mail, hlas, fotografii, identifikátor zákazníka, informace o zdraví, údaje o zaměstnanci nebo jiný údaj vztahující se k člověku, potřebujete samostatně posoudit právní titul, účel, minimalizaci, informování, dobu uchování a příjemce dat.

Otázky pro každý systém

• Je skutečně nutné posílat osobní údaje, nebo lze text nejdříve anonymizovat?
• Je dodavatel zpracovatelem, samostatným správcem, nebo je jeho role jiná?
• Existuje smlouva o zpracování osobních údajů a seznam subdodavatelů?
• Kde jsou data a zálohy zpracovávány a zda dochází k předání mimo EHP?
• Jsou vstupy používány k trénování nebo zlepšování veřejného modelu?
• Jak dlouho se ukládají konverzace, logy, nahrávky a exporty?
• Umí firma vyřídit opravu, výmaz, omezení nebo námitku, pokud se data dostanou do výstupu?
• Je nutné provést DPIA podle GDPR, například kvůli systematickému rozsáhlému hodnocení osob?

Praktické minimum pro malý tým je zakázat v běžných veřejných AI nástrojích osobní údaje a obchodní tajemství, dokud není ověřené nastavení služby, smluvní režim a účel zpracování. Zákaz doplňte bezpečnou alternativou: anonymizovaná data, schválený podnikový účet nebo interní služba s jasným nastavením uchování.

5. Prověřte dodavatele před nákupem

Dodavatel může dodat výborný produkt, ale odpovědnost firmy za vlastní proces tím nezmizí. Před nákupem si vyžádejte odpovědi, které lze uložit do registru:

1. Jaký model a jakou verzi služba používá?
2. Jaká data ukládá, jak dlouho a v jakých regionech?
3. Vstupují zákaznické nebo firemní informace do trénování?
4. Kdo má přístup k administraci, logům a exportům?
5. Jak dodavatel oznamuje změnu modelu, významné změny chování nebo incident?
6. Jaká je dostupnost, zálohování, obnova a podpora při chybě?
7. Jak lze data exportovat a službu ukončit bez ztráty provozní historie?
8. Jaké technické a organizační bezpečnostní opatření dodavatel popisuje?
9. Poskytne informace potřebné k transparentnosti, monitoringu nebo dokumentaci?
10. Je smluvně určeno, kdo řeší reklamaci chybného výstupu a kdo informuje o závažném incidentu?

Odpovědi ukládejte spolu s datem. U AI služby se může změnit model i smluvní režim rychleji než u běžného softwaru. Smlouva bez procesu opakované kontroly je jen jednorázový dokument.

6. Nastavte bezpečnost a etické mantinely

AI systém má jiné způsoby selhání než klasický formulář. Kromě běžného přihlášení a zálohování řešte zejména:

• únik dat: kdo vidí vstupy, historii a výstupy,
• prompt injection: zda může text z dokumentu přimět systém obejít instrukce, vydat tajné údaje nebo provést nežádoucí akci,
• nadměrná oprávnění: zda agent může měnit objednávky, mazat záznamy nebo odesílat e-maily bez druhého kroku,
• halucinace: jak se ověřuje faktická správnost, zdroje a úplnost,
• zkreslení: zda se výstupy liší podle pohlaví, věku, jazyka, původu nebo jiné chráněné charakteristiky,
• otrávení dat: zda může někdo do znalostní báze vložit škodlivý či zavádějící obsah,
• výpadek: zda existuje ruční postup, náhradní služba nebo možnost návratu k předchozí verzi.

Každá akce s dopadem na člověka, peníze, přístup nebo reputaci by měla mít potvrzovací krok. AI může připravit návrh odpovědi, ale automatické odeslání, zamítnutí uchazeče, změna ceny nebo uzavření reklamace musí mít jasně nastavený rozsah a možnost zásahu.

7. Zaveďte lidský dohled, který je skutečný

„Člověk je v procesu“ samo o sobě nestačí. Lidský dohled musí mít čas, informace, oprávnění a kompetenci výsledek zpochybnit. Pokud pracovník jen mechanicky potvrzuje doporučení systému, nevytváří to účinnou kontrolu.

Do provozního postupu napište:

• kdy je kontrola člověkem povinná,
• jaké signály znamenají, že se výsledek nesmí použít,
• kdo může výstup opravit, odmítnout nebo eskalovat,
• jak se zaznamenává důvod odchýlení od doporučení,
• jaký je limit automatizace podle finanční, právní nebo reputační závažnosti.

Příklad: AI připraví odpověď na reklamaci a navrhne částku. Zákazník nesmí obdržet automatický verdikt jen proto, že model uvedl vysokou jistotu. Pracovník kontroluje podklady, v případě neúplných dat požadavek vrátí a systém uloží, kdo odpověď schválil.

8. Připravte transparentní rozhraní

Transparentnost patří mezi nejviditelnější část checklistu, protože ji vnímá zákazník přímo na webu nebo v aplikaci. Zkontrolujte všechny body, kde AI komunikuje s veřejností nebo vytváří publikovaný obsah:

• chatbot se představí jako AI a nabídne snadný kontakt na člověka,
• u generovaného obrazu, audia nebo videa existuje označení a metadata podle povahy použití,
• deepfake je označen viditelně a nejde zaměnit za autentický záznam,
• AI text vytvořený pro informování veřejnosti o věci veřejného zájmu má odpovídající označení,
• pracovník ví, zda připravuje návrh, nebo zveřejňuje finální obsah,
• evidence obsahuje datum, nástroj, účel a schválení publikace.

Návštěvník nemusí číst právní komentář. Oznámení typu „Tento chat obsluhuje AI asistent. Při složitějším dotazu vás spojíme s člověkem“ je v praxi užitečnější než odkaz ukrytý v patičce. Konkrétní podobu ověřte podle typu systému a aktuálních pokynů k článku 50.

9. Pokud jde o vysoké riziko, založte samostatný spis

U vysoce rizikového systému nestačí běžný zápis v tabulce. Vytvořte složku s verzí systému, účelem, omezeními, posouzením rizik, daty, testy, návody pro uživatele, pravidly lidského dohledu, logy, incidenty a rozhodnutími o změnách.

Zvláštní pozornost věnujte systémům pro nábor, hodnocení pracovníků, přístup ke vzdělávání, úvěrům nebo jiným zásadním službám. Zeptejte se, zda výstup ovlivňuje přístup člověka k příležitosti, službě, práci nebo právu. U takového použití neprovádějte ostrý provoz bez právního a technického posouzení.

Povinnosti se nemusí uplatnit stejně pro každý systém. AI Act má přílohy, výjimky, prahové podmínky a přechodná pravidla. Po AI Omnibusu je obzvlášť důležité zkontrolovat aktuální termín a metodiku, nikoli pouze starý blogový článek nebo prezentaci dodavatele.

10. Nastavte AI gramotnost podle rolí

Školení nemá být jednorázová přednáška, po které pracovník podepíše prezenční listinu. Zaměstnanec, který tvoří marketingový text, řeší osobní údaje v zákaznické podpoře a schvaluje automatické rozhodnutí, potřebuje rozdílné instrukce.

Praktický model školení

• Všichni uživatelé: co do AI nevkládat, jak ověřovat výstup a kdy přiznat použití AI.
• Marketing a obsah: práce se zdroji, autorská práva, označování syntetického obsahu a kontrola faktů.
• Obchod a podpora: ochrana klientských údajů, schválené šablony, předání člověku a práce s chybou.
• HR a vedoucí: zákaz zkratkovitého hodnocení lidí, dokumentace rozhodnutí a lidský dohled.
• IT a administrace: oprávnění, logy, dodavatelé, incidenty, testování a řízení verzí.

Po AI Omnibusu je potřeba hlídat aktuální právní výklad článku 4. Pro firmu je rozumné zachovat systematickou AI gramotnost i tehdy, když se změnila formulace konkrétního zákonného požadavku. Záznam o školení má obsahovat datum, roli, témata, použité systémy a způsob ověření porozumění.

11. Připravte incidentní postup

Incident nemusí znamenat pouze útok. Může jít o únik osobních údajů do nesprávného nástroje, škodlivý výstup, opakovanou diskriminaci, nechtěnou automatickou akci, prolomení přístupových práv nebo závažnou chybu v systému, který ovlivňuje člověka.

První verze postupu může mít šest kroků:

1. Zastavit nebo omezit: vypnout integraci, odebrat oprávnění nebo přepnout na ruční proces.
2. Zachovat důkazy: uložit vstup, výstup, verzi modelu, čas, uživatele a související logy v rozsahu, který je právně přípustný.
3. Určit dopad: koho se chyba týká, zda unikla data, zda vznikla škoda a zda pokračuje.
4. Informovat vlastníky: techniku, vedení, ochranu osobních údajů, právníka a dodavatele podle situace.
5. Rozhodnout o oznámení: u osobních údajů postupovat podle GDPR a u relevantního vážného incidentu podle povinností vztahujících se ke konkrétní roli a systému podle AI Actu.
6. Náprava a poučení: opravit proces, znovu otestovat, zaznamenat rozhodnutí a aktualizovat školení.

Nezavádějte postup, který slibuje „nahlášení AI incidentu do 24 hodin“ bez rozlišení typu události. Lhůta, adresát a odpovědná osoba se mohou lišit podle právního režimu, role firmy a závažnosti případu.

12. Převést checklist do 30/60/90 dnů

Prvních 30 dnů: zjistit a zastavit slepá místa

• Jmenujte vlastníka AI agendy.
• Sesbírejte veřejné i interní nástroje včetně účtů placených jednotlivci.
• Dočasně zakažte vkládání citlivých dat do neschválených služeb.
• Označte systémy s dopadem na lidi, peníze, přístup nebo publikovaný obsah.
• U každého nástroje uložte dodavatele, model, účel a způsob práce s daty.

Do 60 dnů: posoudit a nastavit pravidla

• Dokončete předběžnou klasifikaci a právní posouzení hraničních použití.
• Proveďte GDPR checkpoint, včetně potřeby DPIA a smluv s dodavateli.
• Nastavte schválené nástroje, oprávnění, lidské potvrzení a retenční dobu.
• Doplňte transparentní oznámení na chatboty a veřejně používaný AI obsah.
• Proškolte role s nejvyšším dopadem a ověřte, že lidé umí postup použít.

Do 90 dnů: ověřit a udržovat

• Otestujte běžné i hraniční scénáře, včetně prompt injection a výpadku.
• Proveďte náhodnou kontrolu výstupů a záznamů schválení.
• Proveďte cvičný incident s dodavatelem a ověřte kontaktní údaje.
• Založte pravidelný kvartální přehled změn modelů, smluv a rizik.
• Udržujte registr aktuální při každé nové integraci, verzi nebo změně účelu.

Vzor rozhodovací karty pro registr

U každého systému si můžete vyplnit tuto krátkou kartu:

• Systém a verze: ____________________________________
• Dodavatel a smluvní kontakt: __________________________
• Účel a proces: ______________________________________
• Role firmy: používající subjekt / poskytovatel / jiná role
• Dotčené osoby: ______________________________________
• Vstupní data a jejich citlivost: ________________________
• Předběžná kategorie: zákaz / vysoké riziko / transparentnost / GPAI / minimální
• Lidská kontrola a možnost zásahu: ______________________
• Bezpečnostní testy a poslední výsledek: ________________
• Oznámení uživateli: __________________________________
• Incidentní kontakt a fallback: _________________________
• Vlastník, schválil, datum další revize: ________________

Co je rozumné minimum pro malou českou firmu

Malá firma nemusí kopírovat dokumentaci velké banky. Neměla by ale zaměňovat jednoduchost za neviditelnost. Rozumné minimum tvoří jeden registr, krátká pravidla používání, seznam schválených nástrojů, kontrola osobních údajů, jasný vlastník, transparentní chatbotové oznámení, rolemi přizpůsobené školení a postup pro incident.

Pokud firma nepoužívá AI v náboru, úvěrech, zdravotnictví ani v regulovaném výrobku, může být její posouzení kratší. Pokud ale AI odpovídá zákazníkům, zpracovává interní dokumenty nebo tvoří obsah pod značkou firmy, stále potřebujete nastavit kontrolu faktů, ochranu dat, schvalování a změnovou evidenci.

Největší přínos checklistu není v tom, že vytvoří další složku. Je v tom, že firma přesně ví, co používá, proč to používá a co udělá, když výsledek nebude správný.

Kontrolní seznam před schválením

• ☐ Systém je v registru a má vlastníka.
• ☐ Je popsaný účel, proces, uživatelé a dotčené osoby.
• ☐ Je zapsaný dodavatel, model, verze a způsob změn.
• ☐ Byla provedena předběžná riziková klasifikace.
• ☐ Byla zkontrolována zakázaná praktika.
• ☐ Je popsána práce s osobními údaji a smluvní režim.
• ☐ Je určeno, co člověk kontroluje a kdy může zasáhnout.
• ☐ Jsou nastavené limity oprávnění a bezpečnostní testy.
• ☐ Je připravené transparentní oznámení, pokud je relevantní.
• ☐ Je známý postup pro incident, výpadek a návrat k ručnímu procesu.
• ☐ Uživatelé dostali instrukce odpovídající své roli.
• ☐ Je uložené schválení, datum revize a seznam otevřených rizik.

Na co navázat v další práci

Tento článek je pracovní základ. Pro podrobné rozhodování pokračujte v článcích Rizikové kategorie AI podle EU AI Actu, Zakázané praktiky AI, Vysoce rizikové systémy AI, Transparentnost, chatboty a deepfaky a Sankce a vymáhání AI Actu.

Potřebujete checklist převést do registru nástrojů, interních pravidel nebo webové integrace? Popište nám svůj projekt. Pomůžeme vám rozdělit práci na zvládnutelné kroky, propojit proces s technickým řešením a připravit dokumentaci, která bude odpovídat skutečnému provozu.

Zdroje a poznámka k aktuálnosti

Článek vychází z oficiálního přehledu AI Actu Evropské komise, pokynů Evropské komise k transparentnosti podle článku 50, nařízení (EU) 2024/1689 a nařízení (EU) 2026/1744, kterým byl AI Act upraven v rámci AI Omnibusu. Pro transparentní označování obsahu je užitečný také dobrovolný kodex k označování obsahu vytvořeného AI.

Právní předpisy, metodiky a výklady se vyvíjejí. Před nasazením systému s dopadem na základní práva, zaměstnání, vzdělávání, úvěry, veřejné služby nebo bezpečnost ověřte aktuální znění pravidel a zvažte individuální právní posouzení.