Jedna z prvních otázek, které si má firma položit při používání umělé inteligence, zní: jak rizikové je naše konkrétní použití AI? Nestačí znát název nástroje ani značku modelu. Stejný model může být použitý pro opravu pravopisu, zákaznického chatbota nebo automatické hodnocení uchazečů. Každý z těchto scénářů má jiný účel, dopad a právní kontext.
EU AI Act proto používá rizikově orientovaný přístup. V praxi rozlišuje zakázané praktiky, vysoce rizikové systémy, některé systémy s povinností transparentnosti a běžná použití s minimálním nebo žádným specifickým rizikem. Evropská komise zdůrazňuje, že klasifikace se odvíjí od zamýšleného účelu, funkce a způsobu nasazení, nikoli pouze od marketingového označení nástroje.
Tento článek je prvním praktickým dílem série o EU AI Actu. Má pomoci malé a střední firmě udělat předběžnou orientaci, vytvořit si základní evidenci a poznat situace, kdy už je potřeba právní nebo technické posouzení. Nejde o právní stanovisko. U systémů, které rozhodují o zaměstnání, úvěru, vzdělávání, zdravotní péči, bezpečnosti nebo přístupu ke službě, je nutné ověřit konkrétní použití podle aktuálního práva.
Čtyři kategorie jako první mapa
Pro praktickou orientaci si můžete AI rozdělit do čtyř skupin:
- Zakázané praktiky: použití, která AI Act považuje za nepřijatelná a která se nesmí uvádět na trh, do provozu nebo používat podle příslušných zákazů.
- Vysoce rizikové systémy: použití s možným nepříznivým dopadem na bezpečnost nebo základní práva, na která se vztahují přísné požadavky.
- Transparentnost: systémy, u nichž musí člověk vědět, že komunikuje s AI nebo že je vystaven určitým AI vytvořeným či upraveným výstupům.
- Minimální nebo žádné specifické riziko: většina běžných použití, na která AI Act nepřidává rozsáhlé speciální povinnosti, ale stále se na ně vztahují jiné předpisy.
Toto rozdělení je užitečná mapa, ne automatický právní verdikt. Nejprve musíte popsat systém, jeho účel, uživatele, vstupní data, výstup a dopad. Teprve potom má smysl rozhodovat, do které kategorie patří.
Nejdříve popište skutečné použití
Než otevřete seznam kategorií, vyplňte krátký popis systému. Nepište pouze „AI chatbot“ nebo „AI nástroj pro HR“. Použijte větu, která zachytí celý proces:
Systém přijímá [jaká data], zpracuje je pomocí [jaké funkce] a poskytne [jaký výstup], který použije [kdo] pro [jaké rozhodnutí nebo úkol].
Příklad pro interní texty: Nástroj přijímá návrh článku, navrhuje jazykové úpravy a výsledek kontroluje editor před publikací.
Příklad pro nábor: Systém přijímá životopisy, porovnává je s profilem pozice a seřadí kandidáty pro personalistu, který podle doporučení rozhoduje o pozvání.
Rozdíl mezi těmito větami je zásadní. První systém pomáhá upravit text. Druhý ovlivňuje přístup člověka k zaměstnání a vyžaduje mnohem podrobnější posouzení.
První otázka: není použití zakázané?
U zakázaných praktik se neřeší, zda je systém přesný nebo jestli má firma dobrý úmysl. Pokud naplňuje zákaz podle AI Actu, nesmí se takto používat. Evropská komise vydala k zakázaným praktikám samostatné pokyny s právním vysvětlením a praktickými příklady. Pokyny nejsou závazným výkladem Soudního dvora EU, ale pomáhají s jednotnou orientací.
Manipulace a subliminální techniky
Rizikové není každé přesvědčování ani každá personalizovaná reklama. Problémem jsou praktiky, které používají manipulativní, klamavé nebo subliminální techniky a významně narušují schopnost člověka učinit informované rozhodnutí tak, že může vzniknout významná újma.
Praktická otázka pro firmu: ví návštěvník, proč mu systém něco doporučuje, a má reálnou možnost se rozhodnout jinak? Pokud AI využívá skrytou slabinu člověka a tlačí jej k rozhodnutí s rizikem podstatné újmy, nestačí říct, že jde o marketingovou personalizaci.
Zneužití zranitelnosti
AI Act řeší také cílené využívání zranitelnosti osob nebo skupin kvůli věku, zdravotnímu postižení nebo sociální či ekonomické situaci. Příkladem k posouzení by byl systém, který identifikuje finančně ohrožené osoby a následně je agresivně vede k rizikovému produktu.
Sociální scoring
Zakázané sociální skórování není totéž co každý bodový systém. E-shop může mít hodnocení objednávek nebo věrnostní body. Problémem je širší hodnocení člověka podle jeho chování, osobnostních znaků nebo domnělých vlastností, které se používá v jiném kontextu a vede k nespravedlivému nebo nepřiměřenému znevýhodnění.
Prediktivní policejní profilování
AI nesmí předvídat, že konkrétní člověk spáchá trestný čin, pouze na základě profilování nebo osobnostních charakteristik. Tato oblast se týká především orgánů veřejné moci, ale je užitečné ji znát při vývoji bezpečnostních nebo analytických nástrojů pro veřejný sektor.
Necílené databáze obličejů
Zakázané může být necílené stahování obličejových obrazů z internetu nebo kamerových systémů za účelem vytvoření či rozšíření databáze rozpoznávání obličejů. To je něco jiného než běžné uložení profilové fotografie se souhlasem v konkrétní službě, ale i tam je potřeba řešit GDPR a další právní základy.
Emoce a citlivé vlastnosti
Rozpoznávání emocí na pracovišti a ve vzdělávání je zásadně omezené s výjimkami pro některé zdravotní nebo bezpečnostní účely. Zakázané jsou také určité formy biometrické kategorizace, které z biometrických údajů odvozují například politické názory, náboženské přesvědčení, členství v odborech, sexuální orientaci nebo rasový či etnický původ.
Biometrická identifikace v reálném čase
Vzdálená biometrická identifikace na veřejně přístupných místech pro účely vymáhání práva je zásadně omezená a může být přípustná pouze v úzce vymezených situacích. U soukromé firmy nejde o funkci, kterou by bylo možné nasadit běžným marketingovým nebo bezpečnostním rozhodnutím.
Praktický test zakázané praktiky
Odpovězte si písemně:
- Manipuluje systém člověkem skrytě nebo klamavě?
- Využívá věk, zdravotní stav nebo ekonomickou zranitelnost?
- Vytváří obecné skóre člověka pro použití mimo původní kontext?
- Odvozuje citlivé vlastnosti z biometrických údajů?
- Rozpoznává emoce na pracovišti nebo ve škole?
- Vytváří databázi obličejů necíleným stahováním obrazů?
- Rozhoduje o trestné činnosti pouze podle profilu člověka?
Pokud je odpověď na některou otázku ano nebo si nejste jistí, použití nezavádějte do provozu bez odborného posouzení. U zákazu nestačí funkci schovat do menšího modulu nebo přejmenovat její účel.
Druhá otázka: jedná se o vysoce rizikový systém?
Vysoce rizikové systémy jsou povolené, ale mají přísný režim. AI Act je určuje dvěma hlavními cestami:
- AI systém je bezpečnostní součástí produktu nebo sám tvoří produkt pokrytý harmonizačními předpisy EU uvedenými v příslušné příloze.
- AI systém je určen k použití v konkrétní citlivé oblasti a scénáři uvedeném v příloze III AI Actu.
Evropská komise ve svých materiálech uvádí, že se posuzuje zamýšlený účel, funkce a konkrétní způsob použití. Ne každý systém použitý ve zdravotnictví, HR nebo vzdělávání je automaticky vysoce rizikový. Rozhoduje, co přesně dělá a zda odpovídá vymezenému případu.
Zaměstnávání a řízení pracovníků
Sem mohou patřit systémy pro cílenou distribuci pracovních nabídek, analýzu a filtrování žádostí, hodnocení kandidátů, rozhodování o povýšení nebo ukončení pracovního vztahu, přidělování úkolů a hodnocení výkonu.
Naopak nástroj, který pouze opraví gramatiku pracovního inzerátu a nerozhoduje o lidech, má jiný charakter. Stejně tak interní nástroj pro sumarizaci anonymizovaných zápisů nemusí být vysoce rizikový, ale je potřeba ověřit data a účel.
Vzdělávání a odborná příprava
Vysoce rizikové mohou být systémy pro přijímání ke vzdělávání, hodnocení výsledků, určování vzdělávací dráhy nebo sledování podvádění při testech. Systém pro návrh cvičení učiteli může být méně rizikový, pokud nerozhoduje o přístupu ke vzdělávání ani nehodnotí žáka bez odpovídající kontroly.
Přístup k základním službám, úvěrům a pojištění
AI pro posuzování úvěruschopnosti fyzické osoby, některé služby a dávky nebo hodnocení rizika a ceny životního či zdravotního pojištění patří mezi citlivé oblasti. U finančních produktů je nutné řešit také další sektorová pravidla a ochranu osobních údajů.
Kritická infrastruktura a bezpečnostní součásti
AI může být vysoce riziková, pokud funguje jako bezpečnostní součást kritické infrastruktury, například v dopravě nebo v dodávkách vody, plynu, tepla či elektřiny. Podobně se posuzuje AI integrovaná do některých regulovaných výrobků, zdravotnických zařízení, strojů, dronů nebo robotů.
Policie, migrace, hranice a justice
V těchto oblastech AI Act pracuje s konkrétními citlivými případy, například s hodnocením důkazů, posuzováním rizik, migrací, azylem, vstupem na území nebo podporou soudního rozhodování. Některá použití mohou být zakázaná, jiná vysoce riziková.
Biometrika
Biometrická identifikace, kategorizace a emoční rozpoznávání mohou spadat do vysokého rizika, pokud nejsou zakázané. Před nasazením je nutné přesně určit, co systém z biometrie odvozuje, proč to dělá, kdo je zasažený a jaké existují výjimky.
Co znamená vysoké riziko v praxi
Vysoce riziková klasifikace neznamená jen přidat upozornění do rozhraní. Poskytovatel musí podle konkrétního systému řešit například řízení rizik, kvalitu dat, technickou dokumentaci, logování, transparentní informace pro provozovatele, lidský dohled, přesnost, robustnost a kybernetickou bezpečnost.
Provozovatel musí systém používat podle návodu, zajistit dohled, kontrolovat vstupní data, sledovat provoz a reagovat na incidenty. Pokud AI rozhoduje nebo pomáhá rozhodovat o fyzické osobě, mohou vzniknout také povinnosti informovat dotčené osoby a řešit dopad na základní práva.
Třetí otázka: má systém povinnost transparentnosti?
Některé AI nejsou zakázané ani vysoce rizikové, ale člověk musí vědět, že komunikuje se systémem nebo že vidí určitý syntetický obsah. Článek 50 AI Actu se významně uplatňuje od 2. srpna 2026.
Chatbot a přímá interakce
Poskytovatel má systém navrhnout tak, aby člověk věděl, že komunikuje s AI, pokud to není z okolností zřejmé. Na webu proto nestačí, že chatbot vypadá „roboticky“. Přidejte jasné oznámení a vysvětlete, jak se řeší nejistota nebo předání člověku.
Deepfake a syntetický obsah
U deepfake obrazu, zvuku nebo videa, který může působit jako autentický, se řeší viditelné označení. U generativních systémů se řeší také strojově čitelné označení původu obsahu. Evropská komise zveřejnila v roce 2026 pokyny a dobrovolný Code of Practice pro označování AI obsahu.
Text ve veřejném zájmu
AI text publikovaný s cílem informovat veřejnost o záležitostech veřejného zájmu může vyžadovat označení, pokud neprošel lidskou kontrolou a redakční odpovědností v podobě předpokládané pravidly. Běžné jazykové úpravy nebo pomoc s osnovou nejsou samy o sobě totéž jako plně automatizovaná publikace.
Emoce a biometrická kategorizace
Pokud je takový systém použit v přípustném kontextu, dotčené osoby mají být informovány, že jsou mu vystaveny. Zákaz nebo vysoké riziko se posuzují ještě před otázkou transparentnosti.
Čtvrtá otázka: jde o běžné použití s minimálním rizikem?
Evropská komise uvádí, že většina AI systémů v EU spadá do kategorie minimálního nebo žádného specifického rizika. Patří sem například AI ve videohrách, spamové filtry, překlady, oprava pravopisu, interní sumarizace a pomoc s návrhem textu.
To ale neznamená, že firma může ignorovat všechny ostatní povinnosti. I běžný AI nástroj může zpracovávat osobní údaje, porušit obchodní tajemství, vytvořit nepravdivý reklamní slib, použít chráněný obsah nebo vložit zranitelnost do kódu. AI Act je pouze jedna část právního a bezpečnostního rámce.
Rozhodovací postup pro firmu
Pro předběžné zařazení nástroje použijte tento postup:
- Popište účel: co systém dělá a proč ho používáte?
- Popište uživatele: kdo zadává vstup a kdo vidí výstup?
- Popište data: obsahují osobní, citlivé, důvěrné nebo veřejné informace?
- Popište výstup: je to návrh, doporučení, klasifikace, skóre nebo rozhodnutí?
- Popište dopad: může výstup ovlivnit práva, zaměstnání, vzdělání, finance, zdraví nebo bezpečnost?
- Prověřte zákaz: nespadá použití mezi zakázané praktiky?
- Prověřte vysoké riziko: odpovídá účel některé oblasti v příloze III nebo regulovanému produktu?
- Prověřte transparentnost: komunikuje AI přímo s člověkem nebo generuje realistický obsah?
- Určete roli: jste poskytovatel, provozovatel, dovozce, distributor nebo pouze interní uživatel?
- Zapište závěr a nejistoty: uveďte, kdo klasifikaci provedl a kdy se má znovu přezkoumat.
Tento postup není náhradou oficiálního právního posouzení. Je to filtr, který má zabránit tomu, aby firma začala citlivý systém provozovat bez popisu účelu a odpovědnosti.
Modelový příklad: interní pomocník pro články
Firma používá AI k návrhu osnovy, jazykové korektuře a návrhu titulků. Výstup vždy kontroluje editor a do nástroje nevkládá osobní údaje klientů ani neveřejné smlouvy.
Předběžný závěr: pravděpodobně minimální specifické riziko podle AI Actu. Firma ale řeší autorská práva, ochranu dat, přesnost a redakční odpovědnost. Pokud z textu vzniká publikace o veřejném zájmu a je plně generovaná bez lidské kontroly, je nutné zvlášť posoudit transparentnost podle článku 50.
Modelový příklad: chatbot na webu
Chatbot odpovídá na otázky o službách, cenách a otevírací době. Ukládá konverzaci a v případě nejistoty nabídne kontakt na pracovníka.
Předběžný závěr: obvykle nejde o vysoce rizikovou AI, ale vzniká povinnost transparentně informovat o AI interakci. Firma dále řeší GDPR, dobu uchování konverzací, přístup pracovníků, prompt injection, správnost odpovědí a proces eskalace.
Modelový příklad: AI pro nábor
Systém načítá životopisy, přiděluje kandidátům skóre a personalista zve na pohovor pouze uchazeče nad určitou hranicí.
Předběžný závěr: použití může spadat mezi vysoce rizikové systémy v oblasti zaměstnávání. Je nutné řešit data, diskriminační dopady, dokumentaci, logování, lidský dohled, informování kandidátů a souběh s GDPR a pracovním právem. Není dostačující říct, že konečné rozhodnutí formálně potvrzuje člověk, pokud člověk výstup pouze automaticky přebírá.
Modelový příklad: doporučování produktů
E-shop používá AI k doporučení podobných produktů podle aktuálního zobrazení a obsahu košíku. Nepracuje s citlivými údaji a zákazník může doporučení ignorovat.
Předběžný závěr: obvykle půjde o nízké specifické riziko. Firma ale musí ověřit pravidla ochrany osobních údajů, cookies, spotřebitelskou transparentnost, přesnost vlastností produktu a to, zda doporučení nejsou klamavá nebo diskriminační.
Praktická evidence AI nástroje
Pro každý nástroj vytvořte minimálně tento záznam:
- název a dodavatel,
- verze nebo používaný model, pokud je dostupný,
- účel a konkrétní workflow,
- role firmy podle AI Actu,
- typ vstupních a výstupních dat,
- skupiny lidí, které může výstup ovlivnit,
- předběžná riziková kategorie,
- lidská kontrola a odpovědná osoba,
- pravidla uchování a mazání dat,
- poslední datum kontroly a další termín revize.
Evidence není samoúčelná. Pomůže při nákupu nového nástroje, při školení zaměstnanců, při řešení incidentu i při vysvětlování klientovi, jak je AI v projektu použita.
Checklist pro první interní audit
- Máme seznam všech AI nástrojů používaných ve firmě?
- Víme, kdo je za každý nástroj odpovědný?
- Umíme jednou větou popsat účel a výstup?
- Víme, jaká data do nástroje posíláme?
- Obsahují vstupy osobní nebo citlivé údaje?
- Ovlivňuje výstup práva nebo významné příležitosti člověka?
- Prověřili jsme, zda nejde o zakázanou praktiku?
- Prověřili jsme případy vysokého rizika?
- Musíme uživatele informovat o AI interakci nebo AI obsahu?
- Je jasné, kdo kontroluje výstup před použitím?
- Máme postup pro chybu, incident a odvolání rozhodnutí?
- Je datum další revize klasifikace?
Časté chyby při klasifikaci
„Používáme ChatGPT, takže máme stejné povinnosti jako OpenAI“
Ne nutně. Je potřeba rozlišit poskytovatele modelu, poskytovatele vlastní aplikace a provozovatele, který systém používá. Role se mohou měnit podle toho, co firma dodává a pod jakým jménem.
„AI ve zdravotnictví je vždy vysoce riziková“
Rozhoduje konkrétní účel. Nástroj pro administrativní přepis může být jiný případ než systém posuzující vhodnost léčby. Ani opačný závěr ale nejde udělat bez popisu funkce, dat a dopadu.
„Když rozhodnutí potvrzuje člověk, riziko zmizí“
Lidský dohled musí být skutečný. Člověk musí rozumět omezením systému a mít možnost výsledek zpochybnit. Formální kliknutí na tlačítko bez času, informací nebo pravomoci není kvalitní dohled.
„Transparentnost znamená jen přidat malou poznámku do patičky“
Informace má být dostupná v okamžiku, kdy člověk s AI interaguje nebo vidí relevantní syntetický obsah. Přesné provedení závisí na konkrétní povinnosti a pokynech Komise.
Co udělat tento týden
- Vyberte pět nejčastěji používaných AI nástrojů.
- Ke každému napište účel, uživatele, data a výstup.
- Označte, zda výstup ovlivňuje jiného člověka.
- Prověřte, zda nástroj komunikuje přímo s veřejností.
- Určete odpovědnou osobu a datum revize.
- U nejasného nebo citlivého použití zastavte ostré nasazení a objednejte odborné posouzení.
Závěr
Riziková klasifikace AI nezačíná tabulkou kategorií, ale přesným popisem skutečného použití. Stejný model může být v jednom procesu běžným pomocníkem a v jiném citlivým systémem s přísnými požadavky. Proto si nejprve zapište účel, data, uživatele, výstup a dopad.
Pokud systém zasahuje do zaměstnání, vzdělávání, úvěrů, zdraví, biometriky, bezpečnosti nebo veřejných služeb, nepovažujte tento článek za dostatečný podklad pro spuštění. Vytvořte evidenci, zapojte odpovědnou osobu a vyhledejte právní a technické posouzení.
Potřebujete projít AI nástroje nebo připravit bezpečné AI řešení pro web či firemní systém? Popište nám svůj projekt. Projdeme účel, data, role, rizika a potřebnou lidskou kontrolu. Navázat můžete také na úvodní průvodce EU AI Actem a naše služby.
Ověřené zdroje
- EUR-Lex: Nařízení (EU) 2024/1689 – právní text AI Actu, zejména články 5, 6 a 50 a přílohy.
- Evropská komise: Navigating the AI Act – přehled rizikových kategorií, vysokého rizika, GPAI a výjimek.
- Evropská komise: Guidelines on prohibited AI practices – právní vysvětlení a praktické příklady zakázaných praktik.
- Evropská komise: pokyny ke klasifikaci vysoce rizikové AI – praktické příklady pro posouzení účelu a příslušných oblastí.
- Evropská komise: pokyny k transparentnosti AI obsahu – článek 50, chatboty, deepfaky a AI text ve veřejném zájmu.
- Evropská komise: AI Omnibus enters into force – aktuální změny harmonogramu a implementace.
Článek byl připraven podle oficiálních zdrojů dostupných k 7. srpnu 2026. Pokyny Evropské komise mohou být nezávazné a výklad konkrétní situace závisí na skutečném účelu, datech, roli subjektu a způsobu nasazení. Článek nenahrazuje právní poradenství.