Zakázané praktiky AI podle EU AI Actu: praktický průvodce pro firmy

Ne každé problematické, nepřesné nebo neetické použití umělé inteligence je podle evropského nařízení o umělé inteligenci automaticky zakázané. AI Act ale stanovuje několik jasných hranic, za které se systém nesmí dostat. Tato pravidla jsou soustředěna především v článku 5 a týkají se praktik, u kterých je riziko zásahu do důstojnosti, bezpečnosti, rovného zacházení nebo svobodného rozhodování lidí příliš vysoké.

Pro firmu není nejdůležitější naučit se nazpaměť právní formulace. Potřebuje umět popsat, co její AI systém dělá, koho ovlivňuje, jaké vstupy používá a jaký konkrétní krok může následovat. Teprve z tohoto popisu lze spolehlivě zjistit, zda jde o zakázanou praktiku, vysoce rizikový systém, povinnost transparentnosti, nebo běžné použití s nízkým rizikem.

Krátká odpověď: zakázané není „používat AI“. Zakázané je používat určité metody a cíle, například manipulovat člověkem tak, aby mu vznikla významná újma, využívat jeho zranitelnost, vytvářet nepřípustné sociální skóre nebo v některých situacích rozpoznávat emoce a citlivé biometrické charakteristiky.

Co znamená „zakázaná praktika“

AI Act pracuje s konkrétními systémy a způsoby jejich použití. Proto nestačí podívat se pouze na název nástroje, modelu nebo dodavatele. Stejný model může být v jednom procesu běžným pomocníkem a v jiném procesu součástí nepřípustného rozhodování. Rozhoduje zejména:

• účel systému a to, k čemu jej firma skutečně používá,
• funkce a způsob působení, například personalizace, biometrická identifikace nebo predikce,
• kontext použití, tedy zda jde o e-shop, zaměstnání, školu, veřejný prostor nebo bezpečnost,
• dotčené osoby a jejich případná zranitelnost,
• dopad výstupu, včetně toho, zda může vést k významné újmě, vyloučení nebo omezení práv.

Jinými slovy: posuzujte konkrétní use case, nikoli jen značku nástroje. U dodavatele si proto vyžádejte popis určeného účelu, dokumentaci funkcí, zdroje dat, omezení a podmínky použití. Pokud dodavatel tvrdí pouze to, že „model je bezpečný“, není to dostatečný podklad pro interní posouzení.

1. Manipulativní, klamavé a subliminální techniky

AI systém nesmí používat subliminální techniky mimo vědomí člověka ani záměrně manipulativní nebo klamavé techniky, pokud jejich cílem nebo účinkem je podstatně narušit chování člověka a způsobit mu nebo jiné osobě významnou újmu.

Prakticky to není zákaz každé personalizace, reklamy nebo doporučení. E-shop může doporučovat produkty podle historie nákupu. Problém nastává tehdy, když systém využívá skryté nebo klamavé působení, oslabuje schopnost člověka učinit informované rozhodnutí a současně je zde předvídatelná významná újma. Posuzuje se tedy mechanismus, jeho záměr, reálný kontext a dopad.

Příklady, které je potřeba prověřit

• rozhraní, které schválně zatajuje cenu, podmínky nebo možnost odmítnutí, aby člověk pokračoval v nákupu,
• personalizované přesvědčování, které využívá známý strach nebo psychický stav člověka k jednání proti jeho zájmům,
• generování klamavých podnětů, které se tváří jako nestranná informace, ačkoliv jsou skrytě optimalizovány pro konkrétní škodlivé rozhodnutí.

Samotný „přesvědčivý text“ nebo personalizovaná nabídka ještě neznamená zákaz. Firma by však měla umět doložit, jaké signály systém používá, jak se měří dopad a jak uživatel nabídku odmítne. U dětských a zdravotních služeb je třeba být obzvlášť opatrný.

2. Využívání zranitelnosti člověka

Zakázané je také využívat konkrétní zranitelnost osoby nebo skupiny způsobenou věkem, zdravotním postižením nebo konkrétní sociální či ekonomickou situací. Musí přitom jít o významné narušení chování, které může způsobit významnou újmu.

Nejde o abstraktní tezi, že všichni zákazníci jsou zranitelní. Firma musí zkoumat, zda systém zranitelnost rozpoznává nebo využívá a zda je toto využití spojeno s konkrétním rozhodnutím. Například běžná sleva pro seniory není sama o sobě zakázanou AI praktikou. Jiná situace by byla, pokud by systém identifikoval osamělého seniora v tísni a cíleně mu nabízel nevýhodný produkt tak, aby neměl reálnou možnost volby.

Kontrolní otázky

• Jaké charakteristiky nebo signály systém používá k personalizaci?
• Umí systém rozpoznat děti, osoby se zdravotním omezením nebo finanční tíseň?
• Je výstup jen informativní, nebo vede přímo k nabídce, odmítnutí služby či jiné újmě?
• Má člověk srozumitelnou možnost nabídku odmítnout a získat stejnou službu jinou cestou?

3. Sociální skóre lidí

AI Act zakazuje systémy sociálního skóre, pokud vyhodnocují nebo klasifikují fyzické osoby či skupiny podle jejich sociálního chování, známých, odvozených nebo předpokládaných osobních či osobnostních charakteristik. Problémem je zejména použití nesouvisejících zdrojů, nepřiměřené časové prodlevy nebo prostředí, ve kterém má skóre za následek nepříznivé zacházení, jež není odůvodněné nebo přiměřené.

To není totéž jako každé skóre. Hodnocení obchodního rizika u konkrétní smlouvy, zákaznické hodnocení služby nebo věrnostní body nejsou automaticky sociálním skóre. Rozhodující je účel, rozsah vstupů, souvislost s rozhodnutím a následky.

Rozdíl mezi běžným skóre a sociálním skóre

SituaceCo je potřeba prověřitPrvní orientace Věrnostní body za nákupyJsou používány jen pro program a zákazník zná podmínky?Obvykle nejde o sociální skóre. Skóre platebního rizikaSouvisí vstupy se smlouvou a existuje právní základ?Není automaticky zakázané, ale může jít o citlivé automatizované rozhodování. Skóre „spolehlivosti člověka“ z chování na internetuJsou spojovány nesouvisející údaje a používá se skóre pro jiné služby?Výrazný signál k právnímu posouzení a často nepřípustný scénář.

4. Individuální prediktivní policejní práce pouze z profilování

AI Act zakazuje systémy, které hodnotí riziko, že konkrétní osoba spáchá trestný čin, pokud je toto hodnocení založeno výhradně na profilování nebo na posouzení osobnostních rysů. Pravidlo míří na předpověď kriminality z charakteristik člověka, nikoliv na každé použití analytického systému v bezpečnosti.

Pro běžnou firmu je důležité především rozpoznat hranici při vývoji bezpečnostního, pojišťovacího nebo monitorovacího produktu. Označení „prevence podvodu“ samo o sobě neřeší, zda systém ve skutečnosti profiluje osobu. Popište konkrétní signály, účel a rozhodnutí, které z výstupu plyne.

5. Neadresné stahování obličejových snímků

Zakázané je neadresné vytěžování obličejových snímků z internetu nebo ze záznamů kamerových systémů za účelem vytvoření nebo rozšíření databází rozpoznávání obličejů. Zákaz je důležitý i pro dodavatele dat a vývojáře, kteří sami nemusí provozovat finální aplikaci.

Rozdíl mezi neadresným scrapingem a cíleným, právně podloženým zpracováním je zásadní. Stažení tisíců veřejně dostupných fotografií z různých webů proto nelze obhájit jen tím, že byly technicky přístupné. Veřejnost obsahu neznamená automaticky souhlas s použitím pro biometrickou databázi.

6. Rozpoznávání emocí na pracovišti a ve vzdělávání

Systémy pro odvozování emocí fyzických osob na pracovišti a ve vzdělávacích institucích jsou podle AI Actu zakázané, s úzkými výjimkami pro zdravotní nebo bezpečnostní důvody. Týká se to například nástrojů, které z obličeje, hlasu, psaní nebo jiných signálů odvozují stres, motivaci, spokojenost, strach či únavu a tento odhad používají ve vztahu k zaměstnanci nebo studentovi.

Marketingové tvrzení „měříme zapojení týmu“ není právní výjimka. Pokud systém ve skutečnosti odhaduje emoční stav jednotlivců a výsledek se používá pro hodnocení, plánování směn, odměny, kázeňské kroky nebo školní hodnocení, musí být situace zastavena a prověřena. Ani vysoká přesnost dodavatele sama o sobě neřeší, zda je použití přípustné.

Výjimku je nutné chápat úzce. Příkladem může být nástroj využitý pro zdravotní posouzení nebo bezprostřední bezpečnost, pokud pro něj existuje odpovídající účel a ochranná opatření. Běžná kontrola produktivity, nábor nebo „měření nálady“ týmu do této výjimky nespadá.

7. Biometrická kategorizace citlivých charakteristik

Zakázané je používat biometrické systémy ke kategorizaci osob podle rasy, politických názorů, členství v odborech, náboženského nebo filozofického přesvědčení, sexuálního života nebo sexuální orientace. Tato hranice se týká odvozování těchto charakteristik z biometrických údajů.

Důležitá nuance: AI Act rozlišuje samotnou citlivou biometrickou kategorizaci a přípustné použití biometrie pro technické označování nebo filtrování dat, například při přípravě datasetu. To však neznamená, že příprava dat je bez dalších povinností. Pořád se mohou uplatnit GDPR, pravidla ochrany autorských práv, zásady minimalizace a požadavky na bezpečnost.

8. Real-time vzdálená biometrická identifikace ve veřejném prostoru

AI Act zakazuje použití real-time vzdálené biometrické identifikace fyzických osob ve veřejně přístupných prostorech pro účely vymáhání práva, s úzce vymezenými výjimkami a podmínkami. Jde o oblast primárně určenou orgánům veřejné moci, ale dotýká se také soukromých dodavatelů kamer, analytiky a integrací.

Firma proto nemůže vyřešit problém tím, že technologii označí za „bezpečnostní kameru“. Je třeba odlišit běžné zaznamenání obrazu, následnou cílenou identifikaci a okamžité rozpoznávání osob v prostoru. Každý z těchto scénářů má jiný právní a technický profil.

9. Nástroje pro vytváření intimního obsahu bez souhlasu a materiálů sexuálního zneužívání dětí

Aktuální rámec AI Actu zahrnuje také zákaz systémů určených k nevyžádanému vytváření sexuálně explicitního nebo intimního obsahu osoby a systémů určených k vytváření materiálů sexuálního zneužívání dětí. V praxi se často mluví o „nudification“ aplikacích. Nejde o běžný deepfake nebo o každý syntetický obrázek; rozhodující je účel systému a zásah do konkrétních osob.

U tohoto tématu je nutné postupovat obzvlášť opatrně. Kromě AI Actu se mohou uplatnit trestní předpisy, ochrana osobnosti, GDPR, pravidla pro platformy a další právní normy. Firma, která provozuje generativní službu, musí mít jasné zásady zakázaného obsahu, účinné filtry, možnost hlášení, proces pro rychlé odstranění a postup pro uchování důkazů a oznámení incidentu.

Co zakázané není automaticky

Praktické chyby vznikají často tím, že se vše označí za zákaz nebo naopak za „jen nástroj“. Několik příkladů:

• Chatbot na webu: obvykle není zakázaný, ale může mít povinnost transparentnosti a firma musí řešit bezpečnost, ochranu dat a správnost odpovědí.
• Deepfake: není automaticky zakázaný, ale může vyžadovat označení umělého obsahu a může porušovat osobnostní, autorská nebo trestní pravidla.
• Personalizace e-shopu: běžně není zakázaná, pokud nesměřuje k manipulaci nebo zneužití zranitelnosti a firma dodrží pravidla ochrany osobních údajů.
• Docházková biometrie: není automaticky stejná jako biometrická kategorizace citlivých vlastností. Jde však o biometrické údaje a vyžaduje samostatné posouzení GDPR, pracovního práva a případné klasifikace podle AI Actu.
• Hodnocení produktu zákazníky: není sociální skóre člověka. Jinak se posuzuje systém, který z různých zdrojů sestaví obecný index „důvěryhodnosti“ a podle něj člověka vyloučí z nesouvisející služby.

Praktický postup pro českou firmu

Pro první posouzení nepotřebujete dvacetistránkový dokument. Potřebujete opakovatelný postup, který zanechá stopu v evidenci. Každý AI use case popište podle těchto bodů:

1. Účel: Jednou větou napište, jaký problém systém řeší a čeho má dosáhnout.
2. Funkce: Určete, zda generuje obsah, doporučuje, klasifikuje, identifikuje, predikuje nebo rozhoduje.
3. Dotčené osoby: Uveďte zákazníky, zaměstnance, uchazeče, děti, studenty nebo veřejnost.
4. Vstupy: Sepište zdroje dat, včetně biometrie, chování, zdravotních údajů a odvozených profilů.
5. Výstup a akce: Popište, kdo výstup uvidí a co se kvůli němu stane.
6. Dopad: Zeptejte se, zda může být člověk vyloučen, znevýhodněn, zmanipulován nebo vystaven významné újmě.
7. Dodavatel: Vyžádejte si určený účel, dokumentaci, omezení, logování, informace o datech a možnost auditu.
8. Rozhodnutí: Výsledek uložte jako „zastavit“, „právně a technicky prověřit“, nebo „lze pokračovat s opatřeními“.

Rozhodovací matice

Výsledek prvního prověřeníCo udělatDoklad Výrazný signál zakázané praktikyPozastavit nákup, pilot i produkční provoz. Eskalovat odpovědné osobě a právníkovi.Popis use case, důvod zastavení, komunikace s dodavatelem. Nejasný účel nebo neúplná dokumentaceNepouštět systém do ostrého provozu. Vyžádat podklady a udělat test konkrétního scénáře.Dodavatelský dotazník, testovací protokol, rozhodnutí. Nejde o zákaz, ale dotýká se lidí nebo biometriePrověřit klasifikaci, GDPR, transparentnost, bezpečnost, lidský dohled a řízení incidentů.Registr AI systémů, posouzení dopadů, smlouva a opatření. Nízké riziko a jasný účelNastavit základní pravidla použití, kontrolu výstupů a pravidelnou revizi.Krátký záznam o použití a interní pravidla.

Otázky pro dodavatele

Před nákupem AI nástroje si vyžádejte odpovědi alespoň na tyto otázky:

• Jaký je určený účel systému a jaké použití dodavatel výslovně zakazuje?
• Provádí systém profilování, biometrickou identifikaci, kategorizaci nebo odhad emocí?
• Jaké vstupy používá a kde se zpracovávají? Ukládá dodavatel prompty, obrázky nebo osobní údaje?
• Jak se brání manipulativnímu, sexuálně explicitnímu nebo jinak zakázanému obsahu?
• Jak se logují výstupy, chyby, zásahy moderace a incidenty?
• Jak dodavatel oznamuje změny modelu, účelu nebo podmínek služby?
• Jak lze data exportovat, odstranit a doložit splnění povinností?

Pokud dodavatel na tyto otázky odpoví pouze marketingovým tvrzením bez dokumentace, berte to jako riziko dodavatelského řetězce. U kritických scénářů je vhodné mít smluvní povinnost spolupráce, bezpečnostní kontakty, lhůty pro incidenty a možnost ukončit používání při změně rizik.

Minišablona interního záznamu

Pro menší firmu může první verze evidence vypadat takto:

• Název systému a vlastník: kdo jej používá a kdo za něj odpovídá.
• Účel a proces: kde přesně je AI zapojená.
• Dotčené osoby a data: koho se týká a jaká data vstupují.
• Výstup a rozhodnutí: co výstup způsobí, kdo jej kontroluje.
• Zakázané praktiky: které body článku 5 byly prověřeny a s jakým výsledkem.
• Další režim: vysoké riziko, transparentnost, běžné použití nebo zastavení.
• Opatření a datum revize: lidský dohled, testy, logy, školení, další kontrola.

Co může firma udělat tento týden

1. Sepsat všechny AI nástroje v marketingu, obchodu, HR, zákaznické podpoře a vývoji.
2. U každého doplnit účel, vstupy, výstupy, dotčené osoby a dodavatele.
3. Označit použití biometrie, profilování, emocí, citlivých charakteristik a automatického odmítnutí.
4. Okamžitě pozastavit scénáře, které připomínají manipulaci, zneužití zranitelnosti, sociální skóre nebo zakázané rozpoznávání.
5. Vyžádat si od dodavatelů dokumentaci a vytvořit jednoduchý schvalovací proces pro nové nástroje.
6. Seznámit zaměstnance s tím, že bezpečné používání AI není jen otázka správného promptu, ale také účelu, dat a dopadu.

Nejčastější chyby

• Posuzování podle názvu produktu: „AI asistent“ může být jen textový nástroj, ale také může v konkrétní konfiguraci profilovat lidi.
• Spoléhání na veřejnost dat: dostupná fotografie není automaticky volným zdrojem pro biometrickou databázi.
• Záměna přesnosti za přípustnost: i přesný odhad emocí může být v určitém kontextu zakázaný.
• Chybějící vlastník: bez odpovědné osoby se změny nástroje a incidenty ztratí mezi IT, marketingem a dodavatelem.
• Jednorázová kontrola: změna modelu, promptu nebo účelu může změnit klasifikaci systému.

Jak navázat na další povinnosti

Pokud use case není zakázaný, práce nekončí. Dalším krokem může být klasifikace vysoce rizikového systému, pravidla transparentnosti, řízení dat, bezpečnost, lidský dohled, dokumentace nebo ochrana osobních údajů. AI Act je třeba číst společně s GDPR a dalšími pravidly podle konkrétního procesu.

Podrobnější přehled rizikových kategorií najdete v článku Rizikové kategorie AI podle EU AI Actu. Základní kontext celého nařízení shrnuje také úvod do EU AI Actu pro české firmy. Pokud chcete projít konkrétní firemní proces, můžete nám popsat svůj projekt.

Závěr

Zakázané praktiky AI představují nejtvrdší hranici AI Actu. Nejde o zákaz běžných chatbotů, automatizace ani generativních nástrojů. Jde o konkrétní metody a kontexty, ve kterých by AI nepřiměřeně zasahovala do rozhodování lidí, využívala jejich zranitelnost, vytvářela nepřijatelné profily nebo pracovala s biometrickými a emočními signály způsobem, který právní rámec nepřipouští.

Nejspolehlivější obranou je přesný popis účelu a pravidelná evidence. Když firma ví, co systém dělá, koho ovlivňuje a co se stane po jeho výstupu, dokáže včas zastavit zakázaný scénář a u ostatních použití nastavit přiměřená opatření.

Zdroje a právní poznámka

Článek vychází z aktuálního znění nařízení Evropského parlamentu a Rady (EU) 2024/1689 (AI Act), zejména článku 5, a z vysvětlení Evropské komise v materiálech Navigating the AI Act, Guidelines on prohibited AI practices a AI Omnibus enters into force. Pro širší kontext pravidel a jejich revize je užitečný také report on the review of prohibitions and high-risk AI.

Aktualizováno 7. srpna 2026. Tento text je praktický orientační materiál, nikoliv právní stanovisko. Konkrétní klasifikace závisí na účelu, konfiguraci, datech a kontextu použití systému. U citlivých, zaměstnaneckých, biometrických nebo bezpečnostních scénářů doporučujeme individuální právní posouzení.