Označení vysoce rizikový systém AI zní přísně, ale neznamená automatický zákaz. AI Act tuto kategorii používá pro systémy, u kterých může způsob použití významně ovlivnit zdraví, bezpečnost nebo základní práva lidí. Typickým příkladem je systém, který pomáhá vybírat uchazeče o práci, posuzuje přístup k úvěru, rozhoduje o nároku na důležitou službu nebo funguje jako bezpečnostní součást zdravotnického či průmyslového zařízení.
Pro českou firmu je důležité pochopit dvě věci. Za prvé, klasifikace se odvíjí od konkrétního určeného účelu a kontextu, ne od toho, zda nástroj používá moderní model. Za druhé, povinnosti se dělí mezi provider, tedy poskytovatele nebo výrobce systému, a deployer, tedy subjekt, který systém pod svou odpovědností používá.
Krátká odpověď: nejprve popište účel a dopad systému. Poté ověřte, zda spadá do bezpečnostní části regulovaných výrobků, nebo do některé oblasti přílohy III. Pokud ano, nastavte dokumentaci, kvalitu dat, lidský dohled, logování, monitoring a postup pro incidenty ještě před ostrým použitím.Vysoce rizikový není totéž co zakázaný
AI Act pracuje s rizikovými úrovněmi. Zakázané praktiky jsou popsány zejména v článku 5 a jejich použití se nesmí provozovat. Vysoce rizikové systémy jsou naopak povolené, ale jen při splnění stanovených požadavků. Samostatnou oblastí jsou systémy s povinnostmi transparentnosti, například chatboty nebo některé generativní výstupy. Zbytek může být při běžném použití nízkorizikový.
KategorieCo znamenáTypický postup Zakázaná praktikaKonkrétní metoda nebo účel je nepřípustný.Zastavit a nepoužívat. Vysoké rizikoSystém může významně zasáhnout do bezpečnosti nebo základních práv.Splnit požadavky AI Actu a doložit řízení rizik. TransparentnostČlověk má vědět, že komunikuje s AI nebo že obsah vznikl či byl upraven AI.Nastavit oznámení, označení a informace. Minimální rizikoBěžné použití bez významného dopadu na práva nebo bezpečnost.Dobrá interní pravidla, bezpečnost a kontrola výstupů.Dvě cesty do kategorie vysokého rizika
Článek 6 AI Actu pracuje se dvěma hlavními cestami.
1. AI jako bezpečnostní součást regulovaného výrobku
První cesta se týká systému, který je sám výrobkem nebo bezpečnostní součástí výrobku pokrytého harmonizačními předpisy Unie uvedenými v příloze I. Může jít například o některé zdravotnické prostředky, stroje, zařízení v dopravě, letectví nebo jiné výrobky, kde software ovlivňuje bezpečnost.
U této cesty se klasifikace posuzuje společně se sektorovými pravidly. Dodavatel webové aplikace proto obvykle nebude v této kategorii jen proto, že používá AI. Jiná situace nastane, pokud dodává AI funkci, která je součástí regulovaného zdravotnického, průmyslového nebo dopravního výrobku.
2. AI používaná v citlivých oblastech přílohy III
Druhá cesta se týká konkrétních oblastí a účelů uvedených v příloze III. Patří sem biometrie, kritická infrastruktura, vzdělávání, zaměstnávání a řízení pracovníků, přístup k základním soukromým a veřejným službám, některé oblasti vymáhání práva, migrace a spravedlnost.
U systémů z přílohy III je potřeba zkoumat nejen název procesu, ale také to, zda systém skutečně provádí posouzení, rozhodnutí nebo přípravný úkol, který může materiálně ovlivnit výsledek. Profilování fyzických osob má v tomto posouzení zvláštní význam a může vést k vysokorizikové klasifikaci i tam, kde by firma systém popsala jen jako „doporučovací nástroj“.
Oblasti, které musí firma umět rozpoznat
Zaměstnání a řízení pracovníků
Sem mohou spadat systémy pro nábor a výběr uchazečů, hodnocení kandidátů, rozhodování o pracovním poměru, přidělování úkolů podle chování nebo monitorování a hodnocení výkonu. Nejde jen o automatické rozhodnutí. I systém, který připraví pořadí kandidátů nebo doporučí komu nedat pohovor, může materiálně ovlivnit výsledek.
Pro zaměstnavatele je důležitá návaznost na pracovní právo, GDPR, informování zaměstnanců a reálný lidský dohled. Člověk musí mít dostatek času, znalostí a pravomoci výsledek odmítnout. Pouhé formální kliknutí na „schválit doporučení AI“ lidský dohled nenahradí.
Vzdělávání a odborná příprava
Rizikové mohou být systémy, které určují přístup k přijímacímu řízení, hodnotí výsledky učení nebo ovlivňují vzdělávací cestu člověka. Běžný generátor procvičovacích úloh není automaticky vysoce rizikový. Rozhodující je, zda systém skutečně posuzuje nebo ovlivňuje přístup, hodnocení či zařazení studentů.
Základní soukromé a veřejné služby
Do této oblasti mohou patřit systémy pro posouzení nároku nebo bonity, přístup k úvěrům, pojištění, dávkám, zdravotní péči či důležitým službám. Banka nebo pojišťovna proto musí přesně vědět, zda AI pouze pomáhá s administrativou, nebo vytváří podklad, který vede k odmítnutí, ceně nebo omezení služby.
Kritická infrastruktura
Pokud AI ovlivňuje řízení nebo bezpečnost kritické infrastruktury, může být vysoce riziková. U malé firmy provozující běžný web se tato oblast typicky neuplatní. U dodavatele průmyslového monitoringu, energetiky, dopravy nebo řízení technických zařízení už ano.
Biometrie
Biometrické systémy patří mezi citlivou oblast. Je nutné odlišit identifikaci, verifikaci, kategorizaci a odhad charakteristik. Některé praktiky jsou zakázané, jiné mohou být vysoce rizikové a další mohou spadat pod transparentnost. Současně se uplatňuje GDPR, zejména pravidla pro zvláštní kategorie osobních údajů a posouzení dopadu.
Vymáhání práva, migrace a spravedlnost
Tyto případy se týkají především veřejných orgánů a jejich dodavatelů. Vývojář, který pro ně dodává analytickou nebo identifikační funkci, by neměl klasifikaci přenechat pouze marketingovému oddělení. Smlouva, určený účel a způsob nasazení musí odpovídat skutečné funkci systému.
Kdy výjimka z přílohy III pomůže a kdy ne
AI Act umožňuje u některých systémů z přílohy III uvažovat, že nejde o vysoké riziko, pokud systém nepředstavuje významné riziko újmy na zdraví, bezpečnosti nebo základních právech a materiálně neovlivňuje výsledek rozhodování. To ale není volná výjimka pro každou firmu, která systém nazve „pomocný“.
Výjimka se typicky může týkat například úzce vymezené administrativní funkce, zlepšení výsledku již dokončené lidské činnosti, detekce odchylek bez nahrazení lidského posouzení nebo přípravného úkolu, který sám neovlivní rozhodnutí. Pokud systém profiluje osoby nebo skutečně určuje pořadí, doporučení či odmítnutí, je argumentace výjimkou podstatně slabší.
Poskytovatel, který tvrdí, že systém z přílohy III není vysoce rizikový, musí své posouzení zdokumentovat před uvedením na trh nebo uvedením do provozu. Česká firma jako provozovatel by měla chtít toto posouzení vidět, ale neměla by se spokojit s jednou větou bez popisu účelu a dopadu.
Co musí zajistit poskytovatel
Poskytovatel vysoce rizikového systému odpovídá za jeho soulad v průběhu životního cyklu. Povinnosti obvykle zahrnují:
- systém řízení rizik pro identifikaci a omezení rizik po celou dobu používání,
- správu a kvalitu dat, aby trénovací, validační a testovací data byla relevantní, dostatečně reprezentativní a vhodná pro účel,
- technickou dokumentaci a záznamy umožňující kontrolu fungování a dohledatelnost,
- informace a návod k použití pro subjekt, který systém nasadí,
- lidský dohled, správnou míru přesnosti, robustnosti a kybernetické bezpečnosti,
- systém řízení kvality, posouzení shody, registraci a řešení závažných incidentů podle příslušného režimu.
Pokud firma vlastní systém dále významně upraví nebo změní jeho určený účel, může se dostat do role poskytovatele. To je důležitý bod při vývoji interního nástroje, fine-tuningu, rebrandingu nebo podstatné změně konfigurace systému od externího dodavatele.
Co musí zajistit provozovatel
Provozovatel je organizace, která systém používá pod svou odpovědností. Nejde jen o velké instituce. I soukromá firma může být provozovatelem, pokud používá vysokorizikový nástroj při náboru, rozhodování o službě nebo ve svém provozu.
- používat systém podle návodu a určeného účelu,
- zajistit kompetentní osobu pro lidský dohled a dát jí skutečné pravomoci,
- sledovat provoz, relevantní vstupní data, chyby, incidenty a odchylky,
- zajistit, že vstupní data jsou relevantní a dostatečně reprezentativní,
- uchovávat záznamy, pokud to povaha systému a nařízení vyžaduje,
- informovat pracovníky a jejich zástupce, pokud je systém nasazen na pracovišti,
- informovat dotčenou osobu, pokud systém rozhoduje nebo pomáhá rozhodovat o ní,
- při vážném riziku nebo incidentu přijmout nápravná opatření a spolupracovat s příslušnými orgány.
U veřejných subjektů, poskytovatelů veřejných služeb a některých oblastí úvěrů a pojištění může být před prvním použitím nutné také posouzení dopadu na základní práva. V praxi se může překrývat s posouzením vlivu na ochranu osobních údajů podle GDPR.
Praktický příklad: AI pro nábor
Firma používá nástroj, který zpracuje životopisy, vypočítá skóre vhodnosti a doporučí deset kandidátů k pohovoru.
- Účel: podpora výběru kandidátů na konkrétní pracovní místo.
- Dopad: kandidát mimo pořadí se nemusí dostat k lidskému posouzení.
- Data: CV, pracovní historie, vzdělání, případně odvozené charakteristiky.
- Riziko: diskriminační proxy znaky, historické zkreslení, netransparentní odmítnutí.
- Opatření: validace dat, testování skupin, lidský dohled, odůvodnění, možnost opravy a pravidelný audit.
Odpovědný recruiter nemá pouze převzít pořadí. Musí vědět, co skóre znamená, jaké má limity, kdy se nesmí použít a jak zaznamenat odchýlení od doporučení. Uchazeč musí být informován způsobem odpovídajícím konkrétnímu právnímu režimu.
Praktický příklad: úvěrové nebo pojistné posouzení
Finanční instituce nasadí model pro přípravu posouzení žádosti. Model nemusí sám vydávat finální rozhodnutí, ale jeho skóre zásadně ovlivňuje, zda pracovník žádost schválí.
Největší chybou by bylo tvrdit, že systém není rizikový jen proto, že poslední kliknutí provádí člověk. Je třeba ověřit materiální vliv na výsledek, vysvětlitelnost, zdroje dat, ochranu před diskriminací, lidský dohled, evidenci rozhodnutí a práva dotčené osoby. Kromě AI Actu se uplatní finanční regulace a GDPR.
Praktický příklad: administrativní pomocník ve škole
Škola používá AI k převodu odpovědí do strukturovaného přehledu. Pokud systém pouze zlepšuje čitelnost dokumentů, nejde automaticky o vysoké riziko. Pokud však na základě odpovědí doporučuje, kdo bude přijat, jakou skupinu student dostane nebo jaké hodnocení obdrží, mění se účel i dopad.
Stejný software může mít dvě různé klasifikace. Proto je důležité evidovat konkrétní konfiguraci, proces a odpovědnost, nikoliv jen název licence.
Datová a technická kontrola
Vysokorizikový systém není jen právní dokument. Musí fungovat spolehlivě v reálném provozu. Praktická kontrola by měla pokrýt:
- reprezentativnost dat pro skupiny, které systém ovlivní,
- chybovost a rozdíly v přesnosti mezi relevantními skupinami,
- chování při chybějícím, neúplném nebo neobvyklém vstupu,
- odolnost proti manipulaci, útoku a neautorizovanému přístupu,
- změny modelu, promptu, dat a napojených služeb,
- logy dostatečné k rekonstrukci rozhodnutí bez zbytečného shromažďování osobních údajů.
Testování jednou při nákupu nestačí. Model se může změnit, změnit se mohou i data, pracovní postup nebo skupiny osob. Nastavte pravidelnou revizi a jasný spouštěč mimořádného přezkoumání, například změnu účelu, závažný incident nebo výrazný pokles přesnosti.
Checklist před ostrým provozem
- Máme jednou větou popsaný určený účel a proces?
- Prověřili jsme obě cesty klasifikace podle článku 6 a příloh I a III?
- Víme, zda systém profiluje fyzické osoby nebo materiálně ovlivňuje rozhodnutí?
- Máme od dodavatele návod, technickou dokumentaci, omezení a informace o datech?
- Je popsána osoba pro lidský dohled a má možnost výstup odmítnout?
- Byla data otestována na relevanci, reprezentativnost, zkreslení a chybovost?
- Máme definované logování, monitoring, incidenty a návrat k ručnímu procesu?
- Je vyřešené GDPR, informační povinnost, právní titul a případné posouzení dopadu?
- Informovali jsme zaměstnance, jejich zástupce nebo dotčené osoby, pokud je to relevantní?
- Máme datum další revize a vlastníka systému?
Co dát do smlouvy s dodavatelem
Smlouva by neměla řešit jen cenu licence a dostupnost podpory. U citlivého systému si vyžádejte zejména:
- přesný určený účel a zakázané scénáře použití,
- oznámení změny modelu, dat, výkonu nebo podmínek služby,
- informace o logování, retenční době a mazání vstupů a výstupů,
- bezpečnostní opatření, subdodavatele a umístění zpracování,
- součinnost při auditu, incidentu, reklamaci nebo žádosti dotčené osoby,
- povinnost dodat opravu, aktualizaci nebo bezpečný fallback,
- právo ukončit používání při změně rizik nebo nedostatku dokumentace.
Minišablona evidence
Každý systém si můžete vést v jednoduchém registru. Minimální záznam obsahuje:
- Identifikace: název, verze, dodavatel, vlastník a datum nasazení.
- Účel: proces, dotčené osoby a konkrétní výstup.
- Klasifikace: zákaz, vysoké riziko, transparentnost nebo nízké riziko; včetně odůvodnění.
- Data: zdroje, kategorie, kvalita, reprezentativnost a retenční doba.
- Dohled: kdo kontroluje výstup, kdy jej musí odmítnout a jak se odchylka eviduje.
- Monitoring: přesnost, incidenty, stížnosti, změny a plán další revize.
Co může firma udělat tento týden
- Vypsat procesy v HR, prodeji, financích, zákaznické podpoře, bezpečnosti a provozu.
- Označit, kde AI ovlivňuje práci s lidmi, přístup ke službě nebo bezpečnost zařízení.
- U každého nástroje vyžádat určený účel, dokumentaci a případnou klasifikaci dodavatele.
- Najít místo, kde lidský pracovník jen formálně potvrzuje výstup, a ověřit jeho skutečné pravomoci.
- Spustit malý test dat a chybovosti před rozšířením systému na všechny uživatele.
- Zapsat rozhodnutí do registru AI systémů a nastavit termín další kontroly.
Nejčastější omyly
- „Rozhoduje člověk, takže je to nízké riziko.“ Lidský dohled musí být účinný a systém nesmí člověka jen tlačit k automatickému převzetí výsledku.
- „Používáme cloudový nástroj, za soulad odpovídá dodavatel.“ Dodavatel má své povinnosti, ale provozovatel odpovídá za použití pod vlastní kontrolou.
- „Model je obecný, proto se na něj příloha III nevztahuje.“ Rozhoduje skutečný účel a konfigurace, ve které je nasazen.
- „Stačí audit při nákupu.“ Systém se mění v čase a musí se monitorovat celý životní cyklus.
- „Vysoké riziko znamená zákaz.“ Znamená přísnější režim řízení, dokumentace a dohledu.
Jak navázat na další články série
Nejdříve si přečtěte úvod do AI Actu pro české firmy a praktický přehled rizikových kategorií AI. Pokud váš use case může patřit mezi zakázané praktiky, pomůže také článek Zakázané praktiky AI podle AI Actu. Pro konzultaci konkrétního procesu můžete využít kontaktní stránku.
Závěr
Vysoce rizikový systém AI není projekt, který se vyřeší výběrem „dobrého modelu“. Je to kombinace účelu, dat, technické kvality, lidského rozhodování, bezpečnosti, dokumentace a průběžné kontroly. Nejlepší první krok proto není nákup dalšího nástroje, ale zmapování procesu a dopadu na lidi.
Firma, která má registr AI systémů, jasného vlastníka, kvalitní vstupy, skutečný lidský dohled a postup pro incidenty, získá nejen lepší právní připravenost. Získá také předvídatelnější provoz a lepší možnost vysvětlit zákazníkovi, zaměstnanci nebo partnerovi, jak její automatizované rozhodování funguje.
Zdroje a právní poznámka
Článek vychází z nařízení Evropského parlamentu a Rady (EU) 2024/1689 (AI Act), zejména článků 6 až 15 a příloh I a III. Praktické vysvětlení povinností poskytovatelů a provozovatelů shrnuje FAQ Evropské komise Navigating the AI Act. Klasifikaci a příklady využití rozebírají také pokyny Evropské komise k vysoce rizikovým systémům AI. Pro související transparentnost jsou relevantní pokyny k povinnostem transparentnosti.
Aktualizováno 7. srpna 2026. Text je praktický orientační materiál, nikoliv právní stanovisko. Klasifikace závisí na konkrétním účelu, konfiguraci, datech a kontextu použití. U systémů v HR, financích, vzdělávání, zdravotnictví, biometrice nebo kritické infrastruktuře doporučujeme individuální právní a technické posouzení.