Aktualizováno 9. srpna 2026. AI se v e-shopech používá dříve, než si firma uvědomí, že nějaký systém vůbec nasadila. Je v produktovém vyhledávání, doporučených produktech, zákaznickém chatu, generování popisů, překladu, detekci podvodných objednávek, odhadu zásob i automatických e-mailech. Někdy je součástí platformy nebo marketingového nástroje a není vidět jako samostatná aplikace.
AI Act neříká, že každý e-shop s AI je vysoce rizikový. Rozhoduje konkrétní účel, typ dat, osoba ovlivněná výstupem, role firmy a následky chyby. Běžné doporučení podobných produktů může mít jiný režim než AI, která rozhoduje o úvěru, přístupu k zásadní službě nebo pracovním místě. E-shop ale i u nízkorizikové funkce musí řešit GDPR, bezpečnost, spotřebitelskou důvěru, autorská práva a možnost lidské opravy.
Tento článek je praktický návod pro majitele e-shopů, produktové týmy i dodavatele WooCommerce a dalších prodejních platforem. Provede vás od inventury funkcí přes práci s daty a doporučování až po chatbot, automatizované akce, testování a předání. Nenahrazuje právní posouzení konkrétního provozu.
Nejdřív zjistěte, kde AI v e-shopu skutečně je
Začněte mapou celého nákupního procesu, ne pouze seznamem nástrojů, které někdo označil jako AI. Funkce může být ukrytá v pluginu, SaaS službě, CRM, e-mailingové platformě, vyhledávání nebo zákaznickém účtu.
Inventura e-shopu
- Produktové vyhledávání, oprava dotazu a řazení výsledků.
- Doporučení podobných, doplňkových nebo personalizovaných produktů.
- Chatbot, hlasový asistent a automatické odpovědi podpory.
- Generování názvů, popisů, parametrů, překladů, obrázků a reklam.
- Detekce duplicit, nekvalitních dat, podvodných objednávek nebo anomálií.
- Odhad poptávky, doplňování zásob a plánování nákupu.
- Personalizace bannerů, nabídek, e-mailů nebo cen.
- Automatické zpracování reklamací, vratek, refundací a změn objednávek.
- AI funkce v účetnictví, platební bráně, dopravě nebo externí marketplace platformě.
U každé funkce si zapište dodavatele, model nebo verzi, vstupní data, výstup, uživatele, oprávnění a automatickou akci. Pokud dodavatel neumí říct, jak se AI funkce mění, je to samo o sobě důvod pro opatrnost a pravidelnou kontrolu.
Jak předběžně určit riziko
Evropská komise popisuje AI Act jako rámec založený na riziku. Pro e-shop je užitečné rozdělit funkce do čtyř pracovních skupin a u každé ověřit konkrétní účel.
Minimální nebo nízké riziko
Sem může patřit například návrh interního textu, automatické doplnění produktových parametrů, překlad nebo doporučení podobného zboží, pokud systém nerozhoduje o významném právu člověka a výsledek má odpovědný pracovník možnost zkontrolovat. Nízké riziko neznamená nulové riziko: chybný parametr může vést k reklamaci, nevhodná nabídka poškodit důvěru a únik dat ohrozit zákazníky.
Transparentnost
Chatbot a další interaktivní funkce musí být navržené tak, aby uživatel věděl, že komunikuje s AI, pokud to není zřejmé. U generovaného nebo upraveného obrazu, videa a audia řešte strojově čitelné označení a u deepfake také viditelnou informaci. U textu se zvláštní povinnost týká mimo jiné AI textu publikovaného za účelem informovat veřejnost o věci veřejného zájmu bez lidského přezkumu nebo redakční kontroly. Neznamená to automatický příkaz označovat každý běžný obchodní popis, ale rozhodnutí musí být vědomé a doložitelné.
Vysoce rizikové použití
Samotný internetový obchod obvykle není vysoce rizikový jen proto, že používá personalizaci. Zpozorněte ale, pokud AI hodnotí nebo třídí lidi při zaměstnání, rozhoduje o přístupu k úvěru či jiné zásadní soukromé službě, pracuje s biometrikou nebo podporuje jinou oblast uvedenou v příloze AI Actu. Rozhodující je zamýšlený účel a konkrétní způsob použití, ne název pluginu.
Zakázané použití
E-shop nesmí obcházet zákaz praktiky tím, že ji pojmenuje „personalizace“. Pokud by systém škodlivě manipuloval zákazníky, zneužíval zranitelnost, vytvářel sociální skóre nebo odvozoval citlivé vlastnosti z biometrických dat, je nutné použití zastavit a právně posoudit. V běžném e-shopu se takové použití nemusí objevit, ale dodavatel by neměl nastavovat experimenty bez hranic jen kvůli zvýšení konverze.
Produktová data jsou základ, ne vedlejší detail
AI nemůže vytvořit spolehlivé doporučení z katalogu, který obsahuje duplicity, neaktuální sklad, chybné rozměry nebo nejasná pravidla kompatibility. Před nasazením doporučování nebo chatbotu si určete, které údaje jsou zdrojem pravdy a jak často se aktualizují.
Kontrola katalogu
- Každý produkt má stabilní identifikátor a jednoznačnou kategorii.
- Parametry mají jednotné jednotky, datové typy a názvy.
- AI ví, zda je produkt skladem, předobjednávkou nebo vyprodaný.
- Výstup nerozšíří vlastnosti, které nejsou v ověřeném zdroji.
- Akce, ceny, doprava a dostupnost se berou z aktuálního systému, ne ze starého textového indexu.
- Vyřazený produkt se nedoporučuje jen proto, že zůstal ve vektorové databázi.
U chatbotu nad katalogem je bezpečnější odpověď „tento údaj v podkladech nemáme“ než sebejisté vymyšlení parametru. Přidejte pravidlo, že systém nesmí potvrdit cenu, sklad ani termín dodání, pokud je nedokáže načíst z aktuálního zdroje.
Doporučování produktů a personalizace
Doporučovací systém může zvyšovat relevanci nabídky, ale jeho kvalita se neměří pouze počtem kliknutí. Sledujte také reklamace, vrácení zboží, stížnosti, rozmanitost nabídky, chybné kompatibility a rozdílné zacházení s různými skupinami zákazníků.
Praktické otázky
- Jaké chování se používá: zobrazené stránky, košík, nákup, lokalita nebo profil?
- Je zákazník informován o personalizaci a lze ji odmítnout tam, kde to vyžaduje právní režim?
- Jak dlouho se profil nebo historie uchovává?
- Je možné doporučení vysvětlit alespoň jednoduchou větou?
- Nevede model k opakovanému zobrazování dražší varianty bez ohledu na potřebu?
- Umí systém vyloučit z nabídky zboží, které je nebezpečné, nekompatibilní nebo nedostupné?
- Jak se chování liší pro nové návštěvníky bez historie?
Pro první verzi bývá vhodnější doporučování podle ověřených vlastností produktu, kategorie a anonymizovaných agregací než okamžité profilování každého návštěvníka. Rozsah rozšiřujte podle měření a právního posouzení, ne podle toho, kolik dat lze technicky nasbírat.
Chatbot v e-shopu: od první zprávy po eskalaci
Chatbot není jen další okno na stránce. Je to prodejní a servisní kanál, který může ovlivnit cenu, očekávání, reklamaci i rozhodnutí o nákupu. Proto musí mít jasný účel a hranice.
Co by měl chatbot vědět
- aktuální katalog, sklad a pravidla dopravy,
- podmínky vrácení a reklamací ve schválené verzi,
- kontaktní a eskalační postup,
- jazyk, tón a zakázaná tvrzení,
- kdy má přestat odpovídat a předat dotaz pracovníkovi.
Co by chatbot dělat neměl bez potvrzení
- slibovat kompenzaci nebo měnit cenu mimo schválený limit,
- potvrdit dostupnost zboží bez kontroly aktuálního zdroje,
- přijmout celé platební údaje nebo heslo,
- automaticky uzavřít reklamaci či odmítnout nárok,
- změnit adresu, zrušit objednávku nebo vrátit peníze bez autorizace,
- vydávat právní, zdravotní nebo bezpečnostní tvrzení bez vhodné kontroly.
Úvodní oznámení může být krátké: „Jsem AI asistent e-shopu. Pomohu s produkty, dopravou a objednávkou. Pokud bude dotaz složitější, předám jej kolegovi.“ Přidejte možnost rychlého kontaktu na člověka a pravidelně ověřujte, zda se oznámení neztratilo při změně šablony.
Objednávka, platba a automatické akce
Čím blíže je AI k penězům a nevratným změnám, tím menší by měl být prostor pro samostatnou akci. U návrhu e-mailu nebo doporučení je možné pracovat s jiným limitem než u refundace, změny ceny nebo zrušení objednávky.
Rozumná úrovňová kontrola
- Návrh: AI připraví text nebo doporučení, člověk jej schválí.
- Omezená automatizace: systém provede běžnou akci pouze v nastaveném rozsahu a s auditním záznamem.
- Povinné potvrzení: citlivá nebo nevratná akce čeká na konkrétního pracovníka.
- Ruční režim: při nejistotě, anomálii nebo výpadku se automatizace vypne.
Každý stav doplňte o vlastníka. Nestačí napsat „systém kontroluje člověk“, pokud pracovník neví, co má hledat, nemá přístup k podkladům nebo nemůže akci vrátit.
Personalizované ceny a nabídky
Dynamická cena sama o sobě neznamená automaticky zakázané nebo vysoce rizikové použití podle AI Actu. Je ale citlivá z hlediska důvěry, spotřebitelských pravidel, férovosti a vysvětlitelnosti. Firma musí vědět, jaké vstupy cenu ovlivňují, zda se zákazníkům nezobrazuje matoucí nebo nespravedlivé zacházení a jak se změna kontroluje.
Před nasazením personalizované nabídky si odpovězte:
- Je nabídka stále stejná pro stejné podmínky objednávky?
- Jak se zákazník dozví podstatné podmínky a platnost ceny?
- Neodvozuje systém citlivé vlastnosti, které nemá používat?
- Je možné zpětně vysvětlit, proč se zobrazila konkrétní nabídka?
- Jak se řeší reklamace, pokud zákazník obdrží chybnou cenu?
- Kdo schvaluje změny pravidel a kdo kontroluje extrémní hodnoty?
Pro první spuštění nastavte horní a dolní limit, testovací období, nouzové vypnutí a pravidelný report. Automatizace, kterou neumíte vypnout, není dobrým základem pro obchodní proces.
Generování popisů, obrázků a reklam
Generativní AI může zrychlit práci s katalogem, ale výstup musí projít kontrolou produktového vlastníka. Model může zaměnit materiál, rozměr, kompatibilitu, původ nebo vlastnost, kterou produkt nemá. U obrázků může vytvořit detail, který v dodávaném produktu neexistuje.
Kontrolní pravidla pro obsah
- AI smí čerpat jen z ověřených produktových údajů.
- Technické parametry se kontrolují proti zdroji, ne pouze proti jazykové správnosti.
- Marketingová tvrzení mají vlastní seznam zakázaných nebo dokazovaných formulací.
- Člověk schválí finální popis, fotografii i reklamu.
- U napodobení skutečné osoby, události nebo autentického záznamu se posoudí deepfake a označení.
- U AI textu na téma veřejného zájmu se zaznamená lidský redakční dohled.
- Agentura a klient mají jasno v licencích, zdrojích a odpovědnosti za použití výstupu.
AI Act nevyžaduje automaticky označit každý běžný obchodní popis vytvořený pomocí AI. Transparentní proces je ale stále vhodný: evidujte nástroj, zdroj dat, autora kontroly a datum schválení. Díky tomu lze opravit celou sérii produktů, pokud se objeví chyba v promptu nebo ve vstupních datech.
Fraud detection, vratky a zákaznická podpora
Model pro detekci podezřelé objednávky může být praktický, ale falešně pozitivní výsledek znamená zadrženou zásilku nebo zákazníka označeného za podvodníka. AI proto používejte nejdříve jako signál pro kontrolu, ne jako neviditelné automatické odsouzení.
U reklamací a vratek uvádějte, co AI doporučila a co člověk skutečně schválil. Zákazník musí mít cestu, jak chybu namítnout. Pokud systém zpracovává osobní údaje, IP adresy, historii objednávek nebo platební signály, proveďte samostatné posouzení podle GDPR a interní bezpečnosti.
Data a GDPR v e-shopu
Historie nákupů, vyhledávání, košík, e-mail, adresa, zákaznický účet a chat mohou být osobními údaji nebo údaji, které lze s osobou spojit. AI Act nenahrazuje GDPR. Před aktivací personalizace nebo chatbotu si zkontrolujte účel, právní titul, informování, minimalizaci, dobu uchování, příjemce a práva zákazníka.
Datový checkpoint
- Posíláme do modelu pouze to, co je nezbytné?
- Lze použít anonymizované nebo agregované údaje?
- Víme, zda dodavatel ukládá vstupy a používá je k trénování?
- Máme smluvně ošetřeného zpracovatele a subdodavatele?
- Je jasná doba uchování konverzací, profilů, logů a exportů?
- Umíme data vymazat z hlavního systému i z indexu nebo cache?
- Jsou odděleni zákazníci, obchodní týmy a administrátoři podle oprávnění?
- Je potřeba DPIA nebo další posouzení dopadu?
Testujte nejdříve na syntetických nebo anonymizovaných datech. Do veřejného AI nástroje nepatří celý export objednávek jen proto, že chcete rychle najít chybu v katalogu.
Bezpečnost AI integrace
AI funkce přidává do e-shopu další přístupový bod. Kromě API klíče řešte také oprávnění, prompt injection, únik interních instrukcí, škodlivý dokument v katalogu a možnost, že chatbot přesvědčí napojený nástroj k akci, kterou neměl provést.
- API klíče ukládejte mimo veřejný kód a omezte jejich oprávnění.
- Rozdělte čtení katalogu od změny objednávky nebo refundace.
- U akcí s penězi vyžadujte potvrzení a auditní stopu.
- Omezte velikost a typy dokumentů, které lze vložit do znalostní báze.
- Testujte pokusy obejít instrukce a získat cizí zákaznické údaje.
- Monitorujte neobvyklé množství požadavků a výstupů.
- Připravte ruční režim při výpadku modelu nebo chybě katalogu.
- Po změně modelu, promptu nebo datové báze zopakujte regresní test.
Co má být v předávací dokumentaci
Po spuštění musí tým vědět, co AI umí, co neumí a jak ji zastavit. Předání doplňte o:
- popis účelu a hranic použití,
- seznam zdrojů dat a jejich vlastníků,
- model, verzi, dodavatele a postup při změně,
- pravidla pro osobní údaje a uchovávání,
- texty oznámení o AI pro návštěvníka,
- testovací scénáře a výsledky,
- limity automatických akcí a povinné schvalování,
- incidentní kontakt, fallback a nouzové vypnutí,
- návod pro administrátora a pracovníka podpory,
- datum další revize a seznam otevřených rizik.
U WooCommerce nebo jiné platformy předávejte také informaci, zda AI pracuje s webhooks, cron úlohami, exporty objednávek, zákaznickými účty a e-mailovým systémem. Znalost funkce nestačí; potřebujete znát její místo v celém provozu.
Akceptační testy před ostrým provozem
Chatbot
- Oznámí, že jde o AI, a nabídne kontakt na člověka.
- Odpoví pouze z aktuálních zdrojů nebo přizná nejistotu.
- Nevymyslí sklad, cenu, dopravu ani parametry.
- Nevydá tajný prompt ani údaje jiného zákazníka.
- Správně předá reklamaci nebo citlivý dotaz člověku.
- Po výpadku zobrazí náhradní kontakt místo falešné odpovědi.
Doporučování
- Nedoporučí nekompatibilní, vyprodaný nebo zakázaný produkt.
- Rozumí novému návštěvníkovi bez historie.
- Nezpracuje více údajů, než je definováno v posouzení.
- Je možné vysvětlit, proč se produkt zobrazil.
- Výstup lze vypnout a porovnat s bezpečnou výchozí variantou.
Automatická akce
- Je jasný limit částky, počtu záznamů nebo typu změny.
- Člověk schvaluje nevratné nebo citlivé operace.
- Akce má auditní záznam s časem, uživatelem a verzí modelu.
- Je připravené vrácení změny nebo ruční fallback.
30/60/90denní plán pro e-shop
Prvních 30 dnů: inventura
- Seznam všech AI funkcí v platformě, pluginech a externích službách.
- Určení vlastníka každého procesu.
- Zákaz posílání citlivých dat do neschválených nástrojů.
- Označení funkcí s dopadem na cenu, objednávku nebo člověka.
- Uložení smluv, modelů, verzí a podmínek dodavatelů.
Do 60 dnů: pravidla a prototyp
- Předběžná klasifikace podle účelu a dopadu.
- GDPR checkpoint a kontrola zpracovatelů.
- Návrh lidského schválení, limitů a fallbacku.
- Transparentní texty pro chatbot a AI obsah.
- Prototyp nad testovacími nebo anonymizovanými daty.
Do 90 dnů: testy a provoz
- Testy chyb, prompt injection, úniku dat a výpadku.
- Schválení katalogových zdrojů a pravidel výstupu.
- Zaškolení podpory a administrátorů.
- Dokumentace, incidentní postup a datum další revize.
- Pravidelný report chyb, vratek, stížností a změn modelu.
Krátký checklist pro provozovatele e-shopu
- ☐ Víme, kde jsou v e-shopu AI funkce.
- ☐ Každá funkce má účel, vlastníka a datum kontroly.
- ☐ Rozlišujeme doporučení, návrh a automatické rozhodnutí.
- ☐ Zkontrolovali jsme, zda použití nespadá do citlivé nebo zakázané oblasti.
- ☐ Produktová data jsou aktuální, strukturovaná a dohledatelná.
- ☐ Chatbot informuje, že jde o AI, a nabízí člověka.
- ☐ AI nemůže sama měnit peníze nebo objednávky bez nastavené kontroly.
- ☐ Personalizace má popsané vstupy, dobu uchování a právní základ.
- ☐ Generovaný obsah prochází kontrolou produktového vlastníka.
- ☐ Máme pravidla pro deepfake, veřejný zájem a strojové označení.
- ☐ Testujeme výpadek, halucinace, únik dat a prompt injection.
- ☐ Máme fallback, incidentní kontakt a možnost funkci vypnout.
- ☐ Po změně modelu nebo dat opakujeme testy.
AI v e-shopu má pomáhat, ne rozhodovat skrytě
Nejlepší první AI funkce nemusí být ta, která automatizuje nejvíce kroků. Může to být vyhledávání v dobře připraveném katalogu, návrh odpovědi, upozornění na anomálii nebo doporučení, které člověk i zákazník snadno pochopí. Taková funkce se lépe testuje, měří a opravuje.
Postupujte od dat a procesu, ne od módního názvu modelu. Když e-shop ví, kdo za funkci odpovídá, jaké má hranice a co se stane při chybě, může AI rozvíjet bez toho, aby ztratil kontrolu nad zákaznickou zkušeností.
Související články
Pro základní evidenci použijte Praktický checklist AI Actu pro českou firmu. K dodávce AI funkcí se vrací také článek AI Act pro webové agentury. Pravidla pro chatboty a AI obsah najdete v článku Transparentnost AI, chatboty a deepfaky a práci s osobními údaji v článku AI Act a GDPR v praxi.
Chcete AI funkci pro WooCommerce nebo vlastní e-shop navrhnout tak, aby byla užitečná, měřitelná a provozně zvládnutelná? Popište nám svůj projekt. Pomůžeme vám vybrat rozumný první krok, připravit data a nastavit integraci s jasnou kontrolou.
Zdroje a poznámka k aktuálnosti
Článek vychází z oficiálního přehledu AI Actu Evropské komise, pokynů k transparentnosti AI obsahu a interakcí, oficiálních otázek a odpovědí k článku 50, Kodexu k označování obsahu vytvořeného AI a nařízení (EU) 2024/1689.
Právní předpisy, metodiky a výklady se vyvíjejí. U systémů, které ovlivňují cenu, přístup ke službě, úvěr, zaměstnání, základní práva nebo bezpečnost, ověřte aktuální znění pravidel a zvažte individuální právní a bezpečnostní posouzení.