Evropská unie zpřesňuje pravidla transparentnosti AI. Od 2. srpna musí být zřejmé, kdy člověk jedná se strojem

Evropská komise zveřejnila pokyny, které mají firmám a institucím vysvětlit, kdy musí uživatele upozornit, že komunikují s umělou inteligencí, a jak označovat obsah vytvořený nebo upravený pomocí AI. Dokument přichází těsně před zahájením uplatňování většiny pravidel evropského AI Act a převádí obecný požadavek transparentnosti do konkrétnějších provozních povinností.

Pro poskytovatele AI už proto nebude stačit pouze systém bezpečně vyvinout a interně popsat. Uživatel musí v relevantních situacích poznat, že na druhé straně není člověk, ale chatbot, hlasový asistent nebo autonomnější AI agent. U syntetického obsahu musí být zároveň možné technicky zjistit, že vznikl pomocí umělé inteligence nebo byl umělou inteligencí významně pozměněn.

Nejde jen o formální označení. Transparentnost se stává jedním z předpokladů důvěryhodného digitálního prostředí. Člověk se totiž rozhoduje jinak, pokud ví, že komunikuje s algoritmem, že sleduje uměle vytvořené video nebo že čte text o veřejném dění, který nevznikl pod lidskou redakční kontrolou.

Pravidla proto nemíří proti používání AI. Snaží se omezit situace, kdy je umělá inteligence vydávána za člověka, autentický záznam nebo nezávisle vytvořený obsah.

Chatbot se musí přiznat, že je chatbot

První vrstvu pravidel tvoří přímo interaktivní systémy. Pokud uživatel komunikuje s chatbotem, hlasovým asistentem nebo jiným AI systémem, musí být informován, že jedná s umělou inteligencí, pokud to není z okolností zcela zřejmé.

Tento požadavek bude mít význam především tam, kde je AI záměrně navržena tak, aby působila lidsky. Moderní hlasové modely dokážou reagovat přirozeně, měnit intonaci, pamatovat si kontext a vést rozhovor bez typických prodlev starších automatizovaných systémů. Uživatel proto nemusí bezpečně poznat, zda hovoří se zaměstnancem společnosti, nebo s digitálním agentem.

Transparentnost se zde netýká jen zákaznické podpory. AI agenti budou stále častěji komunikovat s klienty bank, pojišťoven, obchodníků, zdravotnických zařízení nebo veřejných institucí. Mohou vysvětlovat podmínky služby, připravovat nabídky, vyhledávat dokumenty nebo sbírat informace potřebné pro další rozhodnutí.

Právě v těchto situacích musí být jasné, kdo nebo co komunikaci vede. Uživatel by měl vědět, zda odpověď pochází od člověka, zda ji člověk předem schválil a jakým způsobem může požádat o lidskou kontrolu.

Nové pokyny mají pomoci rozlišit, co se považuje za přímo interaktivní AI systém a kdy lze použít výjimku. Nestačí tedy vložit obecnou zmínku o AI do dlouhých obchodních podmínek. Informace musí být poskytnuta způsobem, který odpovídá konkrétní interakci a který uživatel reálně zaznamená.

Označení pro člověka i pro stroj

Druhá část pravidel se týká syntetického obsahu. Poskytovatelé generativních systémů mají své nástroje navrhnout tak, aby výstupy bylo možné identifikovat jako vytvořené nebo pozměněné umělou inteligencí. AI Act přitom nepracuje pouze s viditelným upozorněním pro čtenáře nebo diváka. Počítá také se strojově čitelným označením.

To je důležité, protože běžný text „vytvořeno pomocí AI“ lze snadno odstranit. Technické značky, metadata nebo jiné detekovatelné prvky mohou umožnit platformám, médiím, regulátorům a dalším systémům ověřit původ obsahu i poté, co byl dále sdílen.

Ani strojové označení ale není dokonalým řešením. Metadata se mohou při převodu souboru ztratit, obrázek lze znovu vyfotografovat a text zkopírovat do jiného prostředí. Pravidla proto nevytvářejí absolutní technologickou ochranu proti podvodu. Zavádějí povinnost, aby poskytovatelé už při návrhu systému podporovali rozpoznatelnost jeho výstupů.

Tím se transparentnost přesouvá z odpovědnosti konečného uživatele také do architektury samotného modelu a služby. Poskytovatel nemá pouze doporučit, aby zákazník obsah označil. Musí vytvořit technické předpoklady, které označení a následnou detekci umožní.

Deepfake není jen problém sociálních sítí

Zvláštní pozornost pravidla věnují deepfakes. Pokud je obrazový, zvukový nebo audiovizuální obsah vytvořen či upraven tak, že se podobá skutečné osobě, události nebo místu a může působit autenticky, musí být jeho syntetická povaha zveřejněna.

Důvod je zřejmý. Kvalita generovaného videa a hlasu už umožňuje vytvářet materiály, které mohou běžného člověka přesvědčit, že sleduje skutečné prohlášení politika, manažera nebo jiné veřejně známé osoby. Takový obsah může být použit pro podvod, manipulaci trhu, poškození reputace i ovlivňování veřejného mínění.

Transparentnost však nebude fungovat pouze jako ochrana sociálních sítí. Deepfake může být použit také uvnitř firmy, při falešném příkazu k platbě nebo při napodobení hlasu vedení společnosti. Povinnost označovat syntetický obsah proto musí být doplněna interními bezpečnostními pravidly, ověřováním identity a schvalovacími mechanismy.

Samotný štítek nezabrání tomu, aby byl podvodný materiál vytvořen. Může však vytvořit jasnější hranici mezi legitimním použitím AI a vědomým klamáním.

Pokyny mají zároveň vysvětlit příslušné výjimky. AI Act totiž nemá zabránit umělecké, satirické nebo kreativní tvorbě. I v těchto případech však musí být transparentnost řešena způsobem, který nenaruší samotné dílo, ale současně neponechá uživatele v přesvědčení, že jde o autentický záznam.

Veřejný zájem potřebuje lidskou odpovědnost

Přísnější režim se týká také textů o záležitostech veřejného zájmu. Pokud je takový obsah vytvořen nebo upraven umělou inteligencí a následně zveřejněn bez lidské redakční kontroly, musí být jeho AI původ oznámen.

Toto pravidlo je zásadní pro média, politickou komunikaci, veřejné instituce i provozovatele informačních platforem. Umělá inteligence může ve velmi krátké době vytvořit velké množství přesvědčivých článků, komentářů a analytických textů. Bez jasného autorství a odpovědnosti ale čtenář neví, kdo ověřil fakta, kdo zvolil argumentaci a kdo odpovídá za případnou chybu.

AI Act tím nerozhoduje, že text vytvořený s pomocí modelu je automaticky nedůvěryhodný. Rozlišuje však mezi obsahem, který prošel lidskou redakční kontrolou, a automaticky publikovaným výstupem bez odpovědného editora.

Pro profesionální redakce je tento rozdíl důležitý. AI může pomáhat s rešerší, strukturou, jazykovou úpravou nebo analýzou dokumentů. Výsledný text však musí mít konkrétní lidskou odpovědnost, pokud má být prezentován jako redakční obsah.

Transparentnost proto nelze zúžit na větu, že při tvorbě „byla použita AI“. Rozhodující je, jakou roli systém skutečně sehrál a zda někdo ověřil výsledné tvrzení před jeho zveřejněním.

Pravidla se týkají poskytovatelů i uživatelů systémů

AI Act rozděluje povinnosti mezi poskytovatele a deployery, tedy organizace, které AI systém používají ve vlastní činnosti.

Poskytovatel musí systém navrhnout tak, aby dokázal uživatele informovat o AI interakci a aby byl syntetický obsah technicky detekovatelný. Firma, úřad nebo jiný deployer však odpovídá za to, jak systém skutečně nasadí a jaké informace poskytne osobám, které jsou jeho používáním ovlivněny.

Týká se to například systémů pro rozpoznávání emocí nebo biometrickou kategorizaci. Pokud je organizace používá, musí osoby vystavené takovému systému informovat. Současně platí, že některé formy podobného používání jsou podle AI Act omezené nebo přímo zakázané, zejména v prostředích, kde mohou nepřiměřeně zasahovat do základních práv.

Nové pokyny proto nebudou důležité jen pro technologické společnosti vyvíjející modely. Budou praktickým návodem pro banky, pojišťovny, zaměstnavatele, školy, média, zákaznická centra a veřejné instituce.

Každá organizace bude muset určit, kde přesně ve svých procesech AI používá, zda systém komunikuje přímo s člověkem, zda vytváří veřejný obsah a kdo odpovídá za splnění informační povinnosti.

Bez takové mapy nelze transparentnost řídit.

Code of Practice má zjednodušit dokazování souladu

Evropská komise vedle pokynů připravila Code of Practice, který má poskytovatelům a deployerům nabídnout praktickou cestu k prokázání souladu. Dobrovolné dodržování kodexu má podle Komise zvýšit právní jistotu a vytvořit jednodušší způsob, jak doložit, že organizace transparentnost řešila systematicky.

To neznamená, že přihlášení ke kodexu automaticky odstraní odpovědnost. Organizace bude stále muset prokázat, že konkrétní systém a jeho skutečné nasazení odpovídají požadavkům AI Act.

Význam kodexu je především provozní. Firmy nemusí každá samostatně vymýšlet, jak má vypadat oznámení, technické označení nebo dokumentace. Společný rámec může snížit náklady a omezit situaci, kdy každý poskytovatel používá zcela odlišné označení, kterému uživatelé nerozumějí.

Komise současně provozuje AI Act Service Desk jako informační centrum k výkladu a praktickému uplatňování pravidel. Pro firmy je to důležité, protože AI Act není jednorázová povinnost, kterou lze uzavřít jedním interním dokumentem. Výklad se bude dále vyvíjet prostřednictvím pokynů, standardů, dozorové praxe i rozhodnutí soudů.

Účinnost neznamená, že je celý systém hotový

AI Act vstoupil v platnost už 1. srpna 2024 a jednotlivé povinnosti se začaly používat postupně. Zákazy vybraných praktik a povinnost zajistit odpovídající AI gramotnost se uplatňují od 2. února 2025. Od 2. srpna 2026 se podle zveřejněného harmonogramu začíná používat většina zbývajících pravidel, včetně transparentnosti a pravomocí Evropské komise a národních orgánů dohledu.

Pro systémy uvedené na trh před srpnovým termínem zdrojový text uvádí přechodnou lhůtu do 2. prosince 2026 pro splnění povinností spojených s označováním a detekovatelností AI obsahu.

Současně však probíhá další legislativní diskuse o zjednodušení některých částí evropského digitálního rámce. Návrhy v rámci balíčku označovaného jako Omnibus VII mají upravit či odložit některé povinnosti, snížit administrativní zatížení vybraných podniků a posílit ochranu dětí.

Je proto nutné rozlišovat mezi platnými povinnostmi, návrhy na jejich změnu a budoucími technickými standardy. Organizace nemůže vycházet pouze z politického oznámení, že by určité pravidlo mohlo být odloženo. Dokud není změna řádně přijata a účinná, musí pracovat s platným právním rámcem.

To je podstatné zejména pro firmy, které připravují systémy právě nyní. Nesprávně nastavená architektura může být později nákladná na úpravu. Transparentnost proto musí být součástí návrhu produktu, nikoliv dodatečným štítkem nalepeným před spuštěním.

Co to znamená pro AI agenty

Pro agentní systémy mají nová pravidla širší význam než pro běžné chatboty. AI agent už pouze neodpovídá. Může používat nástroje, načítat firemní data, připravovat dokumenty, spouštět procesy nebo komunikovat jménem organizace.

Uživatel proto potřebuje vědět nejen to, že komunikuje s AI, ale také v jaké roli agent vystupuje, kdo ho provozuje a kde končí jeho oprávnění.

Transparentní agentní prostředí by mělo rozlišovat mezi vysvětlením, doporučením, návrhem rozhodnutí a právně či finančně závazným krokem. Stejně důležité je, aby bylo možné zpětně zjistit, zda konkrétní výstup vytvořil agent samostatně, zda jej schválil člověk a jaké zdroje nebo nástroje byly použity.

AI Act neřeší veškerou agentní governance. Transparentnost je ale jejím nezbytným základem. Pokud uživatel neví, že jedná se systémem, nemůže správně posoudit jeho odpovědnost, limity ani potřebu lidské kontroly.

Pro firmy to znamená, že nestačí nasadit agenta a přidat obecný disclaimer. Potřebují jasně navrženou identitu agenta, popis jeho role, eskalační mechanismus a auditní stopu.

Shrnutí

Nové pokyny Evropské komise převádějí obecný požadavek transparentnosti AI do praktičtějších pravidel pro chatboty, AI agenty, deepfakes, syntetický obsah, veřejně významné texty a systémy pracující s emocemi nebo biometrickými kategoriemi.

Poskytovatelé mají AI navrhovat tak, aby člověk poznal, že komunikuje se strojem, a aby generovaný nebo upravený obsah mohl být strojově identifikován. Organizace, které AI používají, musí současně informovat osoby vystavené konkrétním systémům a převzít odpovědnost za jejich praktické nasazení.

Transparentnost nebude absolutní ochranou proti manipulaci. Označení lze odstranit a technické značky obejít. Pravidla ale vytvářejí společný základ, podle kterého lze legitimní použití AI odlišit od vědomého klamání.

Pro firmy a veřejné instituce je hlavní závěr praktický. Od 2. srpna už transparentnost nemůže být jen obecnou větou v obchodních podmínkách. Musí být součástí uživatelského rozhraní, technického návrhu, dokumentace a odpovědnosti konkrétních osob.

Člověk musí vědět, kdy jedná s AI.

A organizace musí být schopna prokázat, že tuto skutečnost neskrývá.

Odkazy a zdroje

• Evropská komise — pokyny k transparentnosti AI systémů, interaktivním systémům, syntetickému obsahu, deepfakes a označování výstupů podle AI Act.
• Evropská komise — vyjádření ze dne 20. července 2026 k přípravě pokynů za účasti členských států a European AI Board.
• European Commission / AI Act Service Desk — praktické informace, výklad a nástroje pro zavádění evropského nařízení o umělé inteligenci.
• Evropská unie — nařízení o umělé inteligenci, jeho riziková klasifikace, pravidla transparentnosti a harmonogram postupného uplatňování.
• Code of Practice — praktický rámec pro prokazování souladu s transparentními povinnostmi AI Act.

---

Základ článku: Autorský text vychází především z nových pokynů Evropské komise k transparentnosti podle nařízení o umělé inteligenci, z červencového vyjádření Komise k jejich přípravě, z pravidel AI Act pro interaktivní systémy, syntetický obsah, deepfakes, rozpoznávání emocí a biometrickou kategorizaci a ze širší evropské debaty o odpovědnosti poskytovatelů a uživatelů AI. Text se zaměřuje na praktický význam transparentnosti pro chatboty, AI agenty, média, firmy a veřejné instituce po zahájení uplatňování většiny pravidel AI Act dne 2. srpna 2026.