Konkrétně půjde především o povinnosti ohledně transparentnosti používání umělé inteligence, vztahující se na zákaznické chatboty, virtuální či hlasové asistenty, deepfakes a obecně na obsah generovaný AI. Společnostem, které příslušné povinnosti poruší, hrozí pokuty až do výše 15 milionů eur nebo 3 % celosvětového obratu.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle čerstvých pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ shrnuje advokát Jaroslav Kuba z poradenské společnosti RÖDL.
Jasně označen musí být i jakýkoli umělou inteligencí vytvořený či upravený obsah (obraz, zvuk, či video), připomínající reálné osoby a události, tedy tzv. deepfakes. Takové výstupy musí navíc být opatřeny strojově čitelným označením. Komise mezi deepfakes výslovně řadí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, syntetické avatary manažerů ve firemních videích nebo virtuální influencery. Pokud kdokoli publikuje bez lidské kontroly umělou inteligencí generované texty informující o záležitostech veřejného zájmu, musí uvádět, že jde o výstupy AI. Cílem těchto kroků je zajistit, aby lidé vždy věděli, že komunikují s AI a získávají AI generovaný obsah.
„Nové povinnosti dopadají nejen na vývojáře velkých modelů, ale i na obrovské množství běžných společností, institucí a organizací, které AI využívají ve svém provozu,“ upozorňuje advokát Jaroslav Kuba „Jak přitom vyplývá z průzkumů, více než třetina společností řeší problematiku AI jen povrchně. Často to bývá jediná věta v obchodních podmínkách o tom, že je v rámci jejich služby využívána umělá inteligence. Takové plošné prohlášení však od srpna nestačí – informace musí být srozumitelná a tam, kde k interakci skutečně dochází. AI Act navíc není jediným předpisem, který používání AI reguluje: vztahují se na něj i ustanovení GDPR nebo autorského práva. Sankce za jejich porušení rozhodně nejsou symbolické, pokuty mohou jít až do milionů eur.“
Na poslední chvíli vyhlášený digitální omnibus novelizuje AI Act z roku 2024 s cílem zjednodušit pravidla, snížit byrokratickou zátěž a poskytnout firmám čas na realizaci příslušných opatření, jakkoliv jeho finální podoba většinu povinností zachovává, a dokonce obsahuje některé nové. Největšími změnami jsou posunutí některých termínů pro poskytovatele tzv. vysoce rizikových systémů, zákaz „nudifikačních“ aplikací nebo centralizace dohledu nad velkými hráči prostřednictvím Evropského úřadu pro AI.
„Přestože se v této souvislosti občas mluví o odkladu AI Actu, řada povinností platí již dnes a od srpna přibývají další,“ zdůrazňuje Jaroslav Kuba. „Od roku 2025 je to například povinnost AI gramotnosti – organizace musí zajistit, aby lidé pracující s AI rozuměli jejím možnostem i limitům. Omnibus tuto povinnost jen zmírnil, nikoli zrušil.“
Původních i nových povinností je celá řada; AI Act přitom zdaleka není jediný předpis, který se na AI v praxi vztahuje. „Vstupují-li do nástroje osobní údaje, uplatní se GDPR; v oblasti autorského práva je nezbytné vědět, zda je možné výstupy AI komerčně využít a jak ochránit vlastní obsah před trénováním modelů,“ uvádí advokát Jaroslav Kuba a doporučuje, aby společnosti prověřily, jaké AI nástroje používají, zkontrolovaly, jak nakládají s daty, zda umí strojově označit obsah který generují, vytvořily příslušné interní směrnice a upravily svou smluvní i GDPR dokumentaci.
„Klíčové je neřešit tuto problematiku formálně od stolu, ale skutečně zohlednit způsob využití AI v konkrétních souvislostech. Jednotlivé předpisy mají kritéria strukturovaná z odlišných perspektiv, a může být velký rozdíl, pokud například téhož AI asistenta používá společnost pro marketing či HR. Správně nastavená AI governance totiž není jen o předcházení sankcím, ale též přináší vyšší efektivitu a odolnost vůči obchodním či reputačním rizikům,“ dodává Jaroslav Kuba. „Společnosti, které se vydají touto cestou, budou moci poskytnout svým zákazníkům záruky, které konkurence nenabízí. Komplexní přístup k umělé inteligenci vede ke stabilnímu prostředí s jasně definovanými procesy a ekonomickým přínosem, oproti improvizaci s rizikem postihů.“
Řízení umělé inteligence se totiž netýká jen předpisů. Jakým rizikem může být například závislost na určitém dodavateli, ukázal v červnu 2026 případ Anthropicu, který musel po zásahu amerických úřadů své nejvýkonnější modely znepřístupnit, což zasáhlo uživatele, kteří na nich postavili své procesy.
„V takových případech nemusí jít jen o geopolitiku, ke stejnému výsledku může vést i akvizice dodavatele, změna předpisů nebo jeho prosté komerční rozhodnutí,“ uzavírá advokát Jaroslav Kuba ze společnosti RÖDL. „Správně nastavená AI governance proto musí řešit i všechny souvislosti: co se stane, když řešení dodavatele ze dne na den zmizí, kde se vaše data nacházejí a jakému právu podléhají, a co vám dodavatel garantuje, pokud jeho řešení nebude například odpovídat aktuálním povinnostem či rozhodnutím úřadů.“
RÖDL je od roku 1977 spolehlivým partnerem i průkopníkem v oblasti právního a daňového poradenství, auditu, vedení účetnictví. Přináší řešení s mezinárodním přesahem a skutečným dopadem na podnikání klientů. Pracuje interdisciplinárně, s orientací na budoucnost a z jednoho zdroje – s globálním přístupem a silnou lokální přítomností. Jeho cílem je umožnit klientům dosahovat trvalého a udržitelného úspěchu.
Publikace vychází z původní tiskové zprávy, která byla dále redakčně zpracována – pozn. red.
RÖDL je partnerem legalwebu, v rámci této spolupráce byl publikován rovněž tento text.
Webové stránky společnosti RÖDL je možné navštívit na adrese https://www.roedl.cz/cs/
