Z hlediska společnosti je nejzávažnějším dopadem eroze důvěry ve veřejné informační zdroje. Ač má AI neskonalé výhody a vnímáme jí jako příležitost, má obrovská rizika hned v několika rovinách a toto je jedna z nich.
Běžný uživatel nemá praktickou možnost rozlišit, zda odpověď generativního modelu vychází z odborně ověřených dat, nebo zda jde o výsledek halucinace či algoritmické recyklace nepodložených tvrzení. Pokud se takové výstupy začnou vzájemně citovat, vzniká falešný konsenzus, který může zásadně deformovat veřejnou debatu, politická rozhodnutí i mediální diskurz.
Z právního hlediska nejde pouze o otázku etiky nebo technologické opatrnosti. Evropská unie již reagovala přijetím Aktu o umělé inteligenci, který klade důraz na transparentnost, řízení rizik a lidský dohled nad AI systémy, zejména tam, kde jejich výstupy mohou ovlivňovat základní práva osob. Nekontrolované šíření neověřených informací prostřednictvím AI tak není jen společenským rizikem, ale může představovat i porušení regulatorních povinností provozovatelů a uživatelů těchto systémů.
Otázka odpovědnosti za škodlivý AI obsah se přitom v právní teorii i praxi vyjasňuje: umělá inteligence není nositelem odpovědnosti. Odpovědnost se vždy vrací ke konkrétnímu člověku nebo instituci, která výstup AI použije, publikuje či na jeho základě rozhoduje. To platí zvláště v oblasti ochrany osobnosti, profesní odpovědnosti či mediální činnosti. Není náhodou, že i v českém prostředí již zazněla varování ze strany Ústavního soudu, když byly sankcionovány případy nekritického použití AI výstupů v právních podáních.
Novinařina a odborná publicistika se tak ocitají před novou výzvou. Použití generativních modelů pro rešerše či návrhy textů samo o sobě není problémem, avšak přebírání AI výstupů bez ověření zdrojů představuje reálné riziko šíření nepravdivých informací, reputačních škod i právních sporů. Lidská redakční kontrola se v éře AI nestává nadbytečnou, ale naopak klíčovou.
Specifickou pozornost si zaslouží i otázka svobody projevu. Veřejný prostor je tradičně chráněn jako místo plurality názorů, avšak masová produkce obsahu bez lidského autora a bez odpovědnosti tuto rovnováhu narušuje. Automatizovaná generace tvrzení, která nemají jasně identifikovatelný původ ani ověřitelný zdroj, oslabuje samotné základy demokratické diskuse.
Zvlášť zranitelné jsou menší jazykové oblasti, včetně češtiny. Omezený objem kvalitních tréninkových dat zvyšuje riziko, že se AI systémy budou v národním jazyce opírat převážně o jiné generované zdroje. To může vést k postupné degradaci odborné terminologie, právního jazyka i kvality veřejné debaty.
Celkově lze uzavřít, že umělá inteligence zůstává mocným nástrojem, který může výrazně zefektivnit práci v právu, médiích i státní správě. Není však náhradou lidského úsudku. Pokud rezignujeme na lidskou kontrolu, transparentnost zdrojů a odpovědné zacházení s AI výstupy, riskujeme vznik informačního prostoru, v němž se nepravda stává normou jen proto, že ji opakuje dostatek strojů. Pro zachování právní jistoty, svobody tisku i demokratické debaty je proto nezbytné trvat na tom, že konečnou autoritou zůstává člověk, nikoli algoritmus.
JUDr. Ondřej Preuss, Ph.D. je zakladatelem a šéfadvokátem kanceláře Dostupný advokát. Působí rovněž na katedře ústavního práva Právnické fakulty Univerzity Karlovy.
Dostupný advokát je hlavním partnerem legalwebu, v rámci této spolupráce byl publikován rovněž tento text.
Webové stránky Dostupného advokáta najdete na adrese https://dostupnyadvokat.cz.
foto: Dostupný advokát
