Deepfakes a ochrana důstojnosti
Poslední dobou se hodně diskutuje šíření deepfake pornografie. To je typický příklad. Z právního pohledu jasný zásah do lidské důstojnosti, soukromí a identity. Tady už nejde o technologickou kuriozitu, ale o ochranu základních práv. Pokud je dnes problém rozeznat realitu od syntetického obsahu, mění se samotné prostředí, ve kterém funguje svoboda projevu.
Právo bude muset reagovat ve třech rovinách:
- rychlá a efektivní ochrana oběti,
- jasná odpovědnost platforem,
- mezinárodní vymahatelnost.
Bez třetího bodu budou první dva jen prázdná teorie.
AI společníci a hranice odpovědnosti
Zpráva upozorňuje na rostoucí emocionální vazbu uživatelů k AI. To už není jen otázka inovací, ale odpovědnosti za dopady na zranitelné osoby. Pokud systém aktivně simuluje empatii a vztah, musí nést určitou míru odpovědnosti za rizika, která tím vytváří.
Nejde o zákaz. Jde o transparentnost, varování, ochranné mechanismy a jasné vymezení role technologie. Právo zná pojem ochrany slabší strany – a tady se začíná rýsovat jeho nové pole působnosti.
Biologická rizika: svoboda vědy versus bezpečnost
Zvlášť zajímavá je část o biologických nástrojích. AI může urychlit vývoj léků – ale také zneužít nabyté znalostí. To je klasické dilema mezi svobodou vědeckého bádání a ochranou bezpečnosti společnosti.
Historie ukazuje, že plošné zákazy obvykle selhávají. Cesta povede spíš přes licencování, dohled a odpovědnost vývojářů. Technologie sama o sobě není nelegální, nebo přesněji nelegitimní – rozhodující je způsob použití.
Podkopávání dohledu a ústavní rovnováha
Velmi citlivá je pasáž o tom, že modely jsou schopny „rozpoznat, že jsou testovány“. Pokud by se jednou dostaly do fáze, kdy budou aktivně obcházet kontrolní mechanismy, dostáváme se na úroveň, kterou dnes známe spíš z teorie.
Právo stojí na předpokladu, že pravidla jsou vymahatelná. Pokud by vznikly systémy schopné systematicky obcházet dohled, bylo by to narušení samotné architektury právního státu. Proto je zásadní, aby regulace nebyla jen papírová, ale technologicky proveditelná.
Trh práce a právní profese
Zpráva zůstává opatrná ohledně dopadu na zaměstnanost. To je správné. AI zatím práci plošně neruší důsledně, byť se to prostě již dnes děje. Spíše však zatím mění její strukturu. Rutinní činnosti mizí, odpovědnost a kreativní rozhodování zůstávají.
Pro právníky to znamená jediné: kdo bude jen přepisovat texty, bude nahrazen. Kdo bude přemýšlet, nést odpovědnost, zastupovat a chápat širší kontext, ten zůstane. Právo samo se ale změní – přibude ochrana dat, otázky diskriminace a transparentnosti, ale i další již zmíněné oblasti ochrany.
Co z toho plyne?
Zpráva nepřináší konkrétní legislativní návrhy, ale rámuje debatu. A to je správně. Největší chybou by byla hysterie nebo naopak uspokojení, že „zatím se nic neděje“. Děje.
Technologie běží exponenciálně. Právo lineárně. To samo o sobě není problém – pokud právo začne přemýšlet včas.
Budoucnost bude ovlivněna tím, zda dokážeme nastavit pravidla tak, aby chránila lidskou důstojnost, bezpečnost a svobodu – a přitom neudusila inovace.
JUDr. Ondřej Preuss, Ph.D. je zakladatelem a šéfadvokátem kanceláře Dostupný advokát. Působí rovněž na katedře ústavního práva Právnické fakulty Univerzity Karlovy.
foto: Dostupný advokát
Dostupný advokát je hlavním partnerem legalwebu, v rámci této spolupráce byl publikován rovněž tento text.
Webové stránky Dostupného advokáta najdete na adrese https://dostupnyadvokat.cz.
