Ve veřejném prostoru se teď opět řeší halucinace umělé inteligence. Jaký je aktuální stav v právní tematice?
Tohle je opravdu důležité téma. „Halucinace“ umělé inteligence, tedy situace, kdy si AI vymýšlí nebo generuje nepravdivé informace, jsou v právní oblasti o to nebezpečnější, že právo je přesné „řemeslo”. Když vám AI poradí špatně při výběru restaurace, asi se nic zásadního nestane. Ale když si vymyslí paragraf nebo neexistující soudní rozhodnutí, může to mít vážné důsledky.
Dobrých zpráv ale máme několik. Jednak se modely pořád zlepšují — ať už jde o jejich trénink, nebo o to, jakým způsobem jsou propojeny s ověřenými databázemi. U nás v Dostupném advokátovi jsme třeba schopni AI využít tak, aby čerpala pouze z kvalitních a důvěryhodných zdrojů. To riziko omylu výrazně snižuje.
A myslím, že se postupně mění i přístup právníků. Umíme AI lépe zapojit do běžné práce – třeba jako velmi schopného asistenta, který rychle zpracuje podklady, ale finální rozhodnutí nechá na člověku. Tak je to podle mě správně.
Ve skutečnosti totiž není „chyba“ v AI, ale v tom, jak se používá. Neumí zázraky a tak se k tomu musí přistupovat v promtování.
Hrozí stále, že by si například AI mohla vymýšlet judikáty, nebo v tomto už vývoj pokročil?
Ano, tohle riziko stále existuje – zejména pokud AI používáte bez kontroly a bez napojení na důvěryhodné právní databáze. Když zadáte obecný právní dotaz do veřejného chatbotu, může se stát, že si vymyslí neexistující judikát, který zní důvěryhodně, ale ve skutečnosti nikdy nepadl. A to může být matoucí – hlavně pro lidi bez právního vzdělání.
Naštěstí se vývoj posunul správným směrem. Dnes už umíme AI „ukotvit“ – tedy propojit ji s konkrétní databází rozsudků, která ji vede ke skutečným rozhodnutím. To už není teorie, ale běžná praxe. I my s tím takto pracujeme: nenecháváme ji „hádat“, ale hledat ve spolehlivých zdrojích.
Takže ano, stále je potřeba být obezřetní, ale zároveň máme čím dál víc možností, jak těmto problémům předcházet. A pořád platí, že finální právní výstup má být pod dohledem zkušeného člověka – AI pomáhá, ale odpovědnost zůstává na nás. Ostatně se hovoří o tzv. legal promt engeneeringu.
Na webu Dostupného advokáta AI rovněž používáte. Jak jste vy zamezili tomu, aby k případným halucinacím nedocházelo?
Máme to nastavené tak, aby AI fungovala jako efektivní pomocník, ale nikoliv jako „vypravěč bez kontroly“. Jak jsem již naznačil, klíčové je, že naše AI čerpá výhradně z našich ověřených právních podkladů a databází soudních rozhodnutí. Když tedy odpovídá klientovi nebo připravuje návrh dokumentu, vychází z toho, co máme reálně prověřené a kvalitně zpracované.
Zároveň přesně víme, v jakých situacích má AI prostor, a kde už je potřeba lidské rozhodnutí. U nás třeba AI nenavrhuje právní strategii, ale pomáhá s vyhledáváním argumentů nebo orientací v právní situaci. A každý výstup stejně prochází právníkem, lze li to takto nehezky říci. I proto můžeme klientům garantovat vysokou kvalitu výstupu.
Nedávno jste spustili novou velkolepou sekci Zákony. Jak je právě v tomto ohledu umělá inteligence použitelná?
Ano, naší novou sekcí Zákony jsme chtěli lidem otevřít právní předpisy v podobě, která dává smysl i neprávníkům. A právě tady má umělá inteligence skvělou příležitost – může totiž pomáhat překládat právničtinu do běžné řeči, upozorňovat na klíčové změny v zákonech nebo zobrazovat související témata, která čtenáře skutečně zajímají.
AI již například dokáže pochopit, že když někdo čte občanský zákoník a řeší nájemní smlouvu, může ho zajímat i nájem bytu, výpovědní lhůty nebo vzor smlouvy. Jinými slovy: AI pomáhá zobrazit kontext a propojit zákony s praktickými situacemi.
Zároveň ke každému zákonu připravujeme i stručné shrnutí, které AI generuje na základě jeho obsahu – tak, aby si čtenář mohl během pár vteřin udělat obrázek, co daná právní úprava řeší, a nemusel se hned prokousávat paragrafy.
Do budoucna plánujeme ještě víc – třeba to, aby AI rovnou vysvětlila složitý paragraf lidskou řečí nebo nabídla odpovědi na typické otázky, které kolem něj běžně v praxi vznikají. Naším cílem není nahradit právníka, ale zpřístupnit právo co největšímu počtu lidí. A v tom je AI neuvěřitelně silný pomocník.
