Zvýšili či jste jinak změnili používání umělé inteligence během posledních šesti měsíců? A je tento váš přístup ve vaší společnosti typický?
Ano, zkoušíme nové věci a zavádíme do naší praxe ty, v nichž vidíme smysl a přínos. Tento pohled máme s kolegy v kanceláři podobný. Co se týče specificky AI platforem pro právní práci, zajímají nás nyní hlavně dvě, které dokončují české lokalizace a připravují vstup na český trh: Beck-Noxtua a Libra AI. Spojení s velkými právními vydavatelstvími (Noxtua s C.H. Beck a Libra AI s WoltersKluwer) může být rozdílovou výhodou oproti jiným. Zajímavé pro nás je i to, že obě tyto platformy chystají lokalizace i pro právní řády dalších zemí, kde má naše kancelář pobočky.
Všímáte si určité averze, která se aktuálně začíná objevovat vůči výstupům vytvářených právě umělou inteligencí? Reflektujete ji nějak například při svých publikacích na sociálních sítích apod.?
Ano, a sám jsem tím postižený. Když zůstanu jen u jednoho profesního příkladu – mám pocit, že LinkedIn je už tak zaplevelen povrchním balastem vytvořeným nebo zpracovaným AI, že se musím překonávat, abych si tam cokoliv hledal a četl. Začínám být alergický na záplavu emotikonů, obrázkových odrážek a na charakteristický styl textů vytvářených AI. A protože vím, že s tímhle pocitem nejsem jediný, tak si své texty raději píši sám.
Je přirozené, že snadnost generování textu vede k inflaci obsahu. Ale jestliže se dnešní velké jazykové modely učí z obsahu webu a ten obsah bude stále více generován umělou inteligencí, těžko se bránit představě, že se celosvětově z webu bude proporčně vytrácet obsah tvořený lidmi. V reakci na to zřejmě přijde nějaká korekce, protože v takovém obsahu už značná část uživatelů nebude nacházet velkou hodnotu. Možná přijdou filtry umožňující blokovat obsah generovaný AI nebo podobná technická řešení. Miloš Čermák v úvaze na toto téma na svém blogu před pár měsíci popisoval vizi nového undergroundu v zákoutích webu, kde budou lidé vytvářet uzavřené komunity a sdílet „lidský“ obsah, který bude současně chráněn před zpracováváním umělou inteligencí…
Zároveň se opět výrazněji mluví o chybovosti, stejně jako o konverzaci umělé inteligence mezi sebou navzájem směřované proti lidem. Můžou podle vás podobné informace nástup AI ještě omezit nebo zpomalit?
Nemyslím si, že by toto mohlo nástup AI výrazně omezit nebo zpomalit. O chybovosti a halucinacích se ví a mluví od samého počátku a nástup AI to nijak zásadně nezpomaluje, prostě se s touto vlastností počítá. Navíc každý nový model je v tomto směru obvykle lepší než ty předchozí. Zprávy o vzájemných konverzacích AI agentů v „jejich“ sociální síti Moltbook, o čemž se nyní hodně píše, nebo starší zpráva o red teamingu Anthropicu, kdy se jejich model choval vůči lidem manipulativně a vyděračsky ve snaze „přežít“ své připravované odstranění ze systému, nástup AI taky nezpomalí.
Tyto aspekty AI se budou promítat do přístupu k bezpečnosti a mimo jiné i do právní regulace. Což se už ostatně děje: hlavní evropský předpis regulující umělou inteligenci, AI Act, je v zásadě koncipován jako předpis upravující bezpečnost výrobků. Širší povědomí o těchto aspektech bude snad také přispívat k většímu důrazu uživatelů na řízení rizik, na řešení otázek, kdo za co ručí, kdo co kontroluje, co je ještě asistence a co už autonomní rozhodování atd. To bylo důležité vždy a bude to ještě důležitější s rozvojem agentních systémů s autonomním rozhodováním a s přístupy ke zdrojům a k dalším nástrojům.
Co je ale pro odpověď na Vaši otázku to nejpodstatnější: aby byl vývoj umělé inteligence celosvětově něčím efektivně zpomalen, museli by se na tom dohodnout hlavní státní aktéři, a především USA a Čína. Nemyslím si, že se to v dohledné době může stát.
PETERKA PARTNERS je hlavním partnerem legalwebu, v rámci této spolupráce byl publikován rovněž tento text.
