AI Act je z velké části účinný. Co se od 2. srpna změnilo?
Od 2. srpna začala být učinná část AI Actu, která přináší konkrétní povinnosti pro poskytovatele i uživatele systémů umělé inteligence. Pro firmy to znamená zejména povinnost identifikovat tzv. vysokorizikové systémy, provádět hodnocení rizik, dokumentovat procesy a zajistit transparentní komunikaci s uživateli. Nejde o formální hromadu pravidel, ale o jasný rámec, který firmám pomáhá využívat AI bezpečně a zodpovědně.
Jde to celkem v klidu zvládnout, ale je třeba se tomu věnovat. Nyní například budou platit jiná pravidla pro systémy, které už máte, a pro ty, které nově vyvinete.
Vaše firma nabízí poměrně ojedinělou související expertizu. Pokud se nepletu, máte v týmu kolegu, který se na přípravě AI Actu přímo podílel…
Ano, kolega Gregor Strojin se podílel přímo na přípravě legislativy na úrovni EU. Díky tomu chápeme nejen text AI Actu, ale máme bezprostřední přístup k informacím o praktických záměrech regulace. To nám umožňuje klientům vysvětlit, jak pravidla využít ve svůj prospěch – nejen z hlediska compliance, ale také k tomu, aby AI skutečně přinášela hodnotu, aniž by firma riskovala právní nebo reputační problémy.
Co v tuto chvíli jako poradci v souvislosti s náběhem AI Actu nabízíte?
Pomáháme firmám nastavit interní procesy a pravidla pro využívání AI – od mapování systémů a hodnocení rizik, přes dokumentaci a reporting, až po smluvní ujednání s poskytovateli AI řešení.
Co je důležité, jdeme s klienty krůček po krůčku, aby nad projektem měli kontrolu a průběžně viděli praktické přínosy, které z využití AI jejich organizace bude mít či rovnou má.
Klademe zároveň vždy důraz na etické principy a transparentnost, protože právě to AI činí v byznysu důvěryhodnou. Naším cílem je, aby klienti mohli využívat AI efektivně, legálně a zodpovědně.
Kterých firem a kterých podnikatelů se to všechno primárně týká?
Primárně se to nyní týká firem, které vyvíjejí nebo používají vysokorizikové AI systémy – například v medicíně, financích, dopravě nebo kritické infrastruktuře.
Postupně se ale povinnosti dotknou i širšího spektra podniků, protože AI proniká všude – od HR nástrojů přes marketing až po rozhodování o zákaznících. I menší firmy by měly sledovat, jaké technologie používají, a zda a jak se na ně zákon vztahuje. Na to se dá udělat i jen rychlý check…
Jak vy osobně radíte k umělé inteligenci v byznysu přistupovat?
Podle mne je chytré nepodceňovat ani možnosti, ani rizika. AI vás rozhodně neobejde a nenechá vaši firmu nedotčenou – ale není důvod k panice. Je třeba se v klidu podívat, kde se mne AI už nyní dotýká nebo pravděpodobně brzy dotkne. A připravit se na to.
Firmy by měly mít jasně nastavené procesy, zodpovědnost a dokumentaci, aby vše bylo v souladu s právem i etikou. Doporučuji začít v menším měřítku, testovat, kontrolovat a postupně škálovat – spíše než spěchat do rozsáhlých projektů bez kontroly.
My sami jdeme touto cestou. Máme vlastní AI nástroje kvůli maximální bezpečnosti dat. Tyto nabíhají do naší práce jednak intuitivně tím, že je mají všichni naši lidé k dispozici. A zároveň probíhají projektově řízené změny procesů tak, aby firma uměla AI co nejlépe využít a byla připravena na změny, které tato nová technologie ještě přinese. A těch nebude málo (úsměv).
(Příspěvek byl publikován v rámci spolupráce s partnerem legalwebu Deloitte Legal.)
