Díky AI je už dnes možné u soudu předkládat pozměněné důkazy

Soudnictví je poměrně konzervativní a většinou je na chvostu technologického vývoje. Už do něj sice pronikají prvky umělé inteligence, ale s jejím zdokonalováním a s tím, jak se zvyšuje její dostupnost, bude její vliv na justici sílit. Tak to vidí místopředseda Vrchního soudu v Praze Roman Horáček. V zahraničí už vidí využívání AI v praxi. „V České republice se bavíme, že je to nějaká budoucnost, ve skutečnosti už je to realita,“ popisuje rozdíl v přístupu v rozhovoru pro týdeník Ekonom. Mluví v něm i o tom, jak změny v rozhodování sporů vyvolávají i pochybnosti o spravedlivosti soudních procesů. „Když dojde k situaci, kdy občané a firmy budou mít pocit, že je možné cokoliv zfalšovat, soudní proces to zásadním způsobem dehonestuje a diskredituje,“ varuje.

Jak je na tom justice s digitalizací? Má v ní nějaké cíle, ale plní je?

Trpí stejnými problémy jako digitalizace celé státní správy. Ale byť to tak na první pohled nemusí vypadat, některé se již podařilo vyřešit. Například přesun spisů z papírové podoby do digitální i přesun systémů přepisu audiozáznamů pořízených v soudních síních do digitální podoby.

Měl by být vytvořen jednotný systém pro všechny soudní stupně?

Máte pravdu, v současnosti existuje jeden systém pro soudy prvního stupně a druhý pro vyšší soudy. Nyní se pracuje na jejich sjednocení. Není to ale jen otázka sjednocení, nýbrž i dalšího využití dat ze systémů. Musíme si říci, na co přesně je budeme používat. Měli bychom se posouvat i do vyšší úrovně práce se systémy.

Nebrání onomu posunu podfinancovanost soudního personálu? Těžko bude možné po něm vyžadovat vysokou odbornost v práci se sofistikovanějšími systémy.

Bez angažovanosti soudního personálu to určitě fungovat nebude. Osoby, které budou v procesu posouvání z papírové do digitální podoby angažovány, budou muset být na jiné úrovni, než byly do dneška. Zapisovatelce nebo soudnímu tajemníkovi dnes stačí práce s Wordem a s nějakým relativně jednoduchým databázovým systémem, ale fakticky s těmi daty nijak sofistikovaně nepracují. Ta potřeba bude v budoucnu vyšší, a tudíž bude potřeba i vzdělanější personál. A není to jen otázka justičního personálu, ale i soudců, kteří také budou muset být více vzděláni zejména v oblasti AI.

Proč zrovna v AI?

Už nebude stačit umět zapnout počítač. Půjde o formulaci a zadávání dotazu umělé inteligenci. Klíčová bude analytická část, ne technické zpracování či programování.

Vlivem nových technologií budou tedy soudci muset ovládat nové dovedností. Uvědomují si to?

Nedávno jsem udělal na LinkedInu dotazník a položil jsem v něm otázku: Považujete využití AI v justici za příležitost, nebo hrozbu? Zajímavé bylo, že 73 procent z těch, kteří odpověděli, hlasovalo pro možnost, že je to příležitost. Vychází mi z toho, že můj názor, že se justice kvalitativně vyvine, není ojedinělý. Dvě třetiny lidí, nejen ze soudního prostředí, vkládají ve využití umělé inteligence v justici velké naděje. Teď je spíše otázka, zda je dokážeme naplnit.

A připravuje se justice na ty změny? Jak to je se vzděláváním budoucích soudců v této oblasti?

Určité náznaky jsou. Justiční akademie například organizuje školení o umělé inteligenci pro soudce a justiční personál. Ale zatím nevidím nějakou zásadní změnu v přístupu. Tím, že justice je poměrně konzervativní, bohužel to nutně znamená, že je většinou až na chvostu technologického vývoje. A netýká se to jen umělé inteligence, ale všech technických inovací.

Měla by být technologická gramotnost součástí justičních zkoušek?

Myslím si, že ano. Dnes uchazeče o práci v justici na jakékoliv úrovni z této problematiky nikdo nezkouší. Systém předpokládá, že uchazeč umí zapnout počítač či psát ve Wordu. Dosud soudci stačilo nalézt nějaké rozhodnutí v právní databázi. Nyní musí umět zadat takový pokyn, aby za něj umělá inteligence udělala práci, kterou doteď dělal on. V přípravě budoucích soudců, ale i administrativy bychom se měli více věnovat vyšší úrovni informatiky, zejména analytice. Bude to podobné jako při rozhovoru mezi dvěma lidmi. Musím otázku zformulovat tak, aby mě umělá inteligence pochopila a odpověděla správně na to, na co se ptám.

Kde se v justici nástroje umělé inteligence již využívají?

V zahraničí už ano. Byl jsem překvapen tím, že v mnohých zemích je již umělá inteligence reálně využívána. Zjistil jsem například, že kanadský a singapurský nejvyšší soud již mají procesní předpisy, které upravují užití umělé inteligence v konkrétních řízeních. V České republice se bavíme, že je to nějaká budoucnost, ale ve skutečnosti to už je realita.

Tak jak o tom hovoříme, by umělá inteligence měla pomáhat. Zeptám se ale i na to, jaká rizika hrozí v souvislosti s jejím šířením. Rozhodování sporů a spravedlnost jsou přece citlivé a významné věci.

Je třeba si uvědomit, že s umělou inteligencí se v soudních řízeních již pracuje, a to nejen při činnosti soudů, ale i na straně účastníků. Ten problém není postaven pouze tak, že my jako justice se musíme digitalizovat, jak se to často zjednodušuje. Je tady i druhá strana mince. Někdo bude AI využívat, aniž to budeme chtít. To znamená například předkládání upravených důkazů v soudním řízení. Otázka zní, jestli to justice pozná. Já si myslím, že nyní ne.

Dá se s tímto manipulováním bojovat právě využitím AI?

Odpověď na tuto otázku v tuto chvíli nezná nikdo. Dnes se hledají nástroje, které by tento problém vyjasnily nejen technologicky, ale i právně. Máme například Akt o umělé inteligenci, který je jakousi první vlaštovkou. Ten ale není přímo zaměřen na justici. V té to bude spíše věcí obezřetnosti a vzdělanosti osob, které se v procesu budou vyskytovat.

Mění se tato vybavenost generačně?

Určitě ano. Mladá generace do třiceti let dnes s těmi nástroji běžně pracuje a vůbec jí to nepřijde zvláštní. Tak jako se dnes rodí děti, které umí ovládat mobilní telefon, aniž by jim to někdo ukázal, tak je generace právníků, která dnes nastupuje do praxe, technologicky mnohem vzdělanější. Do jisté míry automaticky přejímá možnosti umělé inteligence v právu a využívá je.

Spustili jste projekt Centra digitalizace a umělé inteligence v justici. Jaké jsou jeho hlavní úkoly?

Výstupem by měly být odpovědi na dvě zásadní otázky. Ta první je, jak posunout justici ve využívání umělé inteligence a moderních technologií. A druhá, jak zabránit zneužívání AI v řízeních před soudem. V obecné rovině jsme centrum založili zejména proto, aby justice v souvislosti s technologickými změnami obstála. Když selže, tedy když občané a firmy budou mít pocit, že je možné cokoliv zfalšovat, soudní proces to zásadním způsobem dehonestuje a diskredituje. To je zásadní problém, jelikož celá justice je založena na důvěře, byť to tak vždy nemusí vypadat.

Existují podle vás nějaké etické meze? K čemu by se umělá inteligence nikdy používat neměla?

Na tuto otázku je těžká odpověď i kvůli tomu, že vlastně stále nevíme, co všechno umí, a vývoj jde strašně rychle dopředu. Pro mě je třeba dnes nepřekonatelnou hranicí použití umělé inteligence v trestním řízení, i kvůli posuzování různých polehčujících a přitěžujících okolností. Na druhou stranu umělou inteligenci již dnes můžeme bez uzardění používat v techničtějších detailech řízení. Hranice jsou dnes nějak nastaveny, ale nemyslím si, že je to dogma, které bude nutně platit i v budoucnosti.

Nevytratí se z justice kvůli umělé inteligenci lidský faktor?

V centru jsme se ptali se občanů a firem. Čekal jsem jednoznačnou odpověď, že v justici musí být lidský prvek. Nebylo tomu tak. Výsledky byly zhruba půl na půl. Mnoho lidí vidí v tom určitém odosobnění výhodu, že se vytratí i pocity sympatie či antipatie, které soudce ovlivňují při rozhodování, byť by neměly.

Kdo by se zodpovídal z pochybení, ke kterému by došlo na základě zásahu umělé inteligence?

Vždy bude odpovídat soudce, který rozhodnutí vydá. Je úplně jedno, jaký nástroj pro tvorbu konečného rozhodnutí použije. Jestli to rozhodnutí nechá celé vygenerovat nějakým strojem, nebo jestli si jen nechá opravit pravopis Wordem. Týká se to nejen justice, ale všech oborů. Lékař si také nechává zkontrolovat CT snímky umělou inteligencí, jestli něco nepřehlédl, ale za výsledek odpovídá sám.