Algoritmy stínů – Zůstane právo nástrojem rozumu?

Zakladajúci partner advokátskej kancelárie soukeník — štrpka, Peter Štrpka, publikoval v českom spoločensko-publicistickom týždenníku a online magazíne Respekt esej o tom, či právo dokáže zostať nástrojom rozumu aj v čase, keď ľudský úsudok čoraz výraznejšie ovplyvňuje umelá inteligencia. Text vyšiel v rubrike Technologie pod názvom Algoritmy stínů – Zůstane právo nástrojem rozumu? a na našej stránke ho prinášame v pôvodnom českom znení.  

Umělá inteligence nemění jen to, jak pracujeme. Mění samotné prostředí, v němž vzniká lidský úsudek – a s ním i právo

Když se dnes hovoří o umělé inteligenci, právníci se přirozeně soustředí na její regulaci. Jak nastavit pravidla pro automatizované rozhodování? Kdo nese odpovědnost za škodu způsobenou algoritmem? Jak zajistit transparentnost systémů, jejichž vnitřní logice často nerozumí ani samotní tvůrci? To jsou důležité otázky. V jejich pozadí se však skrývá problém méně viditelný, ale možná zásadnější: co když umělá inteligence nemění pouze předmět právní regulace, ale i samotné prostředí, v němž právo vzniká a je interpretováno?

Otázky tohoto druhu se mi otevřely během pražského večera 13. května, kdy byla pokřtěna nová kniha někdejšího ústavního soudce Pavla Holländera Racionalita práva aneb putování Platónovou úsečkou.

Právo totiž nikdy nestálo pouze na normách a institucích. Stálo také na určitém obrazu světa. Na předpokladu, že realita je v zásadě rozpoznatelná, že skutkové okolnosti lze zjišťovat, že důkazy mají vztah k pravdě a že člověk je bytost schopná racionálního úsudku. Moderní právní stát vyrostl v prostředí, kde tyto předpoklady nikdy nebyly absolutní, ale byly dostatečně stabilní, aby umožnily fungování společného řádu.

Ohrožený společný jazyk

A právě zde se dnes objevuje trhlina. Digitální technologie, algoritmické platformy a generativní umělá inteligence nezasahují pouze do efektivity práce či struktury komunikace. Zasahují do podmínek, které určují, jak vůbec rozlišujeme mezi pravdou a fikcí, mezi autentickým a syntetickým, mezi zkušeností a její simulací. To, co se mění, není jen nástroj. Mění se samotné prostředí, v němž vzniká lidský úsudek.

Právě v tomto kontextu se Holländerovy úvahy v jeho nové knize jeví jako mimořádně aktuální. Racionalitu práva nechápe jako čistě technickou kategorii – nejde mu pouze o logickou bezrozporovitost či formální koherenci právního systému. Racionalita práva podle něj předpokládá existenci prostoru, v němž lze ještě rozlišovat mezi důvodem a manipulací, mezi normou a chaosem, mezi pravdou a její přesvědčivou imitací. A tento prostor se podle něj začíná oslabovat. Civilizace se po Platónově úsečce poznání nepohybuje vpřed, ale zpět („couvá“), směrem ke stínům.

Platónova alegorie jeskyně tak přestává být vzdálenou filozofickou metaforou a stává se modelem dnešní situace. Rozdíl oproti původnímu obrazu je však zásadní. Platónovi vězni sledovali pasivně stíny. Dnešní stíny jsou aktivně vytvářeny, personalizovány a optimalizovány pro konkrétního uživatele. Algoritmy nejen zprostředkovávají realitu, ale zároveň ji formují – vybírají, co uvidíme, v jakém pořadí, v jakém kontextu a s jakou emocionální intenzitou.

Zatímco Platónova jeskyně byla metaforou toho, jak docházíme k poznání, digitální jeskyně se stává místem, kde se poznání aktivně vytváří. Stíny již nejsou vedlejším efektem reality. Jsou cíleně konstruovány jako nástroj orientace, pozornosti a chování. Člověk tak stále častěji nevstupuje do společného světa faktů přímo, ale prostřednictvím personalizovaného informačního prostředí. To neznamená, že společná realita zcela mizí. Znamená to však, že se fragmentuje, filtruje a stává se méně sdílenou.

A pro právní stát je to zásadní problém. Demokracie totiž předpokládá minimální jádro společné reality. Ne jednotu názorů, ale schopnost vést spor o interpretaci faktů, které mají alespoň základní společný referenční rámec. Pokud se tento rámec oslabuje, oslabuje se i možnost vést veřejnou diskusi založenou na argumentech. Právo pak přestává být společným jazykem, kterým se domlouváme, co platí a co je závazné, a začíná se měnit v nástroj koordinace mezi paralelními percepčními světy.

Přenesené poznávání na stroje

Zvláště zřetelné je to u syntetických médií. Deepfake video, generovaný hlas či text dnes dokážou přesvědčivě simulovat realitu. Problém však nespočívá jen v možnosti podvést. Ještě závažnější je opačný efekt: když člověk postupně přestává důvěřovat i tomu, co je pravé. Vzniká tak prostředí, v němž přestává být autenticita intuitivně rozpoznatelná – a v němž může jedna ze stran sporu zpochybnit pravý zvukový či obrazový záznam pouhým tvrzením, že „mohl být vygenerován“. To, co bylo dosud u kamerového záznamu nebo hlasové nahrávky samozřejmé – že zachycují realitu, dokud někdo neprokáže opak –, se stává podezřelým už z principu.

Že se nejedná o teoretický problém, ukazuje i reakce trhu a regulátorů. Koncem května 2026 oznámila platforma YouTube zavedení systému automatického označování videí, u nichž její algoritmy detekují výraznou přítomnost fotorealistického obsahu vytvořeného umělou inteligencí. Evropská unie od srpna tohoto roku zavádí povinné označování obsahu vytvořeného umělou inteligencí v rámci AI Act. Před právní vědou však zůstává otevřená mnohem hlubší otázka: zda budou taková technická označení v soudním řízení důvěryhodným důkazem – a kdo ponese důkazní břemeno v případě, že označení chybí, bylo odstraněno nebo je chybné.

Ještě hlubší problém se však týká samotného člověka. Práva totiž náleží bytostem, které rozumějí pravidlům, dokážou se jimi řídit a nést odpovědnost za své jednání. Umělá inteligence však dramaticky zkracuje cestu mezi položenou otázkou a odpovědí. Odstraňuje námahu, nejistotu a pomalost, které byly tradičně neodmyslitelnou součástí lidského myšlení. Na první pohled jde o pohodlí – zrychluje se práce, zpřístupňují se informace, zvyšuje se efektivita. Zároveň se však mění samotný proces, v němž vzniká úsudek.

Holländer tuto obavu formuluje velmi přímo. Varuje, že moderní technologie mohou „nepřiměřeně přispět k nárůstu lidské pasivity, zužování prostoru vlastní, samostatné poznávací, tvůrčí a rozhodovací aktivity, k přenášení poznávání, rozhodování na stroj“.

Člověk si totiž dosud úsudek nevytvářel pouze samotnou odpovědí. Vytvářel si jej procesem, který odpovědi předcházel – hledáním zdrojů, pochybováním, omylem a korekcí. Právě tento proces budoval schopnost rozlišovat. Je-li však myšlení stále více předáváno algoritmu, člověk se postupně přesouvá z pozice autora úsudku do pozice editora vygenerovaných řešení.

A zde se dotýkáme jádra problému. Svoboda neznamená pouze absenci donucení. Předpokládá také schopnost člověka vytvářet si vlastní úsudek v prostředí, které není trvale manipulováno architekturou pozornosti.

Budou lidé hledat pravdu?

Hannah Arendt kdysi ve své knize Původ totalitarismu napsala, že „ideálním subjektem totalitní vlády není přesvědčený nacista nebo komunista, ale lidé, pro které přestal existovat rozdíl mezi skutečností a fikcí a rozdíl mezi pravdou a nepravdou“. Právě tuto větu cituje i papež Lev XIV. ve své první encyklice Magnifica Humanitas, věnované ochraně lidské osoby v éře umělé inteligence, a to ve zcela stejném kontextu. Říká, že „hledání pravdy je podstatným prvkem demokracie“ a „lhostejnost k pravdě vede, pomalu ale jistě, k sestupu do totalitarismu“.

Tato shoda není náhodná. Tam, kde se oslabuje schopnost kritického rozlišování, již nejde pouze o technologickou změnu. Jde o zásah do základů právního řádu, demokracie jako takové a vlastně do základů, na nichž stojí jakékoli uvažování o tom, co je správné – ať už právní, nebo etické.

Holländer v této souvislosti připomíná slova Josého Ortegy y Gasseta o člověku 20. století jako o bytosti obklopené „zázračnými nástroji, účinnými léky, prozíravými státy, pohodlnými právy“, která však „nemá ani tušení, jak těžké je tyto léky a nástroje vynalézt a zajistit jejich výrobu“. V éře generativní umělé inteligence se Ortegova diagnóza prohlubuje: nejenže nevíme, jak věci fungují, ale přestáváme mít i zvyk to chtít vědět.

Pokud se oslabuje schopnost člověka myslet v souvislostech, snášet nejistotu a vytvářet si vlastní obraz světa, oslabují se i předpoklady, na nichž stojí racionalita právního státu.

S tím úzce souvisí i nová podoba moci. Digitální platformy dnes neurčují jen to, co je dostupné, ale i to, co je viditelné. Organizují pozornost, formují emocionální reakce a nepřímo spoluvytvářejí společenské rozhodování. Jde o moc nad architekturou reality – působící nikoli příkazem, ale výběrem. Pro právní stát je to zásadní výzva, která jej možná staví před nový historický úkol.

Dnes již nejde pouze o regulaci chování, ochranu základních práv a svobod či pravidla soudního řízení. Jde také o ochranu prostředí, ve kterém si člověk ještě dokáže vytvořit vlastní úsudek. Před právní vědou se tak otevírají minimálně tři linie dalšího uvažování.

Zaprvé – jak má soudní proces zacházet s důkazy v době, kdy je možné přesvědčivě vyrobit cokoli? Zadruhé – má jednotlivec právo nebýt trvale vystaven manipulaci pozornosti optimalizované podle jeho osobního profilu? A zatřetí – do jaké míry máme my, občané, právo vědět, podle jakých kritérií platformy rozhodují o tom, co nám ukážou a co ne? Protože bez této znalosti se stává problematickým i smysluplné uplatňování základních lidských práv.

Z jiného úhlu pohledu se k témuž tématu vyjadřuje i papež Lev XIV. Tam, kde Holländer hovoří o racionalitě práva a o ochraně prostoru pro vlastní úsudek, papežova encyklika hovoří o lidské důstojnosti a varuje, že se nesmíme spokojit s tím, že „předáme úkol nově vymezit hranice lidských možností“ algoritmu, „za jehož rozhodnutí nikdo nenese odpovědnost“. Sekulární jazyk práva a teologický jazyk encykliky se tak setkávají ve stejném poznání: že ohrožena není pouze efektivita institucí, ale samotná podoba člověka, pro něhož byly vybudovány.

Ztracené hranice vnímání

I proto se mi pražský večer spojený s křtem Holländerovy knihy zpětně jeví jako více než pouhá příjemná kulturní událost. Byl připomenutím toho, že právo nelze redukovat na techniku rozhodování ani na soubor pravidel. Je vždy také výrazem civilizačního úsilí udržet prostor, v němž má racionalita ještě smysl.

A možná právě zde se skrývá nejdůležitější otázka současnosti. Nejde jen o to, zda stroje začnou myslet jako člověk. Jde především to, zda člověk neztratí schopnost myslet jako člověk – tedy pochybovat, kriticky rozlišovat, nést odpovědnost a hledat pravdu i v situaci nejistoty.

Kdyby se tato schopnost oslabila, právo by nečelilo pouze technologické výzvě. Ocitlo by se v prostředí, kde se hranice mezi skutečností a její simulací postupně rozplyne. V prostředí, kde pravdivost nahradí přesvědčivost a kde se racionalita stává spíše výjimkou než pravidlem.

V takovém světě by Platónova jeskyně přestala být metaforou. Stala by se popisem reality. A už by ani nešlo o to, zda dokážeme rozeznat pravdu od iluze. Šlo by o to, zda si ještě zachováme schopnost rozpoznat, že mezi nimi vůbec nějaký rozdíl existuje.

Otázka, která zůstává otevřená, tedy není technická, ale antropologická: zda právo dokáže zůstat nástrojem rozumu i v době, kdy naši realitu stále více formují algoritmy stínů.