Späť na zoznam
Umelá inteligencia nemení len to, ako pracujeme. Mení samotné prostredie, v ktorom vzniká ľudský úsudok – a s ním aj právo
Keď sa dnes hovorí o umelej inteligencii, právnici sa prirodzene sústreďujú na jej reguláciu. Ako nastaviť pravidlá pre automatizované rozhodovanie? Kto nesie zodpovednosť za škodu spôsobenú algoritmom? Ako zabezpečiť transparentnosť systémov, ktorých vnútornej logike často nerozumejú ani samotní tvorcovia? To sú dôležité otázky. V ich pozadí sa však skrýva problém menej viditeľný, ale možno zásadnejší: čo ak umelá inteligencia nemení iba predmet právnej regulácie, ale aj samotné prostredie, v ktorom právo vzniká a je interpretované?
Otázky tohto druhu sa mi otvorili počas pražského večera 13. mája, keď bola pokrstená nová kniha niekdajšieho ústavného sudcu Pavla Holländera Racionalita práva aneb putování Platónovou úsečkou.
Právo totiž nikdy nestálo iba na normách a inštitúciách. Stálo aj na určitom obraze sveta. Na predpoklade, že realita je v zásade rozpoznateľná, že skutkové okolnosti možno zisťovať, že dôkazy majú vzťah k pravde a že človek je bytosť schopná racionálneho úsudku. Moderný právny štát vyrástol v prostredí, kde tieto predpoklady nikdy neboli absolútne, ale boli dostatočne stabilné na to, aby umožnili fungovanie spoločného poriadku.
Ohrozený spoločný jazyk
A práve tu sa dnes objavuje trhlina. Digitálne technológie, algoritmické platformy a generatívna umelá inteligencia nezasahujú iba do efektivity práce či štruktúry komunikácie. Zasahujú do podmienok, ktoré určujú, ako vôbec rozlišujeme medzi pravdou a fikciou, medzi autentickým a syntetickým, medzi skúsenosťou a jej simuláciou. To, čo sa mení, nie je len nástroj. Mení sa samotné prostredie, v ktorom vzniká ľudský úsudok.
Práve v tomto kontexte sa Holländerove úvahy v jeho novej knihe javia ako mimoriadne aktuálne. Racionalitu práva nechápe ako čisto technickú kategóriu – nejde mu iba o logickú bezrozpornosť či formálnu koherenciu právneho systému. Racionalita práva podľa neho predpokladá existenciu priestoru, v ktorom možno ešte rozlišovať medzi dôvodom a manipuláciou, medzi normou a chaosom, medzi pravdou a jej presvedčivou imitáciou. A tento priestor sa podľa neho začína oslabovať. Civilizácia sa po Platónovej úsečke poznania nepohybuje vpred, ale späť („cúva“), smerom k tieňom.
Platónova alegória jaskyne tak prestáva byť vzdialenou filozofickou metaforou a stáva sa modelom dnešnej situácie. Rozdiel oproti pôvodnému obrazu je však zásadný. Platónovi väzni sledovali pasívne tiene. Dnešné tiene sú aktívne vytvárané, personalizované a optimalizované pre konkrétneho používateľa. Algoritmy nielen sprostredkúvajú realitu, ale ju zároveň formujú – vyberajú, čo uvidíme, v akom poradí, v akom kontexte a s akou emocionálnou intenzitou.
Zatiaľ čo Platónova jaskyňa bola metaforou toho, ako prichádzame k poznaniu, digitálna jaskyňa sa stáva miestom, kde sa poznanie aktívne vytvára. Tiene už nie sú vedľajším efektom reality. Sú cielene konštruované ako nástroj orientácie, pozornosti a správania. Človek tak čoraz častejšie nevstupuje do spoločného sveta faktov priamo, ale prostredníctvom personalizovaného informačného prostredia. To neznamená, že spoločná realita úplne mizne. Znamená to však, že sa fragmentuje, filtruje a stáva sa menej zdieľanou.
A pre právny štát je to zásadný problém. Demokracia totiž predpokladá minimálne jadro spoločnej reality. Nie jednotu názorov, ale schopnosť viesť spor o interpretáciu faktov, ktoré majú aspoň základný spoločný referenčný rámec. Ak sa tento rámec oslabuje, oslabuje sa aj možnosť viesť verejnú diskusiu založenú na argumentoch. Právo potom prestáva byť spoločným jazykom, ktorým sa dohadujeme, čo platí a čo je záväzné, a začína sa meniť na nástroj koordinácie medzi paralelnými percepčnými svetmi.
Prenesené poznávanie na stroje
Obzvlášť zreteľné je to pri syntetických médiách. Deepfake video, generovaný hlas či text dnes dokážu presvedčivo simulovať realitu. Problém však nespočíva iba v možnosti podviesť. Ešte závažnejší je opačný efekt: keď človek postupne prestáva dôverovať aj tomu, čo je pravé. Vzniká tak prostredie, v ktorom prestáva byť autenticita intuitívne rozpoznateľná – a v ktorom môže jedna zo strán sporu spochybniť pravý zvukový či obrazový záznam iba tvrdením, že „mohol byť vygenerovaný“. To, čo bolo doteraz pri kamerovom zázname alebo hlasovej nahrávke samozrejmé – že zachytávajú realitu, kým niekto nepreukáže opak –, sa stáva podozrivým už z princípu.
Že nejde o teoretický problém, ukazuje aj reakcia trhu a regulátorov. Koncom mája 2026 oznámila platforma YouTube zavedenie systému automatického označovania videí, pri ktorých jej algoritmy detegujú výraznú prítomnosť fotorealistického obsahu vytvoreného umelou inteligenciou. Európska únia od augusta tohto roka zavádza povinné označovanie obsahu vytvoreného umelou inteligenciou v rámci AI Act. Pred právnou vedou však zostáva otvorená oveľa hlbšia otázka: či budú takéto technické označenia v súdnom konaní dôveryhodným dôkazom – a kto ponesie dôkazné bremeno v prípade, že označenie chýba, bolo odstránené alebo je chybné.
Ešte hlbší problém sa však týka samotného človeka. Práva totiž patria bytostiam, ktoré rozumejú pravidlám, dokážu sa nimi riadiť a niesť zodpovednosť za svoje konanie. Umelá inteligencia však dramaticky skracuje cestu medzi položenou otázkou a odpoveďou. Odstraňuje námahu, neistotu a pomalosť, ktoré boli tradične neodmysliteľnou súčasťou ľudského myslenia. Na prvý pohľad ide o pohodlie – zrýchľuje sa práca, sprístupňujú sa informácie, zvyšuje sa efektivita. Zároveň sa však mení samotný proces, v ktorom vzniká úsudok.
Holländer túto obavu formuluje veľmi priamo. Varuje, že moderné technológie môžu „neprimerane prispieť k nárastu ľudskej pasivity, zužovaniu priestoru vlastnej, samostatnej poznávacej, tvorivej a rozhodovacej aktivity, k prenášaniu poznávania, rozhodovania na stroj“.
Človek si totiž doteraz úsudok nevytváral iba samotnou odpoveďou. Vytváral si ho procesom, ktorý odpovedi predchádzal – hľadaním zdrojov, pochybovaním, omylom a korekciou. Práve tento proces budoval schopnosť rozlišovať. Ak sa však myslenie čoraz viac odovzdáva algoritmu, človek sa postupne presúva z pozície autora úsudku do pozície editora vygenerovaných riešení.
A tu sa dotýkame jadra problému. Sloboda neznamená iba absenciu donútenia. Predpokladá aj schopnosť človeka vytvárať si vlastný úsudok v prostredí, ktoré nie je trvalo manipulované architektúrou pozornosti.
Budú ľudia hľadať pravdu?
Hannah Arendt kedysi vo svojej knihe Původ totalitarismu napísala, že „ideálnym subjektom totalitnej vlády nie je presvedčený nacista alebo komunista, ale ľudia, pre ktorých prestal existovať rozdiel medzi skutočnosťou a fikciou a rozdiel medzi pravdou a nepravdou“. Práve túto vetu cituje aj pápež Lev XIV. vo svojej prvej encyklike Magnifica Humanitas, venovanej ochrane ľudskej osoby v ére umelej inteligencie, a to v úplne rovnakom kontexte. Hovorí, že „hľadanie pravdy je podstatným prvkom demokracie“ a „ľahostajnosť k pravde vedie, pomaly, ale isto, k zostupu do totalitarizmu“.
Táto zhoda nie je náhodná. Tam, kde sa oslabuje schopnosť kritického rozlišovania, už nejde iba o technologickú zmenu. Ide o zásah do základov právneho poriadku, demokracie ako takej a vlastne do základov, na ktorých stojí akékoľvek uvažovanie o tom, čo je správne – či už právne, alebo etické.
Holländer v tejto súvislosti pripomína slová Josého Ortegu y Gasseta o človeku 20. storočia ako o bytosti obklopenej „zázračnými nástrojmi, účinnými liekmi, prezieravými štátmi, pohodlnými právami“, ktorá však „nemá ani tušenia, aké ťažké je tieto lieky a nástroje vynájsť a zabezpečiť ich výrobu“. V ére generatívnej umelej inteligencie sa Ortegova diagnóza prehlbuje: nielenže nevieme, ako veci fungujú, ale prestávame mať aj zvyk chcieť to vedieť.
Ak sa oslabuje schopnosť človeka myslieť v súvislostiach, znášať neistotu a vytvárať si vlastný obraz sveta, oslabujú sa aj predpoklady, na ktorých stojí racionalita právneho štátu.
S tým úzko súvisí aj nová podoba moci. Digitálne platformy dnes neurčujú len to, čo je dostupné, ale aj to, čo je viditeľné. Organizujú pozornosť, formujú emocionálne reakcie a nepriamo spoluvytvárajú spoločenské rozhodovanie. Ide o moc nad architektúrou reality – pôsobiacu nie príkazom, ale výberom. Pre právny štát je to zásadná výzva, ktorá ho možno stavia pred novú historickú úlohu.
Dnes už nejde iba o reguláciu správania, ochranu základných práv a slobôd či pravidlá súdneho konania. Ide aj o ochranu prostredia, v ktorom si človek ešte dokáže vytvoriť vlastný úsudok. Pred právnou vedou sa tak otvárajú minimálne tri línie ďalšieho uvažovania.
Po prvé – ako má súdny proces zaobchádzať s dôkazmi v čase, keď je možné presvedčivo vyrobiť čokoľvek? Po druhé – má jednotlivec právo nebyť trvalo vystavený manipulácii pozornosti optimalizovanej podľa jeho osobného profilu? A po tretie – do akej miery máme my, občania, právo vedieť, podľa akých kritérií platformy rozhodujú o tom, čo nám ukážu a čo nie? Pretože bez tejto znalosti sa stáva problematickým aj zmysluplné uplatňovanie základných ľudských práv.
Z iného uhla pohľadu sa k tej istej téme vyjadruje aj pápež Lev XIV. Tam, kde Holländer hovorí o racionalite práva a o ochrane priestoru pre vlastný úsudok, pápežova encyklika hovorí o ľudskej dôstojnosti a varuje, že sa nesmieme uspokojiť s tým, že „odovzdáme úlohu nanovo vymedziť hranice ľudských možností“ algoritmu, „za ktorého rozhodnutia nikto nenesie zodpovednosť“. Sekulárny jazyk práva a teologický jazyk encykliky sa tak stretávajú v rovnakom poznaní: že ohrozená nie je iba efektivita inštitúcií, ale samotná podoba človeka, pre ktorého boli vybudované.
Stratené hranice vnímania
Aj preto sa mi pražský večer spojený s krstom Holländerovej knihy spätne javí ako viac než len príjemná kultúrna udalosť. Bol pripomenutím toho, že právo nemožno redukovať na techniku rozhodovania ani na súbor pravidiel. Je vždy aj výrazom civilizačného úsilia udržať priestor, v ktorom má racionalita ešte zmysel.
A možno práve tu sa skrýva najdôležitejšia otázka súčasnosti. Nejde len o to, či stroje začnú myslieť ako človek. Ide predovšetkým o to, či človek nestratí schopnosť myslieť ako človek – teda pochybovať, kriticky rozlišovať, niesť zodpovednosť a hľadať pravdu aj v situácii neistoty.
Keby sa táto schopnosť oslabila, právo by nečelilo iba technologickej výzve. Ocitlo by sa v prostredí, kde sa hranica medzi skutočnosťou a jej simuláciou postupne rozplynie. V prostredí, kde pravdivosť nahradí presvedčivosť a kde sa racionalita stáva skôr výnimkou než pravidlom.
V takom svete by Platónova jaskyňa prestala byť metaforou. Stala by sa opisom reality. A už by ani nešlo o to, či dokážeme rozoznať pravdu od ilúzie. Išlo by o to, či si ešte zachováme schopnosť rozpoznať, že medzi nimi vôbec nejaký rozdiel existuje.
Otázka, ktorá zostáva otvorená, teda nie je technická, ale antropologická: či právo dokáže zostať nástrojom rozumu aj v čase, keď našu realitu čoraz viac formujú algoritmy tieňov.
Poznámka:
Táto úvaha bola pôvodne napísaná pre český spoločensko-publicistický týždenník a online magazín Respekt a publikovaná v jeho rubrike Technologie pod názvom Algoritmy stínů – Zůstane právo nástrojem rozumu?. Autorom textu je Peter Štrpka, zakladajúci partner advokátskej kancelárie soukeník — štrpka.
