Neuveriteľné zlyhanie právnika: Zneužitie umelej inteligencie v právnom systéme
V poslednom čase sa v americkej justícii objavil dramatický prípad, ktorý podčiarkuje riziká spojené s používaním umelej inteligencie (AI) v právnickej profesii. Advokát Bill Ghiorse bol odvolacím súdom v Oregone potrestaný pokutou vo výške 10 000 dolárov za to, že do svojho podania uviedol citácie a právne rozhodnutia, ktoré úplne vymyslel. Tieto fiktívne materiály vyprodukovala AI a on ich predložil ako reálne dôkazy.
Pôvodný spor sa týkal licencie na predaj marihuany, no najvýraznejším aspektom celej situácie sa stala skutočnosť, že Ghiorse vo svojom podaní uvádzal pätnásť neexistujúcich súdnych rozhodnutí a deväť citácií, ktoré nemali žiadny opodstatnený základ. Takýto postup nielenže narušil integritu právneho procesu, ale tiež vyvolal otázky o dôveryhodnosti právnych zastúpení a správnosti odborného konania.
Hrozba bez preverovania faktov
Problém sa objavil, keď protistrana už v apríli 2025 upozornila Ghiorsea, že citované prípady neexistujú. Nanešťastie, advokát toto varovanie ignoroval a konanie pokračovalo s chybnými dôkazmi ešte niekoľko mesiacov. Až odvolací súd začal detailnejšie preskúmavať jeho argumentáciu, čo vyústilo do rozsudku, ktorý varoval pred nezodpovedným používaním neoverených informácií.
Predseda senátu, sudca Scott Shorr, konštatoval, že predloženie neoverených alebo vymyslených materiálov je vážnym porušením profesijných zásad. V prostredí práva, kde je presnosť a dôveryhodnosť nevyhnutná, sa jedná o jeden z najzávažnejších prehreškov, ktoré môže advokát spáchať.
Umelá inteligencia nie je ospravedlnením
Počas súdneho konania sa Ghiorse bránil tým, že za tieto chyby môže AI, konkrétne nástroj podobný Googlu, ktorý mal generovať sporné citácie. Tento argument však súd neprijal, pričom zdôraznil, že konečná zodpovednosť za predložené informácie spočíva na advokátovi, nie na technológii, ktorú použil. Takéto rozdelenie zodpovednosti je dôležité, pretože poškodzuje celý právny systém, ak sa na technológiu spolieha bez dostatočného overovania.
V širšom kontexte právnickej praxe
Prípad Ghiorsea nie je izolovaný; skôr len odráža širšie problémy s využívaním generatívnych nástrojov v právnej praxi. Rovnako ako pri iných profesiách, aj právnici čelí dôsledkom „halucinácie“ umelej inteligencie, kde sú nástroje schopné generovať presvedčivo formulované, no absolútne nepravdivé informácie. Takéto situácie môžu mať dalekosiahle následky, pokiaľ ide o integritu právnych procesov.
V čase, keď umelá inteligencia preberá čoraz väčšiu úlohu v každodennej práci v rôznych profesiách, tento prípad slúži ako jasné varovanie. AI môže byť mocným nástrojom na zrýchlenie práce, avšak jeho nesprávne využívanie bez klauzúl na overenie faktov môže viesť k zavádzajúcim a potenciálne škodlivým výsledkom. Právo, etika, a zodpovednosť musia byť na prvom mieste, aby sa predišlo skresleniu skutočnosti a podkopaniu právneho systému.
