AI v soudní síni: Advokát z Utahu pokutován za právní podání vytvořené ChatGPT

AI v soudní síni: Advokát z Utahu pokutován za právní podání vytvořené s pomocí ChatGPT

Nedávná událost v Utahu upozorňuje na rizika a odpovědnost spojenou s využitím umělé inteligence v právní praxi. Místní advokát Richard Bednar byl pokutován poté, co soudu předložil odvolací podání obsahující nepravdivé právní odkazy a vymyšlenou judikaturu. Dokument, částečně vytvořený pomocí ChatGPT, obsahoval odkaz na smyšlený případ Royer v. Nelson, který neexistuje v žádné uznávané právní databázi a jeho původ šlo vystopovat pouze k AI generovanému obsahu.

Co selhalo? Incident s právním podáním vytvořeným umělou inteligencí ChatGPT

Podle informací ABC4 podali Bednar a jeho kolega Douglas Durbano nouzové odvolání ve prospěch svého klienta. Během soudního přezkoumání si však protistrana všimla, že některé citace a právní precedentní rozhodnutí neodpovídají žádnému reálnému případu a jednoznačně vykazují znaky generování umělou inteligencí. Další zkoumání potvrdilo, že část obsahu byla plně vytvořena nástroji AI, jako je ChatGPT, což vyvolalo obavy ohledně nekontrolovaného využívání AI v klíčových právních procesech.

Zodpovědnost a důsledky

Když byl Bednar v dubnu předvolán k soudu, otevřeně uznal svou chybu a převzal za ni odpovědnost. Vysvětlil, že původní návrh napsal nekvalifikovaný právní asistent, který k přípravě návrhu použil ChatGPT. Klíčové bylo, že Bednar před odevzdáním podání neověřil uváděné zdroje. Právní asistent, absolvent právnické fakulty, byl následně propuštěn. Soud také objasnil, že Durbano se na přípravě problematického dokumentu nepodílel. Advokátní kancelář nabídla náhradu právních nákladů protistraně.

Rostoucí úloha a limity umělé inteligence v právním výzkumu

Odvolací soud Utahu zdůraznil, že umělá inteligence typu ChatGPT má v právním výzkumu a dokumentaci čím dál větší využití. Zatímco AI nástroje mohou právníkům usnadnit práci a nabídnout nové možnosti, soud znovu potvrdil, že odpovědnost za správnost a přesnost všech údajů v právním podání nese výhradně advokát. Případ poukazuje na rizika nadměrného spoléhání na AI, zejména tam, kde je důležitá preciznost a důvěryhodnost právních dokumentů.

Pokuty a význam pro právní trh

Bednar byl povinen uhradit všechny právní náklady protistraně, vrátit klientovi poplatky související s chybným podáním a věnovat 1 000 dolarů organizaci And Justice for All. Tento případ nastavuje precedens pro zodpovědné využívání generativní umělé inteligence v právu i dalších oblastech a je varováním pro všechny právníky využívající AI bez pečlivé kontroly.

AI nástroje v právní praxi: Hlavní poučení

Přestože platformy s umělou inteligencí, jako je ChatGPT, nabízejí řadu výhod – například urychlení přípravy dokumentů nebo právního výzkumu – vyžadují pečlivou kontrolu, ověřování lidskou rukou a povědomí o jejich omezeních. Jak se umělá inteligence stává neoddělitelnou součástí profesí včetně práva, je důležité klást důraz na průběžné vzdělávání a zodpovědnost pro udržení důvěry a kvality v digitální éře.