2 Minuty
AI v právu: Soudy varují před neopatrným používáním umělé inteligence
Nasazení umělé inteligence, zejména moderních jazykových modelů jako ChatGPT, začalo zásadně proměňovat různé obory – právnictví nevyjímaje. Nejvyšší soud Anglie a Walesu však vydal významné varování právníkům, kteří by mohli na AI systémy při právním výzkumu či přípravě dokumentů spoléhat příliš a bez dostatečné kontroly.
Přelomový verdikt upozorňuje na rizika neověřených dat generovaných AI
V nedávném rozhodnutí soudkyně Victoria Sharp upozornila, že ačkoliv platformy s umělou inteligencí představují velký potenciál pro zefektivnění právní práce, nelze se na ně v oblasti právního výzkumu zatím plně spolehnout. Zdůraznila, že AI nástroje mohou generovat informace, které sice zní věrohodně, avšak bývají nepřesné nebo zcela smyšlené – tento jev je známý jako „halucinace AI“.
Lidská kontrola zůstává klíčovou odpovědností
Soud nepřikazuje právníkům absolutní zákaz používání umělé inteligence. Namísto toho zdůrazňuje, že právníci mají povinnost veškeré informace vytvořené AI důkladně ověřovat podle důvěryhodných právních zdrojů. Kontrola a pečlivost při práci zůstávají zásadním profesním závazkem vůči soudům i klientům. Nedostatečné ověření může vést k vážným následkům – pokutám, kárným opatřením či v krajních případech dokonce k policejnímu vyšetřování.
Reálné případy ukazují možná nebezpečí
Rozhodnutí soudu se opíralo o dva nedávné případy, kdy právníci uvedli v oficiálních podáních falešné či neexistující odkazy, často právě kvůli nekontrolovanému využití AI. V jednom z případů bylo smyšlených 18 ze 45 citovaných zdrojů, v jiném se objevilo pět vymyšlených soudních precedentů. Ačkoliv soud tentokrát nepřistoupil ke stíhání pro pohrdání soudem, soudkyně Sharp naznačila, že podobné pochybení budou v budoucnu posuzována mnohem přísněji.
Dopad na trh právních technologií
Oblast právních technologií díky umělé inteligenci rychle inovuje a AI nástroje pro právní výzkum přinášejí výrazné časové i finanční úspory oproti tradičním metodám. Produkty typu ChatGPT vynikají v porozumění právnímu textu a rychlé přípravě návrhů či sumarizací. Varování soudu ale znovu potvrzuje, že tyto nástroje mohou být pouze doplňkem lidské expertízy – nikoliv její náhradou. AI v právní praxi dnes znamená především zvýšení efektivity, ovšem vždy s důslednou lidskou kontrolou výstupů.
Doporučení pro advokátní kanceláře a regulátory
Po přelomovém rozhodnutí byly právní instituce ve Velké Británii, včetně Bar Council a Law Society, vyzvány k posílení vzdělávání i dohledu. Cílem je, aby všichni právníci rozuměli omezením a rizikům AI v právních procesech. Jak zdůraznila soudkyně Sharp, dodržování vysokých profesních standardů je klíčové pro zachování integrity právního systému, a to i v době rychlé digitální inovace.
Komentáře