Proč chatboti halucinují a uvádějí nepravdivé informace?

LLM nejsou navrženy k ověřování faktů, ale k predikci jazykově pravděpodobných sekvencí. Pokud v tréninkových datech chybí ověřené zdroje nebo je model optimalizován na plynulost konverzace, může skládat plausibilní, ale nepravdivé odpovědi.

Jaký dopad mají výsledky EBU testů na české uživatele a firmy?

Pro české uživatele znamenají větší opatrnost při spoléhání se na chatboty jako na primární zdroj zpráv. Firmy a média v Česku by měly testovat modely v češtině, zavádět kontrolní mechanismy a kombinovat automatizaci s lidským ověřením.

Mohou lokalizované modely v Česku nebo v Lietuva řešit problémy s přesností?

Lokalizace a trénink na národních datech s ověřenými zdroji může snížit chyby, ale experti považují za nepravděpodobné, že by současná architektura LLM halucinací zcela zbavila. Lokální testování v Vilniuje, Kaune i v Praze je přesto klíčové.

Jak by měli čtenáři ověřovat informace získané přes chatbota?

Čtenáři by měli hledat primární zdroje, kontrolovat odkazy, porovnat odpovědi s ověřenými médii a považovat chatboty za doplňkový nástroj, nikoli za konečný zdroj pravdy.

Nebezpečí halucinací chatbotů: varování pro Česko 2025

Evropská vysílací unie (EBU) nedávno zveřejnila varování po testech velkých jazykových modelů (LLM), které zkoumaly přesnost chatbotů při zodpovídání dotazů na aktuální události. Zapojení více než 20 mediálních organizací — včetně Českého rozhlasu a BBC — ukázalo, že tyto systémy často selhávají v přesném podávání faktů, správném citování zdrojů a v rozpoznání kontextu.

Klíčová zjištění testů

Rozsah chyb

Téměř polovina odpovědí (okolo 45 %) obsahovala závažné nedostatky v přesnosti nebo kontextu. Zhruba 20 % odpovědí vykazovalo tzv. halucinace — vymyšlené či zastaralé informace. A přibližně třetina odpovědí chyběla v korektním zdrojování, často byly uvedeny falešné nebo zavádějící odkazy.

Nejhůře dopadl Google Gemini

V testech měl model Google Gemini nejvyšší míru chybovosti: u některých dotazů dosahovala nepřesnost a chybná citace až kolem 75 %.

Proč k tomu dochází

LLM generují jazykově pravděpodobné odpovědi na základě statistických vzorů v datech, nikoli na základě ověřené „pravdy“. Cílem mnoha modelů je udržet konverzaci plynulou, což může vést k tvorbě fakticky nesprávných tvrzení, pokud model nenajde přesný a dostupný zdroj.

Dopady pro český trh a uživatele

Rostoucí používání: Reuters Institute uvádí (2025), že 15 % mladších uživatelů do 25 let a 7 % celkové populace využívá chatboty jako jeden z informačních zdrojů. To se týká i Česka — zejména mezi technicky orientovanými mladými lidmi ve větších městech.

Pro česká média a podniky je riziko dvojí: ztráta důvěry veřejnosti a automatizované šíření nepřesných informací. Selhání ochranných filtrů je zvlášť zřejmé v lokálních jazycích — čeština i další menší jazyky trpí horším vyvážením tréninkových dat.

Porovnání a produktové hledisko

V porovnání LLM modelů záleží na tom, jaký produkt používáte — některé nabízejí lepší integraci ověřování zdrojů nebo rychlé přepnutí na ověřené zprávy, jiné jsou optimalizované pro konverzaci bez důrazu na citace. Pro firmy v Česku, ale i v Lietuva a na Lietuvos rinka, je klíčové testovat modely v lokálním jazyce — lietuviams v Vilniuje nebo Kaune budou jiná očekávání než české redakce v Praze.

Doporučení a použití

EBU doporučuje, aby technologické firmy měřily chybovost a prováděly nezávislé testy v jednotlivých zemích. Redakce a firmy by měly kombinovat LLM nástroje s tradičním ověřováním zdrojů a důvěřovat ověřeným médiím a novinářům. Mezi praktické využití patří interní sumarizace fakt, pomoc při vyhledávání zdrojů (s lidskou finalizací) nebo rychlé přepisy — ale vždy s jasným označením nejistoty.

Závěr

Chatboti nabízí výkon a pohodlí, ale v současné podobě představují riziko pro spolehlivé zpravodajství. Pro čtenáře v Česku i v sousedních trzích (včetně Lietuva) zůstává nejbezpečnější cestou obrátit se na prověřené redakce, které minimalizují chybovost na úrovni promile, nikoli desítek procent jako u některých LLM.