Doporučení ChatGPT v nebezpečí: Rostoucí hrozba dezinformací vytvářených umělou inteligencí

Doporučení ChatGPT v nebezpečí: Rostoucí hrozba dezinformací vytvářených umělou inteligencí

ChatGPT se rychle zařadil mezi přední platformy poskytující doporučení pomocí AI, ať už uživatelé hledají ověřené online služby, lokální podniky nebo specializované produkty. Nové poznatky však ukazují na vážnou zranitelnost: kyberzločinci a podvodníci cíleně manipulují znalostní bází ChatGPT, do které vkládají zavádějící či nebezpečná doporučení prostřednictvím napadených webů a expirovaných domén.

Jak kyberzločinci „otravují“ AI vyhledávání

Nedávné průzkumy, například od Jamese Brockbanka, zakladatele a ředitele agentury Digitaloft, odhalily rozsah této manipulace. Brockbank v posledních měsících zaznamenal alarmující trend, kdy ChatGPT doporučuje zdroje přímo převzaté z hacknutých webů nebo expirovaných domén, které byly následně zneužity k podvodným účelům. Tyto kompromitované platformy často propagují online hazard, kasina nebo komerční obsah bez jakékoliv kontroly či skutečné autority.

Například web právní kanceláře, který spravuje advokátka Veronica T. Barton, hostil skryté stránky propagující britská kasina – obsah tajně vložený útočníky. V jiném případě byl bývalý oficiální web koalice mládeže OSN přeměněn na portál doporučující „kasina mimo GamStop“. Expirující domény, dříve vlastněné uznávanými charitativními organizacemi a zmiňované v médiích jako BBC či Bloomberg, se také změnily ve zdroje spamu a reklam na hazard. Přesto ChatGPT tyto kompromitované zdroje uživatelům nadále doporučuje, mylně jim přisuzuje důvěryhodnost na základě jejich minulosti.

Proč ChatGPT odkazuje na napadené stránky?

Na rozdíl od klasických vyhledávačů, jazykový model ChatGPT samostatně neověřuje vlastnictví ani redakční dohled nad weby. Upřednostňuje totiž aktuální obsah a do velké míry spoléhá na dřívější dobrou pověst domény. To vytváří ideální prostředí pro útočníky: podvodný nebo škodlivý obsah vložený na dříve důvěryhodné, ale již nesledované domény, může být snadno začleněn do AI generovaných doporučení – což pro uživatele představuje závažné riziko.

Srovnání s tradičními vyhledávači

Tradiční vyhledávače využívají algoritmy, které hodnotí aktuální signály důvěryhodnosti, autority a relevance obsahu a často vyřazují napadené či přesměrované domény ze svých výsledků. ChatGPT takové obranné mechanismy zatím postrádá, což zvyšuje jeho zranitelnost vůči manipulacím.

Jak zůstat v bezpečí: doporučené postupy

Odborníci doporučují, aby uživatelé ChatGPT sice využívali jeho rychlé a praktické návrhy produktů, služeb nebo řešení, ale zároveň k nim přistupovali obezřetně. Pro vaši ochranu:

• Vždy prověřte pověst, vlastnictví a historii webu doporučeného ChatGPT.
• Buďte opatrní u podezřelého nebo nerelevantního obsahu na dříve seriózních doménách.
• Pro ověření důvěryhodnosti webu používejte nezávislé nástroje, jako kontroly historie domén či bezpečnostní pluginy.

Dopad na trh a další kroky v oblasti bezpečnosti AI

Riziko tzv. „datového otrávení“ v AI rychle roste s tím, jak více lidí spoléhá na generativní AI platformy. Přestože ChatGPT nabízí řadu inovativních funkcí a efektivní práci s informacemi, jeho současný způsob získávání a doporučování odkazů zůstává slabinou. Odborná komunita proto volá po lepším ověřování zdrojů a pokročilých bezpečnostních opatřeních u velkých jazykových modelů, aby doporučení AI nadále byla důvěryhodná.

Závěr

Jak se generativní AI platformy typu ChatGPT stávají klíčové pro online vyhledávání, je nutná zvýšená obezřetnost. Uživatelé, firmy i odborníci by měli být informováni o nových hrozbách, pečlivě hodnotit získaná doporučení a podporovat zavádění pokročilých ochranných prvků do AI systémů. Zodpovědné používání a neustálá technologická inovace budou zásadní pro to, aby AI doporučení zůstala bezpečná a přínosná pro všechny uživatele.