ChatGPT a falešné obchody: jak se chránit online bezpečně

Někdo klikl na odkaz, který vypadal oficiálně. Cena byla příliš dobrá, aby byla pravdivá. Balíček nikdy nedorazil. Bankovní účet byl vyprázdněn. Nejedná se o technologický thriller. Je to vzorec, který bezpečnostní výzkumníci nyní pozorují tam, kde se konverzační AI setkává s online podvody.

Nedávné vyšetřování služby Ask Silver zjistilo, že ChatGPT může zobrazovat přesvědčivé, ale falešné internetové obchody, když se uživatelé ptají na produkty známých britských značek, jako jsou Russell & Bromley nebo Dunelm. Lákačské slevy. Věrohodné prezentace obchodů. Odkazy, které směřují zákazníky na klony webů vytvořené za účelem krádeže peněz a platebních údajů.

Když se tréninková data stanou slabým článkem

Útočníci rozmístí škodlivé stránky po webu. Tyto stránky jsou procházeny, indexovány a, když nastane vhodný okamžik, začleněny do zdrojů, které krmí velké jazykové modely. Výsledkem je to, čemu odborníci říkají otrávení dat: model se učí z podvodných stránek a pak stejná špatná doporučení opakuje běžným uživatelům.

Anna Jones ze služby Ask Silver říká, že zločinci někdy zneužívají neobvyklé okamžiky v životním cyklu značky, jako změnu vlastnictví nebo dočasné nedostupnosti oficiálního webu, aby AI poskytli falešné odkazy a jejich stránky tak působily legitimně. Trik je jednoduchý. Vytvořte věrohodnou stránku. Nechte ji vypadat jako skutečný obchod. Poté nechte model, aby ji vybral a doporučil.

Lewis Baxter, který vede tým proti podvodům u National Trading Standards ve Spojeném království, varuje, že pouhá přítomnost webu v odpovědi AI není razítkem autenticity. Lidé se obracejí na chatboty pro rychlé nákupní rady. Podvodníci se přizpůsobili stejně rychle. Vidět přesvědčivý odkaz v odpovědi chatbota může zákazníka uklidnit natolik, že přeskočí základní kontroly.

Falešné obchody popisované v reportech jsou často znepokojivě propracované. Používají doménová jména blízká opravdovým značkám — přidávají slova jako onlineuk nebo official vedle známého jména — a inzerují prudké slevy, někdy až 80 procent, aby přiměly kupující jednat bez přemýšlení. Mnohé z těchto stránek přijímají pouze bankovní převody, což je další varovný signál.

Vždy ověřujte prodejce přímo: vyhledejte obchod podle názvu, zkontrolujte oficiální web a nikdy neplaťte bankovním převodem, pokud si nejste jisti, že prodejce je legitimní.

Co tedy mohou uživatelé udělat právě teď? Zpomalte. Pečlivě si přečtěte URL. Dávejte pozor na přidaná slova, neobvyklé přípony a překlepy. Upřednostňujte platební karty nebo metody, které nabízejí ochranu kupujícího. Pokud stránka trvá na bankovním převodu, považujte to za silný signál k odchodu. Když je to možné, napište název prodejce do vyhledávače nebo přejděte na něj přes důvěryhodnou záložku místo klikání na odkaz nabízený chatbotem.

• Zkontrolujte doménu pozorně kvůli přidaným slovům nebo neznámým koncovkám.
• Hledejte kontaktní údaje a ověřitelné sociální důkazy.
• Vyhněte se platebním možnostem pouze přes bankovní převod.
• Používejte kreditní karty nebo platební služby s ochranou kupujícího.

OpenAI uvádí, že identifikované podvodné stránky odstranila ze zobrazení modelu a nabízí způsob, jak uživatelé mohou nahlásit problematické odkazy. Užitečné. Potřebné. Ale ne úplné řešení. Modely se učí z velkých částí webu a útočníkům stačí vytvořit několik přesvědčivých stránek, aby způsobili škodu.

Nakonec je odpovědnost sdílená. Technické týmy musí zpevnit pipeline modelu a detekovat otrávení dat. Platformy musí zlepšit prověřování odkazů. A kupující musí brát návrhy AI jako výchozí bod, ne jako doporučení. Zachovejte zvědavost. Držte opatrnost blíže.