4 Minuty
Někteří lidé používají ChatGPT jako vyhledávací pole. Jiní s ním komunikují stejně, jako by v 2 ráno psali příteli, když nemohou usnout. Druhý způsob použití posunul umělou inteligenci do oblasti mnohem vážnější než ukázky produktů a pomoc s kódováním, a OpenAI na to nyní reaguje funkcí navrženou pro okamžiky, kdy se konverzace zdá být nebezpečná.
Nový nástroj s názvem Trusted Contact se začíná zavádět v nastavení ChatGPT pro dospělé uživatele. Jeho účel je na papíře jednoduchý: umožnit uživateli vybrat jednu osobu, která může být upozorněna, pokud systém zaznamená vážné riziko sebepoškození. V praxi se OpenAI snaží vytvořit bezpečnostní síť, aniž by soukromé konverzace proměnila v automatická hlášení.
Nastavení je dobrovolné. Uživatelé mohou nominovat jednu důvěryhodnou osobu, ale tato osoba musí splňovat věkový požadavek: alespoň 18 let ve většině regionů, nebo 19 v Jižní Koreji. Po výběru obdrží kontakt pozvánku vysvětlující roli a má sedm dní na přijetí. Pokud odmítne, uživatel může vybrat někoho jiného.
Co následuje dál, je oblast, kde se OpenAI očividně snaží vyhnout překročení pravomocí. Upozornění nejsou odeslána automaticky ve chvíli, kdy systém zaznamená znepokojující výrazy. Nejprve ChatGPT oznámí uživateli, že jeho Trusted Contact může být upozorněn. Zároveň uživatele povzbuzuje, aby se obrátil přímo na někoho, a dokonce nabízí návrhy, jak takový rozhovor zahájit. Poté případ posoudí malá skupina speciálně školených lidských recenzentů. Až pokud potvrdí, že situace naznačuje vážné riziko sebepoškození, OpenAI odešle upozornění.
Upozornění může dorazit e-mailem, textovou zprávou nebo přes aplikaci. Neobsahuje záznamy chatu, citace ani shrnutí konverzace. Místo toho pouze informuje důvěryhodnou osobu, že bylo v znepokojujícím kontextu zmíněno sebepoškození, a vyzývá ji, aby se ozvala. OpenAI uvádí, že usiluje o dokončení lidského přezkumu do jedné hodiny.
Kde to zapadá do širší bezpečnostní iniciativy OpenAI
Toto se neobjevuje samostatně. OpenAI již zavedla bezpečnostní funkce spojené s účty dospívajících, včetně upozornění pro rodiče, když propojené účty vykazují známky tísně. Trusted Contact rozšiřuje tento koncept na dospělé, což hodně vypovídá o tom, jak společnost nyní vnímá využití ChatGPT. Chatbot už není jen asistent pro produktivitu. Pro mnohé uživatele se stal místem hluboce osobních, emocionálně vypjatých rozhovorů.
Podle OpenAI byla funkce vyvinuta za účasti kliniků, výzkumníků a organizací zabývajících se duševním zdravím, včetně Americké psychologické asociace. Tento externí přínos je důležitý. Jakýkoli nástroj, který se dotýká rizika sebepoškození, soukromí a reakce v krizi, se nachází v citlivé oblasti, kde rozhodnutí o designu nesou skutečné důsledky.
Existují také jasná omezení. Trusted Contact nenahrazuje krizovou linku, záchranné služby ani profesionální podporu duševního zdraví. OpenAI uvádí, že ChatGPT bude i nadále odkazovat uživatele na tyto zdroje, když to bude potřeba. Uživatelé mohou kdykoli zvolené kontakty odstranit nebo změnit a kontakt se může kdykoli odhlásit.
V této implementaci je také tiché poselství. OpenAI si přiznává něco, čemu se technologický průmysl už nějakou dobu vyhýbal: lidé už svá nejzranitelnější období přinášejí k AI chatbotům. Ať už to firmy zamýšlely nebo ne, už to moc nehraje roli. Toto chování je zde. Funkce jako Trusted Contact jsou pokusem reagovat na tuto skutečnost s větší opatrností, větší dávkou lidskosti a s uznáním, že i ten nejpokročilejší chatbot by neměl být jediným hlasem v místnosti, když se situace zhorší.
Zanechte komentář