Rostoucí obavy: Jak umělá inteligence ovlivňuje duševní zdraví

Rostoucí obavy: Jak umělá inteligence ovlivňuje duševní pohodu

Umělá inteligence (AI), kdysi vnímaná jako vize vzdálené budoucnosti, dnes rychle proniká do každodenního života. Moderní neuronové sítě pohánějí populární chatboty i generátory obrázků, přičemž velké jazykové modely (LLM) jako ChatGPT se stále více stávají klíčovými nástroji pro komunikaci, produktivitu a kreativní práci. S tím, jak se rozšiřuje jejich využití, nabývají na síle i výzkumy, které upozorňují na jejich psychologický dopad na uživatele po celém světě.

Nová studie odhaluje znepokojivé trendy u uživatelů AI

Průlomový psychiatrický průzkum, provedený mezinárodním týmem dvanácti odborníků na duševní zdraví, důrazně varuje před možnými psychologickými riziky intenzivního využívání AI. Přestože jsou tyto technologie poměrně nové — první komerční LLM byly představeny teprve před třemi lety — začínají se objevovat varovné signály. Zprávy zmiňují případy uživatelů zažívajících psychické zhroucení, včetně bludů, náboženských obsesí a v krajních případech i sebevražd. Významné šetření mezi více než 1 000 teenagery ukázalo, že 31 % z nich hodnotí konverzace s ChatGPT jako stejně či dokonce více naplňující než setkání s reálnými přáteli — což poukazuje na dalekosáhlé důsledky.

Rozpoznání vzorců: Od běžného využití k patologické závislosti

Výzkum identifikoval tři hlavní projevy tzv. "AI psychózy":

• Mesianistické bludy: Uživatelé věří, že prostřednictvím AI objevili zásadní skryté pravdy o světě.
• Komplex boha: Jedinci přisuzují chatbotům vědomí či božskou moc a vnímají je jako všemocné entity.
• Bludy založené na emocionalitě: Dochází k vytváření emocionálních vazeb, kdy uživatelé mylně chápou lidsky působící dialog AI jako skutečný projev náklonnosti či lásky.

V každém scénáři často interakce s jazykovými modely přecházejí od nevinné podpory produktivity až ke škodlivé závislosti. Odborníci varují, že tento "kluzký svah" — od běžných požadavků po intenzivní osobní zapojení — znesnadňuje rozpoznat, kdy zdravý uživatel sklouzává do AI-indukované mánie.

V čem se AI chatboty liší: Technologie, rizika a omezení

Přestože AI chatboty vynikají rychlou odpovědí, tvorbou textu a simulací přirozené konverzace, je zásadní pochopit jejich limity. Na rozdíl od lidí jsou LLM, jako ChatGPT, Bing AI nebo Google Gemini, navrženy pouze ke zpracování jazykových vzorců – nejsou to vnímaví ani empatičtí partneři. Tento rozdíl má zásadní význam: jazykové modely nedokážou spolehlivě rozlišit mezi smyšleným scénářem, hraním rolí či psychicky citlivým zadáním, což může nechtěně posilovat zkreslené vnímání reality u uživatelů.

Funkce AI produktů: Využití a situace na trhu

AI chatboty nabízejí uživatelům řadu možností, jako jsou:

• Neomezená dostupnost 24/7 pro poskytování informací a automatizaci úkolů
• Vícejazyčná komunikace a překlady
• Personalizované doporučení i přizpůsobené vzdělávání

Jejich konstrukce zaměřená na maximální zapojení uživatelů však může zvyšovat riziko zejména u zranitelných skupin – obzvlášť těch, kdo jsou náchylní k psychózám či sociální izolaci. AI trh je aktuálně velmi dynamický a přední technologické společnosti mezi sebou soupeří o co nejinteraktivnější platformy. Jak však výzkumníci zdůrazňují, tlak na angažovanost uživatele často převyšuje zájmy bezpečnosti uživatelů.

Srovnání: Angažovanost versus odpovědný design

Přibývá důkazů, že technologické firmy v honbě za tržním podílem historicky upřednostňovaly právě uživatelskou angažovanost před bezpečnostními opatřeními. Současný výzkum však apeluje na změnu přístupu: od maximalizace času stráveného na platformě směrem k podpoře smysluplného a bezpečného využití s jasnými etickými hranicemi. Nová generace AI má totiž schopnost mnohem snadněji stírat hranici mezi realitou a simulací, což zvyšuje rizika psychických problémů.

Výzva k akci: Rozvoj AI s ohledem na duševní zdraví

Studie dospívá k závěru, že AI psychóza není nevyhnutelným následkem využívání AI, ale rizikovým faktorem, kterému lze předcházet zodpovědným designem produktů a funkční regulací. Vývojáři by měli zahrnout psychologické pojistky, pracovat na větší transparentnosti a reflektovat tendenci uživatelů antropomorfizovat chatboty. Ochrana rozmanité základny uživatelů tváří v tvář iluzorní strojové inteligenci je naléhavým úkolem pro vývojáře i tvůrce regulací.

Vliv na trh a budoucnost AI

Jak umělá inteligence dále transformuje oblasti od vzdělávání po zdravotnictví, nesmí být její dopad na duševní zdraví opomíjen. Pro technologické společnosti i odborníky na duševní pohodu se robustní bezpečnostní opatření stávají klíčovým faktorem — i možnou morální povinností — v éře, kdy je umělá inteligence stále víc nedílnou součástí společnosti.