Mo Gawdat varuje před obdobím zásadních společenských otřesů vyvolaných umělou inteligencí

Mo Gawdat varuje před obdobím zásadních společenských otřesů vyvolaných umělou inteligencí

2025-08-11
0 Komentáře Petr Novotný

5 Minuty

Přehled: Varování od Mo Gawdata

Mo Gawdat, někdejší hlavní ředitel pro obchodní záležitosti v Alphabetově divizi zaměřené na inovace (dříve Google X), nedávno upozornil na hrozbu, že svět čelí od roku 2027 období 12–15 let hlubokých společenských otřesů. Ve svém vystoupení na podcastu "Diary of a CEO" uvedl, že umělá inteligence nebude samostatným zlem, ale znásobí existující sociální, ekonomické a politické problémy. Jeho prognóza vybízí technologickou i politickou sféru i byznysové lídry k aktivnímu řešení rizik rychlé implementace AI.

Proč právě rok 2027? Klíčové milníky a signály

Gawdat upozorňuje na rychlý nárůst využití generativní AI, pokrok v počítačovém vidění a systémech pro okamžité rozhodování – tyto jevy označuje za momenty zlomu. Už nyní je lze pozorovat: čím dál věrnější deepfaky, nebezpečí dezinformačních kampaní umocněných AI, automatizované masové sledování či podvody řízené umělou inteligencí. Podle jeho názoru se tyto trendy v nejbližších letech zesílí a vyvrcholí kolem roku 2027, čímž nastane dlouhodobá nestabilita, pokud nebude včas přijata odpovídající opatření.

AI jako zesilovač, ne původce problémů

Podstatné je Gawdatovo zdůraznění, že umělá inteligence sama o sobě není zlá. Namísto toho zesiluje hodnoty a motivace, které jsou už v naší společnosti – často jde o snahu firem maximalizovat zisk a centralizaci moci v rukách vlád. V tomto ohledu AI zvýrazňuje lidské slabosti a chyby, což způsobuje, že společenské rozpory a špatné incentivy nabývají většího významu.

Příklady zesílení dopadů

  • Narušení pracovního trhu: automatizace a produktivní nástroje snižují náklady, firmy však často volí propouštění a zastavení náboru místo sdílení úspor s pracovníky.
  • Dezinformace a deepfaky: generativní AI umožňuje vytvářet extrémně věrohodný obrazový i zvukový obsah, což podrývá důvěru v média i instituce.
  • Sledování a občanská práva: AI-poháněné rozpoznávání obličejů a analýza vzorců ve spojení s centralizovanými daty zvyšuje schopnosti orgánů monitorovat veřejnost.

Klíčové produkty a jejich schopnosti měnící společnost

Moderní AI produkty – velké jazykové modely (LLM), multimodální generátory, inferences systémy na okraji sítě a automatizované řídicí mechanismy – mají společné rysy, které urychlují jejich nástup:

  • Škálovatelnost: architektury v cloudu a destilace modelů umožňují nasazení do milionů zařízení naráz.
  • Okamžitá inference: rozhraní s nízkou latencí zajišťují personalizaci, sledování a automatizovaná doporučení v reálném čase.
  • Multimodalita: sloučení textu, obrazu a videa urychluje vznik deepfake a automatizované tvorby bohatého obsahu.
  • Efektivita práce s daty: transferové učení a předtrénování omezují nutnost konkrétních dat pro každý úkol, což zrychluje vývoj funkcí.

Porovnání produktů: Generativní modely vs. tradiční automatizace

Na rozdíl od pravidlově založené automatizace nabízí generativní AI větší flexibilitu a kreativitu, současně však přináší vyšší míru nejistoty a náchylnost ke zneužití. Pravidlové systémy jsou lépe auditovatelné; současné LLM nutí zavádět nové principy řízení, vysvětlovatelnosti a důsledného testování kvůli bezpečnosti a plnění regulací.

Přínosy, oblasti využití a relevance pro trh

AI není pouze zdrojem rizik; nabízí jasné výhody, které vysvětlují masivní vlnu investic a rostoucí význam na trhu:

  • Zdravotnictví: AI zrychluje objevování nových léků, diagnostická zobrazování i personalizaci medicíny, což zkracuje dobu výzkumu a přináší nové terapie.
  • Produktivita: inteligentní asistenty automatizují opakující se úkony, shrnují informace a podporují znalostní pracovníky.
  • Klima a výzkum: strojové učení optimalizuje energetické sítě, modeluje komplexní interakce v životním prostředí a urychluje vědecký pokrok.

Zmíněné oblasti dělají z AI strategickou prioritu v podnicích z odvětví softwaru, biotechnologií, fintechu a obrany. Rizikový kapitál i interní rozpočty firem proudí do startupů a interních AI platforem, což zvyšuje konkurenci a urychluje zavádění nových funkcí.

Rizika: od deepfaků po autonomní zbraně

Gawdat rozebírá několik rizikových oblastí, které by se mohly spojit ve větší společenskou krizi. Patří sem šíření AI generovaného sexuálně explicitního obsahu, narůstající AI podvody v kryptoměnách a obava, že systémy řízené stroji mohou zvýšit ničivost zbraní a zostřit napětí mezi státy. Výrazným tématem zůstává i sledování obyvatel: veřejné monitorování s AI již funguje v řadě zemí a rozšiřuje se i pro kontrolu hranic a při imigračních procesech.

Správa a regulace: Omezit škodlivé využití, nikoli samotný nástroj

Gawdat prosazuje pragmatický přístup k regulaci: zaměřit se na prevenci nežádoucího využití AI místo samotné kontroly jejího návrhu. Přirovnává to k hamru – konstrukčně nelze zajistit, aby sloužil jen na zatloukání hřebíků, ale lze postihovat jeho zneužití. Pro AI to znamená jasné zákony o zneužívání (deepfaky s úmyslem podvádět, autonomní smrtící systémy bez dohledu, nezákonné sledování) a účinné mechanismy vymáhání.

Doporučení pro politiku

  • Stanovení povinné transparentnosti a ověřitelnosti AI obsahu (znaky vodoznaku, metadatové standardy).
  • Požadavek auditních záznamů a vysvětlitelnosti u zásadních rozhodovacích systémů v justici, financích a národní bezpečnosti.
  • Přijetí přísných limitů a dohledu nad autonomními zbraněmi, případně moratoria tam, kde je riziko existenční.
  • Investice do vzdělávání veřejnosti v oblasti AI a programů na podporu pracovníků v proměňujícím se trhu práce.

Reakce průmyslu: Jak mohou firmy jednat

Technologické společnosti a produktové týmy mohou omezovat rizika a současně využít přínosy AI:

  • Začlenit prvky bezpečnosti do produktových plánů: moderování obsahu, procesy pro souhlas uživatelů a možnost zrušení automatického profilování.
  • Důraz na robustní zabezpečení a nástroje proti zneužití s důrazem na kryptoměny a finanční služby.
  • Zavádět etické rámce při návrhu a nezávislé audity pro udržení důvěry a připravenost na regulace.

Závěr: Výzva ke společnému jednání

AI bude pokračovat v přinášení zásadních novinek v medicíně, vědě i produktivitě. Gawdat ale varuje, že pokud nedojde k rychlému posunu v motivaci firem a vlád, hrozí v blízkých letech neklid a narůstající společenské napětí. Nelze volit mezi technologií a pokrokem, ale mezi chytrým zapojením AI s ohledem na veřejné zájmy a rizikem převládnutí jejích negativních efektů. Následujících 18–36 měsíců bude z pohledu technologů, výrobních lídrů i tvůrců politiky klíčové pro nasměrování rozvoje AI k rovnoměrným přínosům pro společnost.

Zdroj: gizmodo

Jsem Petr, věčný nadšenec do AI a videoher. Rád analyzuji novinky, testuji aplikace a sdílím své postřehy o tom, kam směřuje budoucnost digitálního světa.

Komentáře

Zanechte komentář