9 Minuty
Sam Altman obvykle nezní jako muž, který by se připravoval na soudní spor. Tentokrát ale zněl odhodlaněji a formálněji než obvykle.
Po ostré kritice, která následovala po odhalení spolupráce OpenAI s ministerstvem obrany USA, řekl generální ředitel, že společnost přepíše svou smlouvu tak, aby v ní bylo zcela jednoznačně uvedeno: systémy umělé inteligence OpenAI nesmí být použity pro rozsáhlé domácí sledování Američanů.
Altman zveřejnil interní memorandum, které bylo původně zasláno zaměstnancům, a v něm popsal plánovanou změnu. Podle něj bude aktualizované znění smlouvy výslovně zakazovat úmyslné domácí sledování osob a státních příslušníků USA a zároveň vázat tento zákaz na existující právní pojistky, jako je Čtvrtý dodatek (Fourth Amendment), Zákon o národní bezpečnosti (National Security Act) a Zákon o zahraničním zpravodajském dohledu (FISA).
Návrh formulace v memorandu je pro dodavatele vlády neobvykle přímý. Uvádí, že v souladu s platným právem USA nebude systém umělé inteligence „úmyslně používán pro domácí sledování osob a státních příslušníků USA“. Dokument dále přidává upřesňující řádek, který má uzavřít možné kličky: zákaz zahrnuje záměrné sledování nebo monitorování i v případě, že je podporováno komerčně zakoupenými osobními nebo identifikovatelnými daty.
Úprava smlouvy — vytyčení jasné hranice
Altman také tvrdí, že ministerstvo obrany potvrdilo další bod, který kritici okamžitě zmiňovali: služby OpenAI podle současné dohody nebudou směrovány k americkým zpravodajským agenturám, jako je NSA. Pokud by se to mělo změnit, podle něj by to vyžadovalo formální modifikaci smlouvy.
V memorandu také byla věta, která se šířila nejrychleji: Altman napsal, že kdyby obdržel rozkaz, který by sám považoval za protiústavní, raději půjde do vězení, než aby mu vyhověl. Jde o dramatické vyjádření — ale zároveň jde o signál, že OpenAI se snaží narýsovat jasnou hranici mezi „obrannou spoluprací“ a „domácím dohledem“, rozdílem, který se v přítomnosti technologie umělé inteligence snadno rozostří.
Altman rovněž přiznal, že způsob, jakým byla dohoda oznámena, byl chaotický. Podle jeho popisu OpenAI oznámení vypustila příliš rychle; označil situaci za „super složitou“, která vyžaduje jasnější komunikaci. Záměrem prý bylo deeskalovat napjatou situaci a předejít „daleko horším následkům“. Místo toho však načasování způsobilo dojem oportunismu a spěchu.
Význam sdělení nabývá zvláštního rozměru i kvůli načasování: partnerství OpenAI s ministerstvem obrany bylo odhaleno krátce poté, co prezident Donald Trump nařídil vládním agenturám USA, aby zastavily používání modelu Claude od společnosti Anthropic a dalších služeb této firmy. Anthropic přitom s federální vládou spolupracuje od roku 2024.
Co přesně smluvní úprava znamená v praxi
Formální změna smlouvy směrem k výslovnému zákazu domácího sledování má několik praktických důsledků. Zaprvé vytváří právní rámec, který musí respektovat obě strany: dodavatel (OpenAI) i zadavatel (ministerstvo obrany). Zadruhé omezuje možnosti přesměrování služeb mezi různými vládními složkami bez nové dohody nebo dodatku ke smlouvě. A zatřetí signalizuje širší závazek k ochraně občanských práv a soukromí v kontextu vojenských a bezpečnostních aplikací AI.
Takové smluvní formulace obvykle zahrnují právní odkazy na ústavní záruky a existující federální zákony, čímž se snaží eliminovat potenciální právní spory. Kromě konkrétních zákazů mohou dodatky obsahovat i mechanismy auditů, povinných hlášení a sankcí za porušení — prvky, které zvyšují udržitelnost a vynutitelnost pravidel v praxi.
Právní pojistky: Čtvrtý dodatek, FISA a další
Navázání smluvních zákazů na konkrétní právní rámce, jako je Čtvrtý dodatek, Zákon o národní bezpečnosti nebo FISA, znamená, že explicitní smluvní ujednání bude odkazovat na nutnost konzultovat nebo respektovat rozhodnutí soudů, předepsané procesy a omezení vyplývající z těchto zákonů. To může zahrnovat definice, co je považováno za „osobní“ nebo „identifikovatelná“ data, a jaký postup musí vláda dodržet, pokud by chtěla v krajním případě přistoupit k jiným právním krokuům.
Takový přístup zvyšuje právní průkaznost a může snížit riziko, že by AI systémy byly nasazeny do rolí, které by mohly vést k porušení ústavních práv nebo k nepřiměřenému sledování občanů.
Anthropic, pojistky a politický tlak
Hlubší příběh za touto smluvní změnou není jen jedna věta ve smlouvě — je to rostoucí rozkol mezi předními vývojáři AI o tom, co jejich modely v rukou vlády smí a nesmí dělat.
Podle zjištění citovaných v Altmanově memorandu vyvíjelo vedení ministerstva obrany a ministr Pete Hegseth tlak na firmu Anthropic, aby oslabila bezpečnostní pojistky modelu Claude, aby jej bylo možné použít pro jakýkoli „zákonný“ účel. V praxi se podle těchto zpráv na seznamu „zákonných“ využití objevilo i masové sledování nebo práce směřující k plně autonomním zbraním.
Anthropic tento požadavek odmítl. Ve svém prohlášení společnost uvedla, že „žádné vydírání nebo hrozby trestem“ nezmění její postoj k masovému domácímu sledování nebo k plně autonomním zbraním. Po tomto postoji následovalo Trumpovo nařízení a ministerstvo obrany údajně zahájilo první kroky k označení Anthropic za „riziko dodavatelského řetězce“ — štítek, který se obvykle používá u zahraničních, často čínských, firem podezřívaných z vazeb na vládu.
Politické a obchodní důsledky
Tato situace ukazuje, že spor není jen o právní nebo etické otázce, ale i o konkurenčních a politických zájmech. Označení za „supply chain risk“ má významné důsledky: ovlivňuje schopnost firmy dodávat produkty a služby vládním institucím, může mít dopad na reputaci a často je spojeno s dodatečnými bezpečnostními kontrolami nebo omezeními.
Altman tvrdí, že řekl americkým úředníkům, že Anthropic by neměl být označen jako riziko dodavatelského řetězce, a že doufal, že Pentagon nabídne Anthropic stejný typ dohody, jaký OpenAI přijal. V online AMA (otázky a odpovědi) na platformě X doplnil, že nezná přesné detaily dohody Anthropic nebo to, jak se liší. Pokud by ale dohody byly efektivně stejné, věří, že Anthropic ji měl přijmout.
Rozdělení mezi vývojáři AI
Rozdíly mezi hlavními laboratořemi AI se týkají tolerance k rizikům, obchodních priorit a základní firemní kultury ohledně bezpečnosti. Některé firmy jsou ochotné upravovat modely či pojistky, aby vyhověly širšímu spektru vládních použití, jiné na těchto pojistkách trvají i za cenu ztráty zakázek. To vytváří veřejné i neveřejné konkurenční napětí, které se odráží ve stanoviscích, lobbingu a v komunikaci směrem k veřejnosti.
Výsledek tohoto boje formuje, jak a kým budou pokročilé AI modely nasazovány ve státních institucích, jaká omezení budou uplatňována a jak bude vypadat dohled nad jejich použitím.
Dopad na trh a důvěru veřejnosti
Po zveřejnění zpráv o dohodě mezi OpenAI a ministerstvem obrany došlo k okamžité reakci na trhu a mezi uživateli. Model Claude od Anthropic se po zprávách vyšvihl na čelo žebříčku bezplatných aplikací v App Store od Apple, předběhl ChatGPT i Google Gemini. Anthropic rychle reagoval a uvedl nástroj pro import paměti, který usnadňuje přechod mezi chatovacími boti.
Současně podle dat Sensor Tower došlo k nárůstu odinstalací ChatGPT o 295 % den za dnem — známka toho, jak rychle může vytrysknout nedůvěra uživatelů při pocitu, že se bezpečnostní pojistky mohou měnit.
- Důvěra uživatelů: klíčový faktor v adopci AI služeb.
- Konkurence: nabídky a protinabídky mezi provozovateli AI a vládními zakázkami.
- Transparentnost a komunikace: zásadní při vysvětlování způsobu použití a omezení AI v obranném kontextu.
V kostce: spor není jen o ústavních limitech a textu smlouvy. Jde i o to, jak snadno a jak rychle se důvěra uživatelů rozplyne, když mají pocit, že „pojistky“ jsou předmětem jednání a mohou se měnit podle politického nebo obchodního tlaku.
Technické a provozní aspekty implementace smluvních omezení
Praktická implementace takových smluvních omezení v technických systémech AI zahrnuje několik vrstev kontroly. Patří sem: přístupové řízení a identity management, auditní stopy (logs) dokumentující jednotlivá volání a použití modelů, dedikované rozhraní pro vládní projekty s jasně omezenými funkcemi, a technické filtry, které zabraňují modelům vykonávat úkoly spadající pod výslovný zákaz.
Další vrstva jsou procedury pro pokročilé posouzení rizik (risk assessment), pravidelné nezávislé audity a mechanismy „kill switch“ či nouzových zastavení, které by umožnily okamžité přerušení služeb v případě podezření z porušení smlouvy. Tyto technické a organizační opatření dodávají smlouvě reálnou vynutitelnost nad rámec samotných formulací.
Co dál očekávat
V následujících týdnech a měsících je pravděpodobné, že se spor kolem těchto dohod promítne do legislativních debat, veřejných slyšení a možná i právních sporů. Legislativa týkající se regulace AI, ochrany osobních údajů a dohledových mechanismů získává na důležitosti a rychle se vyvíjí. Pro firmy jako OpenAI, Anthropic a další to znamená, že budou muset pečlivě vážit obchodní příležitosti proti právním, reputačním a etickým rizikům.
Pro uživatele a tvůrce politik je to výzva: jak najít rovnováhu mezi bezpečnostními potřebami státu a ochranou občanských práv, jak zajistit transparentnost a odpovědnost a zároveň nepřekazit inovaci, která může mít významné přínosy pro obranu i civilní sektor.
Z těchto důvodů budou detaily smluv, auditních procesů a nezávislého dohledu hrát klíčovou roli při určování skutečného vlivu těchto dohod na používání umělé inteligence ve veřejné sféře.
Zanechte komentář