Sam Altman: Důvěra, přesvědčování a rizika umělé inteligence

Sam Altman: Důvěra, přesvědčování a rizika umělé inteligence

Komentáře

5 Minuty

Pro muže, který buduje jednu z nejmocnějších společností v oblasti umělé inteligence, Sam Altman vždy vzbuzoval zvláštní druh fascinace. Obdiv, podezření, dokonce i strach. Nejnovější jiskru přinesl rozsáhlý článek v časopise The New Yorker, který vykresluje šéfa OpenAI jako mistra přesvědčování, který přesně ví, jak získat skeptiky na svou stranu, aby je pak nechal pochybovat o tom, čemu, pokud vůbec něčemu, mohou opravdu věřit.

Podle článku několik insiderů z tech scény popisuje Altmana jako člověka posedlého tím, aby byl oblíbený, zároveň však ochotného říct cokoliv, co je v daném okamžiku potřeba, aby lidé zůstali na jeho straně. Jeden bývalý člen správní rady OpenAI šel dál a označil ho za "sociopata", přičemž tvrdil, že může být téměř znepokojivě odtažitý vůči následkům ohýbání pravdy.

Uhlazená prezentace a posouvající se hranice

Článek v The New Yorker naznačuje, že Altmana nejvíc charakterizuje nikoli technická genialita, ale emoční cítění. Podle zpráv má neobyčejnou schopnost vycítit atmosféru, zrcadlit priority inženýrů, investorů a regulátorů a vystupovat jako osoba, která nejpravděpodobněji ochrání jejich zájmy.

Tato dovednost podle kritiků může být i pastí. V článku je Altman vykreslen jako ten, kdo používá bezpečnost AI jako nástroj přesvědčování, uklidňuje znepokojené lidi v oboru, když je to potřeba, a pak se ubírá jiným směrem, jakmile tlak poleví. Obvinění nespočívá jen v tom, že je ambiciózní. Jde o to, že jeho ambice jsou zabalené do slibů, které nemusí dlouho vydržet.

Zemřelý programátor a internetový aktivista Aaron Swartz, který se s Altmanem setkal v raných letech Y Combinator, podle zpráv varoval přátele, že mu nelze věřit. "Udělá cokoli," uvedl Swartz podle článku. Tento výrok má zvlášť tíživý nádech vzhledem k Swartzovu vlivu v technologické kultuře a morální vážnosti, s jakou jsou jeho slova dnes připomínána.

Článek se také vrací k velmi vážnému obvinění podanému Altmanovou sestrou, která podala civilní žalobu, v níž tvrdí, že byly roky sexuálního zneužívání začínající v raném dětství. Altman spolu s matkou a bratry tato tvrzení popřel. Obvinění zůstávají součástí širší veřejné debaty o osobě, jejíž vliv nyní sahá daleko za hranice Silicon Valley.

Pak je tu obchodní stránka, kde se portrét stává ještě ostřejším. Několik lidí citovaných v The New Yorker popisuje Altmana spíše ne jako stavitele v inženýrském smyslu, ale jako precizního vyjednavače, někoho, kdo umí přesvědčit investory, manažery a kolegy, že jejich hodnoty jsou zároveň jeho hodnotami.

"Jedi mind tricks," nazval to jeden technologický manažer. Tato fráze zní barevně, ale význam je dost přímočarý. Lidé odcházejí z rozhovorů přesvědčeni, dokonce povzbuzeni, aby později zjistili, že se situace mohla změnit.

Jedním z nejjasnějších příkladů v reportu je případ šéfa Anthropic Daria Amodeiho, bývalého manažera OpenAI, který nakonec odešel založit konkurenční společnost zaměřenou na bezpečnost AI. Podle poznámek, které The New Yorker přezkoumal, Amodei prosazoval seznam bezpečnostních požadavků při jednání o velké investici od Microsoftu v roce 2019. Altman s tím souhlasil, alespoň na papíře. Když se dohoda blížila dokončení, Amodei zjistil, že nové ustanovení potichu podkopalo hlavní podmínku na jeho seznamu. Když Altmana na to upozornil, šéf OpenAI údajně popřel, že by taková klauzule vůbec existovala, přestože mu ji Amodei předčítal.

Generální ředitel Microsoftu Satya Nadella se v článku objevuje jako další manažer uvězněný v důsledcích Altmana. Lidé uvnitř Microsoftu podle zpráv tvrdí, že vztah byl napjatý kvůli opakovaným sporům o dohody a očekávání. Jeden manažer řekl, že Altman "znepřesňoval, zkresloval, přejednával, nedodržoval dohody," sled obvinění, který naznačuje ne jen jednorázové pochybení, ale vzorec chování.

Tento rok přinesl další zlomový okamžik. Ve stejný den, kdy OpenAI potvrdila Microsoft jako výhradního poskytovatele svých modelů AI bez paměti, také oznámila samostatnou dohodu s Amazonem v hodnotě 50 miliard dolarů spojenou s jeho platformou Frontier pro AI agenty. Microsoft podle zprávy naznačil, že je připraven toto rozhodnutí právně napadnout, pokud bude nutné. V odvětví, které už tak charakterizuje nemilosrdná konkurence, je to napětí, které může rychle přerýsovat aliance.

Ne každý v článku vidí Altmana jako velkého padoucha intrikujícího ve stínu. Sue Yoon, bývalá členka správní rady OpenAI, nabídla odlišné vysvětlení. Podle ní nebyl tak moc Machiavellistickým géniem jako spíš někým, kdo je chycen vlastním tempem, věří svému poslednímu argumentu i tehdy, když už neodpovídá realitě.

"Je příliš pohlcený vlastním přesvědčením," řekla Yoon. "Takže dělá věci, které, pokud žijete v reálném světě, nedávají smysl. Ale on v reálném světě nežije."

To může být nejodhalující věta ze všech. Protože v závodě o AI může být víra měnou, přesvědčování může být mocí a sebevědomí může pohnout miliardami. Ale když se sliby začnou viklat, lidé u stolu si toho obvykle všimnou. A jakmile se to stane, důvěra je první věc, která praskne.

Zanechte komentář

Komentáře