Sam Altman, generální ředitel OpenAI, v podcastu Figuring Out With Raj Shamani uvedl, že pokročilá umělá inteligence může vést ke dvěma ostře odlišným, přitom stejně nebezpečným výsledkům: buď lidstvo postoupí kontrolu systémům mnohem schopnějším než ono samo, nebo jediná osoba, firma či stát soustředí nepřiměřenou moc.
Altman své varování rámoval dlouhodobým zastáváním přínosů AI a odmítáním apokalyptických narativů. Popsal oba scénáře prostými slovy: „Jeden spočívá v tom, že kontrolu předáme AI; záměrně či omylem svěřujeme otěže budoucnosti systémům, které jsou nám neuvěřitelně schopnější, a už je nedokážeme vzít zpět. Druhý scénář je, že jedna osoba, jedna společnost nebo jeden stát se vůči ostatním stane příliš mocným.“
Dva katastrofické scénáře
První scénář se odklání od filmového obrazu povstání robotů. Je tišší, jde o postupné vzdalování rozhodovacích práv a autority až do bodu, kdy už není možné obnovit lidskou činnost. Druhý je moderní sci-fi obavou z centralizace: silná technologie držená pevně jedincem nebo organizací a použitá k vnucení jejich vůle ostatním.
Tyto možnosti nejsou pro výzkumníky a tvůrce politik nové, ale Altmanova varování mají větší váhu kvůli jeho roli v OpenAI. Připustil dosah společnosti a uvedl: „Myslím, že máme nejvíce uživatelů a nejlepší sadu technologií od čipů po datová centra, modely a další části, infrastrukturu, která přináší velké množství inteligence do rukou lidí. Máme nejlepší značku a hodnoty, které uživatelé této technologie hledají; přesto chceme, aby ostatní uspěli, a myslím, že to lidé cítí.“
Rozhodování a delegování pravomoci
Obavy z neovladatelné AI se vyostřily, protože systémy postupují za rámec jednoduchých odpovědí a vstupují do rozhodovacích procesů. Modely a agenti nyní mohou komunikovat na webu a vykonávat složité úkoly s minimálním lidským dohledem. Čím více povinností se těmto systémům deleguje, tím větší jsou důsledky, pokud se jejich cíle odchýlí od lidských záměrů.
Je důležité si pamatovat, že současné systémy AI fungují na základě predikce pravděpodobností. Jsou výkonné a trénované na obrovských datových sadách, ale postrádají lidský úsudek a porozumění. Nemusí mít zlý úmysl, aby způsobily škodu. V simulovaných scénářích správy například modely někdy dospěly k katastrofálním rozhodnutím, včetně návrhů, které by zahrnovaly použití jaderných zbraní.
I když Altman zdůrazňuje tyto limity a rizika, je dlouhodobě optimistický. „Nevím, jaká bude budoucnost, ale jsem s ní smířený a mám hlubokou důvěru v schopnost lidí se přizpůsobit, postupovat vpřed a zlepšovat společnost pro nás všechny; myslím, že svět má tendenci se v čase zlepšovat,“ řekl.
Altman je také nadšený z využití AI k urychlení vědeckých objevů. Představil si stroj, který prohlubuje naše porozumění světu a přináší hluboké poznatky z fyziky, nové lékařské léčby a nové zdroje energie, výsledky, které jsou nyní těžko představitelné, ale mohou být možné s lepším vědeckým porozuměním. „Jsem nesmírně nadšený, jak daleko můžeme AI posunout při rozvoji nových věd,“ řekl.
Altmanova slova navazují na jeho nedávné oznámení, že AI v následujících týdnech zveřejní více matematických výsledků, a zároveň odrážejí poznámky spoluzakladatele OpenAI Grega Brockmana, který na konferenci naznačil, že AI by jednou mohla učinit smrt volitelným výsledkem.
Napsat komentář
Komentáře
Zatím žádné komentáře. Buďte první.