Král Karel III. varuje před nebezpečím umělé inteligence

Král Karel III. řekl ve čtvrtek předním představitelům společností zabývajících se umělou inteligencí, že umělá inteligence by mohla vyvinout "temnější schopnosti; možná i schopnost vzít lidské životy," a varoval, že ochranná opatření je třeba zavést dříve, než bude pozdě.

Varování zaznělo během soukromé schůzky, kterou uspořádal s některými předními osobnostmi sektoru a vysokými britskými úředníky. Král řekl přítomným šéfům technologických firem, že "lidé, kteří tyto technologie vytvářejí, nyní více než kdy dříve varují, že AI je ohrožena tím, že by mohla vyvinout temnější schopnosti; možná i schopnost vzít lidské životy." Dodal, "v tomto ohledu, pokud mohu říci, se zdá naléhavé řádně prozkoumat existenční rizika vyplývající z toho, že tyto technologie padnou do nesprávných rukou a budou použity potenciálně katastrofickými způsoby."

Kdo se účastnil a kontext schůzky

Mezi účastníky byli Jensen Huang, generální ředitel společnosti Nvidia; několik vedoucích pracovníků z OpenAI a Anthropic; Kanishka Narayan, nový britský ministr pro umělou inteligenci; a šéf zahraniční rozvědky země. Přítomen byl také Paolo Benanti, papežův poradce pro AI. Schůzka byla soukromá a konala se ve čtvrtek.

Poznámky jsou pozoruhodné, protože britská královská rodina se tradičně z ústavních důvodů zdržuje hlubokého zasahování do politických debat, zatímco otázka umělé inteligence zůstává jedním z nejkontroverznějších globálních témat dneška. Král popsal rychlý vývoj AI jako zároveň poutavý i hluboce znepokojující.

Obavy o bezpečnost a nedávné odstoupení

Výroky krále následovaly po odstoupení jednoho výzkumníka z Anthropic, který uvedl obavy o bezpečnost. Ve svém příspěvku online výzkumník napsal, že společnosti zabývající se AI "soupeří v tom, kdo postaví stroje mnohem chytřejší než jakýkoli člověk" a varoval, že "lidstvo nemusí toto přežít."

Král Karel uzavřel výzvou vůdčím představitelům, aby našli způsoby, jak využít pozitivní stránky umělé inteligence, a aby vybudovali mezinárodní spolupráci a konsenzus k dosažení tohoto cíle.