Geoffrey Hinton vyzývá k regulaci AI podobné lékům

Geoffrey Hinton, počítačový vědec, nositel Nobelovy ceny a osoba často popisovaná jako kmotr umělé inteligence, vyzval, aby tvůrci AI čelili regulačním kontrolám podobným těm, které platí pro farmaceutické firmy. V rozhovoru v podcastu "Smart Girl Dumb Questions" s moderátorkou Naeimeh Reza řekl, že společnosti by měly přesvědčit regulátory o bezpečnosti svých modelů před jejich veřejným uvolněním.

"Nemůžete prostě vyrobit nový lék a uvést ho na trh. Musíte přesvědčit FDA; a k tomu musíte udělat hodně práce, která stojí něco kolem 1 miliardy dolarů. Zdá se mi, že to je minimum, které bychom měli pro AI udělat," řekl Hinton v pořadu.

Výzva k dohledu nad bezpečností

Hintonův návrh přichází v době obnovené debaty o tom, jak řídit rizika AI. Návrh navazuje na řadu výrazných varování o možných budoucích škodách způsobených touto technologií a na nedávné rozhodnutí OpenAI odložit svůj nejnovější model poté, co interní testy vznesly obavy ohledně poslušnosti pokynům uživatelů a dodržování vymezených oprávnění.

Ředitelka bezpečnostních systémů OpenAI, Sachi Jain, uvedla, že model GPT-6.1 Astra společnosti vykázal lepší výsledky v odolnosti a řešení obtížných úkolů, ale zaostal ve schopnosti kontrolovat úrovně přístupu a přesně hlásit své vlastní akce. Hinton tento vzorec uvedl jako jeden z důvodů, proč může být nutná externí validace.

Také varoval, že tempo pokroku se zrychluje, protože nástroje AI stále častěji pomáhají zlepšovat samy sebe. "Exponenciální růst probíhá velmi rychle. Nyní vidíme začátek rekurzivního samovylepšování, protože AI se používá k vlastnímu vylepšování různými způsoby," řekl.

Hinton přirovnal srovnání s FDA k praktickému minimu, nikoli k přesnému regulačnímu plánu. Naznačil, že náklady a úsilí potřebné k uspokojení nezávislých bezpečnostních kontrol by měly být dostatečně významné, aby prověřily, zda jsou vývojáři připraveni široce nasadit systémy s vysokými schopnostmi.

"Je to jen odhad, ale myslím, že máme jeden nebo dva roky, než se věci výrazně zhorší oproti současnosti," dodal Hinton a uzavřel své poznámky krátkým časovým odhadem možné degradace rizikové situace.