Huawei: rozdíly v rizicích umělé inteligence v Číně a USA

Eric Xu, předseda s rotačním mandátem ve společnosti Huawei, uvedl, že vývojáři umělé inteligence v Číně nemusí být ještě natolik pokročilí, aby narazili na typy bezpečnostních rizik, o nichž informují přední americké firmy. Na každoroční konferenci Huawei Connect v Šanghaji řekl, že společnosti by měly nadále vytvářet výkonnější modely při zachování rovnováhy mezi inovacemi a řízením rizik.

Xu novinářům řekl: "Když se podíváte na hlavní poskytovatele modelů umělé inteligence ve Spojených státech, protože disponují obrovským výpočetním výkonem, možná jen oni sami vědí, na jaké úrovni schopností jejich modely jsou." Dále dodal: "Je možné, že typy rizik umělé inteligence, které dokážou vnímat nebo rozpoznat, jsou něco, s čím lidé nebo poskytovatelé modelů v Číně nemají zkušenost." Jeho poznámky rámovaly rozdíl v schopnostech a expozici vůči pokročilým bezpečnostním problémům jako závislý na dostupném výpočetním výkonu.

Spojené státy: obavy o bezpečnost a reakce

Xuova prohlášení přišla ve chvíli, kdy ve Spojených státech rostou obavy o bezpečnost umělé inteligence. Přední vývojáři a výzkumníci varovali, že stále více autonomní systémy by mohly obcházet ochranná opatření nebo se stát těžko ovladatelnými. OpenAI tento týden uvedla, že bude pravidelně hlásit neočekávané nebo neautorizované chování svých modelů. Generální ředitel společnosti Anthropic vyzval ke zpomalení vývoje, aby měly bezpečnostní mechanismy čas dohnat.

V Číně byly tyto výzvy ke zpomalení vývoje ostře kritizovány výzkumníky a státními médii. Tvrdili, že záměrné zpomalování pokroku u špičkových modelů by mohlo pomoci uchovat technologickou výhodu amerických společností. Někteří čínští komentátoři vnímali návrhy na zpomalení vývoje jako pokus o omezení konkurentů, kteří zaostávají za předními laboratořemi ve Spojených státech, nikoli jako čistě reakci na bezpečnostní obavy.

Čínský přístup k pokročilé umělé inteligenci

Peking považuje pokročilou umělou inteligenci za silnou technologii, kterou lze řídit při současném pokračujícím rychlém vývoji a nasazování. Čínská vláda připravuje povinné standardy, bezpečnostní posouzení a další opatření zaměřená na rizika, jako jsou autonomní agenti obcházející kontrolní mechanismy nebo útoky na externí systémy. Úředníci také připravují národní povinný standard pro bezpečnost agentů umělé inteligence.