Vedoucí Anthropic volá po zpomalení vývoje AI modelů

Dario Amodei, generální ředitel společnosti Anthropic, vyzval firmy zabývající se umělou inteligencí, aby zpomalily tempo, v jakém se zlepšují schopnosti modelů, a v otevřeném prohlášení uvedl, že by odvětví mělo snížit rychlost vývoje.

Amodeiho výzva ožila průmyslová debata o rychlosti versus bezpečnosti a přinesla nečekanou veřejnou podporu od dvou významných osobností v oblasti AI: Sama Altmana a Elona Muska.

Reakce v odvětví

Sam Altman, šéf OpenAI, napsal na X, že souhlasí s Amodeiho stanoviskem. Altman uvedl, že vedoucí představitelé OpenAI v posledních týdnech vedli rozsáhlé diskuse a vyjádřili podporu myšlence nezávislých hodnotitelů, kteří by měli přístup srovnatelný s přístupem zaměstnanců.

Elon Musk se také vyjádřil na X a stručně podpořil stanovisko slovy "Dario má pravdu."

Amodeiho poznámka přišla v době, kdy veřejné obavy o vyhlídky výrazně schopnějších nebo samo-zlepšujících se systémů rostou. Poznámka je pozoruhodná tím, že přichází od šéfa přední AI firmy, nikoli od vnějšího kritika.

Výměny názorů následují po odchodu Jacoba Coxona, výzkumníka, který přecházel z OpenAI do Anthropic a nyní zcela opustil odvětví AI. Coxon veřejně obvinil dvě firmy soutěžící ve vývoji samo-zlepšujících se AI, že hazardují s lidskými životy.

Amodeiho sdělení a podpory od Altmana a Muska na X udržují debatu o tom, jak rychle posunovat schopnosti AI, pevně v centru veřejné pozornosti.