Sam Altman: nehody s AI jsou nevyhnutelné, důraz na učení

Na konferenci Dreamforce společnosti Salesforce dne 17. září 2026 řekl generální ředitel OpenAI Sam Altman: "Myslím, že určité množství nehod je u nové technologie nevyhnutelné."

Autor Debasish - 17. září 2026. Altman poznámku rámoval okolo reakce firem a učení, tvrdil, že nejdůležitější je, jak odvětví zachází s incidenty, když k nim dojde. "Co mě skutečně zajímá, je, abychom měli vynikající kulturu hlášení nehod a učení se," uvedl s odkazem na Federální leteckou správu a Národní úřad pro bezpečnost dopravy jako vzory, které vyšetřují každý incident a odvozují z něj poučení ke zlepšení bezpečnosti.

Altman uznal veřejné obavy z nekontrolovatelných systémů a koncentrace moci v několika laboratořích. Řekl, že tyto obavy jsou pochopitelné, a dodal: "Svět má z toho oprávněný strach." Zdůraznil, že firmy by měly udržovat práci na sladění, bezpečnosti a monitorování výrazně před pokroky ve schopnostech modelů. Pokud tento kompromis nedokážou udržet, řekl, měly by být připravené zpomalit nebo dokonce pozastavit výzkum. Cíl podle něj spočívá v poctivém přezkumu incidentů a nepřetržitém zlepšování, nikoli v lhostejném přijímání škod.

Debata o tempu a pravomocích

Komentáře zazněly v době, kdy se zvyšuje kontrola nad předními AI laboratořemi, zejména jak se systémy přibližují vyšší autonomii. Nedávné výroky Jacoba Coxona, výzkumníka, který nedávno odešel z Anthropic poté, co dříve pracoval v OpenAI, přidaly palivo do debaty varováním, že společnosti spěchají k samooptimalizující se superinteligenci.

Tyto poznámky zapadají do širší probíhající debaty o tom, jak rychle by se měla rozvíjet špičková AI. Některé hlasy v odvětví volají po větší opatrnosti, zatímco americká politika současné administrativy se zaměřila na technologické předstihování.

Altmanův důraz byl spíše procedurální než normativní: přijměte, že nehody se mohou stát, ale zavazujte se k transparentnímu hlášení, rychlému přezkumu a práci na sladění, která se snaží udržet bezpečnostní opatření před nárůstem schopností.