Meta pozastavuje ambiciózní vývoj vlastních čipů pro AI

Představa technologického giganta, který tiše odkládá ambiciózní projekt, je zarážející. Meta koupila nadějný startup, aby snížila závislost na externích GPU, ale projekt se zdá narazit na zeď.

Loni Meta získala Rivos za zhruba 1,85 miliardy eur, krok, jehož cílem bylo přinést firmě odbornost v oblasti vlastního křemíku. Šest měsíců po uzavření dohody zdroje uvádějí, že integrace pokročila pomaleji. Více než čtvrtina zaměstnanců Rivos, kteří přešli do Mety, byla propuštěna a vývoj čipu určeného pro trénink AI modelů Mety byl pozastaven.

Když se ambice střetnou s rozsahem

Rivos byl postaven na RISC-V, otevřené sadě instrukcí, která slibuje pružnost. Startup získal přibližně 345 milionů eur před koupí a dokonce dodal procesor kompatibilní s CUDA do TSMC k zkušební výrobě. Na papíře to zní konkrétně. Realita je složitější.

Proč to uvázlo? Existuje několik tvrdých pravd. Navrhování konkurenčního čipu pro trénink AI není jen otázkou křemíku. Potřebujete soudržný softwarový stack, úzkou integraci s infrastrukturou datových center, překladače, které převádějí vysoceúrovňové frameworky, a roky ladění výkonu. Týmy Mety musely sladit hardware, nízkoúrovňový software a rozsáhlou infrastrukturu napříč společností, která už provozuje některé z největších strojově učených zátěží na světě. Sladění se ukázalo být mnohem těžší, než se očekávalo.

Je tu také problém kompatibility. Meta chtěla čipy, které fungují s existujícími nástroji založenými na CUDA, aby bylo nasazení jednodušší. Vyrobit hardware, který se chová jako zavedené GPU, a přitom nabízí vyšší efektivitu a lepší náklady na trénovací cyklus, je technicky náročné a riskantní. Přidejte výrobní partnery, validační testování a tvrdou realitu časových plánů. Zpoždění následují.

Strategicky byl nápad rozumný. Vlastní čipy slibovaly nižší dlouhodobé náklady a větší kontrolu ve srovnání s nákupem komoditních GPU. Ale úspory nákladů se projeví jen pokud hardware dosáhne výkonu a spolehlivosti. To je vysoká laťka, když alternativy, dodavatelé jako Nvidia, pokračují v zavádění nových generací akcelerátorů.

Co se tedy stane dál? Prozatím je práce pozastavena, ne zrušena. Meta se může přeskupit. Může zúžit rozsah projektu, více se soustředit na partnerství nebo přesunout talenty na krátkodobější infrastrukturní úspěchy. Může také udržet některé experimenty s RISC-V při životě a zároveň spoléhat na ověřené akcelerátory pro produkční zátěže.

Snaha Mety o vlastní křemík narazila na vážné tření, ale pozastavení odráží obtížnost sladění softwaru, hardwaru a rozsahu, nikoli jednoduchou změnu názoru.