OpenAI představuje čip Jalapeno: cesta k nezávislosti

Tento týden dorazil do OpenAI kompaktní čip a působil jako víc než jen hardware. Byl to signál. Pojmenovaný Jalapeno, nový ASIC představuje první interní čipový projekt OpenAI, vyvinutý ve spolupráci s Broadcomem za účelem urychlení inferenčních výpočtů pro společnost, která přivedla na svět ChatGPT.

OpenAI nazývá návrh Procesor inteligence a popisuje ho jako první akcelerátor v platformě, kterou společnost sestavuje pro rychlejší, spolehlivější a rozsáhlejší provoz pokročilých modelů. Broadcom vyrábí křemík. OpenAI uvádí, že Jalapeno navrhlo zhruba za devět měsíců a zároveň vyvinulo velkou část okolních výpočetních systémů, ve kterých tyto čipy poběží.

Proč to má význam pro AI výpočty

Grafické procesory od Nvidie byly páteří moderní AI. Jsou flexibilní a výkonné, ale jsou spojeny s vysokými cenami a úzkými místy v dodávkách. ASICy obětují část flexibility výměnou za vyšší efektivitu a úspory nákladů. To je činí atraktivními, pokud lze pracovní zátěž úzce optimalizovat. Jalapeno je sázka OpenAI, že pečlivě vyladěný hardware dokáže dodat více výpočetního výkonu na watt a pomoci společnosti rozšířit přístup k pokročilým modelům.

Rozchází se OpenAI s Nvidií? Ne úplně. Jde o diverzifikaci, poháněnou stále rostoucí poptávkou. Na začátku tohoto roku OpenAI uzavřelo dohody o využití Amazoních čipů Trainium a podepsalo partnerství s AMD a Cerebras. Nyní, s Broadcomem vyrábějícím Jalapeno, se OpenAI snaží přidat další spolehlivou cestu k surovému výpočetnímu výkonu při budování polic vlastního hardwaru, který by při plné ambici mohl vyžadovat kolem deseti gigawattů energie.

Jsou tu i praktické milníky. Fyzický vzorek Jalapeno byl doručen ve středu. Firmy říkají, že očekávají počáteční nasazení do konce roku 2026 a širší zavádění v letech následujících. Pokud se harmonogramy dodrží, můžeme pozorovat začátek významné změny v tom, jak jsou velké jazykové modely provozovány v produkci.

Broadcom pocítil zprávu. Jeho akcie po oznámení vzrostly přibližně o dvě procenta. Výrobce čipů patří mezi vítěze na trhu AI, jehož akcie od začátku roku vzrostly zhruba o deset procent a od konce roku 2022 téměř sedminásobně, protože velcí poskytovatelé cloudu a laboratoře AI objednávají vlastní křemík.

Existují kompromisy. ASICy jsou méně flexibilní než univerzální grafické procesory, takže fungují nejlépe v tandemu s přesnou softwarovou a systémovou vrstvou. Argument OpenAI je, že navržením větší části této vrstvy sama může dosáhnout vyšší efektivity a rozšířit přístup k výkonným nástrojům AI. Jednoduše: postav motor, vyladěj vůz a dojedeš dál s menšími náklady.

Skutečná zkouška bude ve výkonu na reálných pracovních zátěžích a jak rychle dokáže OpenAI rozšířit výrobu s Broadcomem. Prozatím je Jalapeno odvážným krokem směrem k hardwarové nezávislosti a připomínkou, že dodavatelský řetězec pro AI se mění z hotových součástek na vlastní platformy navržené pro novou třídu softwaru.