在AI領(lǐng)域，英偉達(dá)一直被視為行業(yè)的領(lǐng)頭羊，但2025年，這一地位似乎正面臨前所未有的挑戰(zhàn)。隨著AI算力市場(chǎng)風(fēng)向的轉(zhuǎn)變，行業(yè)重心逐漸從模型訓(xùn)練向模型推理傾斜，一系列專(zhuān)注于推理芯片的初創(chuàng)公司如雨后春筍般涌現(xiàn)，它們紛紛向英偉達(dá)這位霸主發(fā)起沖擊。

推理與訓(xùn)練，如同AI領(lǐng)域的兩個(gè)重要階段，前者是后者的商業(yè)化延伸。訓(xùn)練階段，模型如同初學(xué)者，在教練的指導(dǎo)下不斷學(xué)習(xí)和調(diào)整；而推理階段，模型則如同老司機(jī)，需靈活應(yīng)對(duì)各種實(shí)際路況。這一轉(zhuǎn)變意味著，AI工作負(fù)載的格局將發(fā)生深刻變化，推理計(jì)算需求將迅速提升，甚至有望超過(guò)訓(xùn)練計(jì)算需求。

在這場(chǎng)挑戰(zhàn)者聯(lián)盟中，Groq、SambaNova和Positron AI無(wú)疑是最為引人注目的三位成員。Groq由前谷歌TPU核心團(tuán)隊(duì)的核心成員創(chuàng)辦，其AI推理引擎LPU以其超快的推理速度和遠(yuǎn)低于GPU的token成本而聞名。Groq的LPU設(shè)計(jì)獨(dú)特，旨在解決傳統(tǒng)架構(gòu)中外部?jī)?nèi)存的瓶頸，通過(guò)優(yōu)化數(shù)據(jù)流動(dòng)，實(shí)現(xiàn)高效計(jì)算。然而，盡管Groq聲稱(chēng)其LPU在速度和能效上遠(yuǎn)超英偉達(dá)GPU，但一些專(zhuān)家對(duì)其實(shí)際成本和能耗提出了質(zhì)疑。

SambaNova則以50億美元的估值位居AI芯片初創(chuàng)公司榜首。其RDU架構(gòu)結(jié)合了GPU的數(shù)倍片上SRAM和適用于大規(guī)模計(jì)算任務(wù)的HBM，實(shí)現(xiàn)了極致的算子融合和高性能。SambaNova不僅出售芯片，還提供從芯片到服務(wù)器系統(tǒng)，甚至包括部署大模型的定制技術(shù)堆棧。其聯(lián)創(chuàng)Rodrigo Liang認(rèn)為，大模型與生成式AI商業(yè)化的下一個(gè)戰(zhàn)場(chǎng)將是企業(yè)的私有數(shù)據(jù)，SambaNova的技術(shù)將幫助企業(yè)高效、可持續(xù)地?cái)U(kuò)展規(guī)模。

相比之下，Positron AI雖然成立時(shí)間較短，但其推出的推理芯片同樣引人注目。Positron聲稱(chēng)其芯片可以執(zhí)行與英偉達(dá)H100相同的計(jì)算，但成本僅為五分之一。Positron的CEO Thomas Sohmers表示，AI計(jì)算開(kāi)支的重心已經(jīng)轉(zhuǎn)向推理，他們有信心通過(guò)提供更多專(zhuān)用于推理的計(jì)算資源，推動(dòng)AI技術(shù)的廣泛采用。

面對(duì)這些來(lái)勢(shì)洶洶的挑戰(zhàn)者，英偉達(dá)似乎并未感到過(guò)多的壓力。相反，它正忙著推出新的推理芯片B300系列，以更高的算力和更大的顯存滿(mǎn)足市場(chǎng)對(duì)大模型推理性能的需求。B300系列將有效降低推理成本，提高模型能力，為AI推理市場(chǎng)注入新的活力。

然而，無(wú)論如何，這場(chǎng)由推理芯片引發(fā)的挑戰(zhàn)已經(jīng)讓AI市場(chǎng)變得更加多元化和競(jìng)爭(zhēng)激烈。對(duì)于初創(chuàng)公司而言，它們需要不斷優(yōu)化技術(shù)，降低成本，以在市場(chǎng)中站穩(wěn)腳跟；而對(duì)于英偉達(dá)這樣的行業(yè)巨頭而言，它也需要時(shí)刻保持警惕，不斷創(chuàng)新，以應(yīng)對(duì)來(lái)自四面八方的挑戰(zhàn)。