半導(dǎo)體行業(yè)近期掀起了一股關(guān)于博通(Broadcom)ASIC/DSA技術(shù)的熱潮。根據(jù)摩根士丹利的預(yù)測,高端定制ASIC芯片市場規(guī)模將在200億至300億美元之間,年復(fù)合增長率(CAGR)高達20%。其中,博通和Marvell兩家公司占據(jù)了超過60%的市場份額,博通更是以約55-60%的市場份額遙遙領(lǐng)先,其增長率甚至超過了英偉達。
盡管ASIC概念炙手可熱,但產(chǎn)品和企業(yè)的持續(xù)發(fā)展終究要回歸到技術(shù)和產(chǎn)品的本質(zhì)。正如并非所有GPGPU都能與英偉達相媲美,同樣不是所有的ASIC都能達到博通定制AI芯片的水平。博通在ASIC/DSA領(lǐng)域已經(jīng)建立了其他企業(yè)難以企及的優(yōu)勢,本文將深入探討這些優(yōu)勢。
ASIC(Application Specific Integrated Circuit)是專為特定應(yīng)用設(shè)計的集成電路,相比CPU和GPGPU等通用集成電路,ASIC在效能、功耗和成本上具有顯著優(yōu)勢。在數(shù)字貨幣挖礦領(lǐng)域,ASIC礦機因能效比和性價比更高,自2013年起便成為挖礦首選。
而DSA(Domain Specific Accelerator)則是指為特定領(lǐng)域或應(yīng)用定制的加速器。博通的AI芯片不僅針對單個應(yīng)用,還能處理多個AI領(lǐng)域的計算加速,其XPU架構(gòu)預(yù)示了一定的領(lǐng)域通用性。
博通在AI DSA領(lǐng)域的優(yōu)勢主要體現(xiàn)在三個方面:一是為Google定制數(shù)代TPU的設(shè)計流程與優(yōu)化技術(shù);二是其獨有的3D/3.5D SOIC技術(shù);三是高速互連與CPO技術(shù)。這些核心技術(shù)使博通在全球范圍內(nèi)獨樹一幟,包括英偉達在內(nèi)的競爭對手在3D IC技術(shù)方面尚無明顯進展。
博通的定制AI芯片技術(shù)可以從Google的Trillium TPU(TPU v6)中窺見一斑。Trillium TPU采用了4nm工藝,相比前一代在性能上有顯著提升。博通在定制加速芯片方面的關(guān)鍵優(yōu)勢在于矩陣計算單元的電路優(yōu)化和矩陣單元之間的互連性能提升。
博通還積累了大量的高性能計算/互連IP核和相關(guān)技術(shù),這些成體系的IP核能夠幫助降低ASIC/DSA產(chǎn)品的成本和研發(fā)周期,減少設(shè)計風(fēng)險。Google、meta等企業(yè)雖然也具備芯片設(shè)計能力,但采用博通的IP核可以更加省錢和省時,這構(gòu)成了博通獨特的競爭優(yōu)勢。
博通的另一個殺手锏是3.5D XDSiP技術(shù)。隨著芯片尺寸的不斷增大和光刻技術(shù)線寬逼近原子尺度,傳統(tǒng)工藝提升帶來的性能提升逐漸放緩。博通的3.5D SiP技術(shù)在2.5D方案基礎(chǔ)上堆疊計算核心,以對抗工藝進步變緩帶來的挑戰(zhàn)。據(jù)悉,博通正為客戶開發(fā)多種3.5D產(chǎn)品,并計劃于2026年開始生產(chǎn)發(fā)貨。
3.5D XDSiP技術(shù)結(jié)合了3D IC、2.5D CoWoS和D2D(Die to Die互連)等技術(shù),提供了足夠的物理空間分離以解決散熱和串?dāng)_問題,同時提升了互連接口密度和互連區(qū)域總面積,縮短了信號傳輸距離,提高了處理速度。博通的Face to Face(F2F)堆疊結(jié)構(gòu)進一步減少了寄生電容與電阻,提高了信號密度并降低了接口功耗。
然而,3D/3.5D IC技術(shù)的產(chǎn)業(yè)鏈整合難度和設(shè)計挑戰(zhàn)也不容忽視。目前該領(lǐng)域尚未形成標(biāo)準(zhǔn),方案多樣化,缺乏成熟標(biāo)準(zhǔn)的EDA設(shè)計工具與參考流程。博通在3D/3.5D設(shè)計能力方面的積累并非一蹴而就,這也是其他ASIC企業(yè)難以望其項背的原因。
面對大模型不斷增長的訓(xùn)練和集群數(shù)據(jù)存儲/處理需求,博通還推出了光互連CPO技術(shù)。CPO技術(shù)將光學(xué)器件直接集成到芯片封裝中,減少了銅線傳輸損耗和DSP傳輸延遲,實現(xiàn)了更高的帶寬和更低的延遲。博通的CPO設(shè)計能力涵蓋了TH4-Humboldt和TH5-Baily兩種方案,并與臺積電合作將CPO投入量產(chǎn)。
CPO設(shè)計并不簡單,需要強大的資金實力和技術(shù)儲備。博通在CPO設(shè)計方面已經(jīng)取得了顯著進展,并計劃將其應(yīng)用于計算Die與交換機的互連以及CPU和GPU到各種設(shè)備的直連,實現(xiàn)資源池化和設(shè)備間的內(nèi)存共享。
隨著半導(dǎo)體行業(yè)在通用化/標(biāo)準(zhǔn)化和定制兩種趨勢之間的振蕩,博通已經(jīng)擁有了除了生態(tài)之外的AI芯片的頂級技術(shù)。未來,博通定制AI芯片是否能夠成為新的主流,將取決于大模型算法架構(gòu)的發(fā)展以及英偉達等競爭對手的策略調(diào)整。但可以肯定的是,在3.5D IC和光互連方面擁有強大實力的企業(yè),將在AI芯片領(lǐng)域占據(jù)更有利的地位。