日前,由中國(guó)乘方科技(北京)有限公司研發(fā)的全球首個(gè)分布式AI智能算力調(diào)度服務(wù)平臺(tái)——“算紐”算聯(lián)網(wǎng)上線試運(yùn)行。
“算紐”算聯(lián)網(wǎng)平臺(tái)整合全球GPU資源,向用戶(hù)提供智能化、高效的算力調(diào)度服務(wù)。
首先,算聯(lián)網(wǎng)創(chuàng)新了算力資源配置模式。算紐通過(guò)將算力需求方與未充分利用的GPU資源連接,實(shí)現(xiàn)資源優(yōu)化配置。用戶(hù)可低成本獲取GPU算力,GPU資源提供者也可通過(guò)該平臺(tái)實(shí)現(xiàn)快速交易與資源共享。
其次,算紐打破了以往算力調(diào)度技術(shù)模式。算紐打破了傳統(tǒng)算力中心和云調(diào)度的模式,采用去中心化的分布式技術(shù),契合了用戶(hù)對(duì)高效、低成本去中心化解決方案的需求。
最后,算紐算聯(lián)網(wǎng)的核心技術(shù)取得突破。算紐將大模型進(jìn)行縱橫切割并分布到80個(gè)GPU進(jìn)行處理的分層壓縮技術(shù),實(shí)現(xiàn)了高顆粒度的智算調(diào)度,避免了資源浪費(fèi),降低算力租賃成本達(dá)90%。
乘方科技CTO Ming博士指出:“我們的目標(biāo)是讓AI普及化,使原本需要大型智算中心完成的大模型推理,在分布式環(huán)境下的普通設(shè)備上也能實(shí)現(xiàn)?!彼慵~的智算云網(wǎng)、并聯(lián)計(jì)云、靈動(dòng)集算、網(wǎng)融智算、群芯云算等創(chuàng)新技術(shù)實(shí)現(xiàn)了智能分配算法、高擴(kuò)展性、高效調(diào)度、容錯(cuò)恢復(fù)及靈活配置。
作為算紐核心技術(shù)的分布式運(yùn)算引擎有效應(yīng)對(duì)智能算力供需失衡問(wèn)題。通過(guò)智能算力管理體系,算紐能夠調(diào)度中小規(guī)模的GPU資源,完成百萬(wàn)、千萬(wàn)乃至億級(jí)別的任務(wù)分發(fā)和資源供給,解決了智能算力短缺的痛點(diǎn)。
專(zhuān)家認(rèn)為,算聯(lián)網(wǎng)有望緩解國(guó)內(nèi)智算GPU供給緊張的局面。算聯(lián)網(wǎng)與國(guó)家一體化算力調(diào)度平臺(tái)將形成互補(bǔ)關(guān)系,有望成為推動(dòng)中國(guó)算力產(chǎn)業(yè)格局重塑及提升國(guó)際競(jìng)爭(zhēng)力的關(guān)鍵力量。
算紐的上線預(yù)示著智能算力供需將進(jìn)入高效平衡、便捷獲取、普惠大眾的算聯(lián)網(wǎng)時(shí)代。算紐能否引領(lǐng)智能算力新時(shí)代發(fā)展,助推全球智算產(chǎn)業(yè)變革,值得期待。