芥末堆芥末堆

騰訊云首次對(duì)外完整披露自研星脈高性能計(jì)算網(wǎng)絡(luò)

作者:LAN 發(fā)布時(shí)間:

騰訊云首次對(duì)外完整披露自研星脈高性能計(jì)算網(wǎng)絡(luò)

作者:LAN 發(fā)布時(shí)間:

摘要:星脈網(wǎng)絡(luò)具備業(yè)界最高的3.2T通信帶寬,能提升40%的GPU利用率。

微信圖片_20230625133057.jpg

圖源:Pixabay

芥末堆文 近日,騰訊云首次對(duì)外完整披露自研星脈高性能計(jì)算網(wǎng)絡(luò)。據(jù)介紹,星脈網(wǎng)絡(luò)具備業(yè)界最高的3.2T通信帶寬,能提升40%的GPU利用率,節(jié)省30%~60%的模型訓(xùn)練成本,為AI大模型帶來10倍通信性能提升?;隍v訊云新一代算力集群HCC,可支持10萬卡的超大計(jì)算規(guī)模。

據(jù)介紹,硬件方面,星脈網(wǎng)絡(luò)基于騰訊的網(wǎng)絡(luò)研發(fā)平臺(tái),采用全自研設(shè)備構(gòu)建互聯(lián)底座,實(shí)現(xiàn)自動(dòng)化部署和配置。在軟件方面,騰訊云自研的TiTa網(wǎng)絡(luò)協(xié)議,采用先進(jìn)的擁塞控制和管理技術(shù),能夠?qū)崟r(shí)監(jiān)測(cè)并調(diào)整網(wǎng)絡(luò)擁塞,滿足大量服務(wù)器節(jié)點(diǎn)之間的通信需求,確保數(shù)據(jù)交換流暢、延時(shí)低,實(shí)現(xiàn)高負(fù)載下的零丟包,使集群通信效率達(dá)90%以上。

6月19日,騰訊云公布了MaaS全景圖,依托騰訊云TI平臺(tái)打造行業(yè)大模型精選商店,為企業(yè)客戶提供涵蓋模型預(yù)訓(xùn)練、模型精調(diào)、智能應(yīng)用開發(fā)等一站式行業(yè)大模型解決方案?;隍v訊HCC高性能計(jì)算集群和大模型能力,騰訊云宣布已經(jīng)為文旅、政務(wù)、金融等10余個(gè)行業(yè)提供了超過50多個(gè)大模型行業(yè)解決方案。

在算力方面,此前騰訊云也透露,即將推出的騰訊云向量數(shù)據(jù)庫(Tencent Cloud VectorDB),源自騰訊每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級(jí)向量規(guī)模,更適合AI運(yùn)算、檢索,數(shù)據(jù)接入AI效率提升10倍。

騰訊云稱,將大模型能力應(yīng)用在SaaS產(chǎn)品中,可助力提升企業(yè)效率。例如,騰訊會(huì)議即將推出覆蓋會(huì)議全流程的AI小助手,通過簡(jiǎn)單自然的指令,完成信息提取、內(nèi)容分析、會(huì)管會(huì)控等多種復(fù)雜任務(wù)。會(huì)后,還能自動(dòng)生成智能總結(jié)摘。目前,智能錄制已面向會(huì)員、商業(yè)版和企業(yè)版用戶全量開放。

騰訊集團(tuán)高級(jí)執(zhí)行副總裁云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示,生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅(jiān)持生態(tài)開放,為企業(yè)提供高質(zhì)量模型服務(wù),同時(shí)支持客戶多模型訓(xùn)練任務(wù),加速大模型在產(chǎn)業(yè)場(chǎng)景的創(chuàng)新探索。

1、本文是 芥末堆網(wǎng)原創(chuàng)文章,轉(zhuǎn)載可點(diǎn)擊 芥末堆內(nèi)容合作 了解詳情,未經(jīng)授權(quán)拒絕一切形式轉(zhuǎn)載,違者必究;
2、芥末堆不接受通過公關(guān)費(fèi)、車馬費(fèi)等任何形式發(fā)布失實(shí)文章,只呈現(xiàn)有價(jià)值的內(nèi)容給讀者;
3、如果你也從事教育,并希望被芥末堆報(bào)道,請(qǐng)您 填寫信息告訴我們。
來源: 芥末堆
芥末堆商務(wù)合作:王老師 18710003484
  • 騰訊云首次對(duì)外完整披露自研星脈高性能計(jì)算網(wǎng)絡(luò)分享二維碼