圖源:Pixabay
芥末堆文 近日,騰訊云首次對外完整披露自研星脈高性能計算網(wǎng)絡(luò)。據(jù)介紹,星脈網(wǎng)絡(luò)具備業(yè)界最高的3.2T通信帶寬,能提升40%的GPU利用率,節(jié)省30%~60%的模型訓練成本,為AI大模型帶來10倍通信性能提升?;隍v訊云新一代算力集群HCC,可支持10萬卡的超大計算規(guī)模。
據(jù)介紹,硬件方面,星脈網(wǎng)絡(luò)基于騰訊的網(wǎng)絡(luò)研發(fā)平臺,采用全自研設(shè)備構(gòu)建互聯(lián)底座,實現(xiàn)自動化部署和配置。在軟件方面,騰訊云自研的TiTa網(wǎng)絡(luò)協(xié)議,采用先進的擁塞控制和管理技術(shù),能夠?qū)崟r監(jiān)測并調(diào)整網(wǎng)絡(luò)擁塞,滿足大量服務(wù)器節(jié)點之間的通信需求,確保數(shù)據(jù)交換流暢、延時低,實現(xiàn)高負載下的零丟包,使集群通信效率達90%以上。
6月19日,騰訊云公布了MaaS全景圖,依托騰訊云TI平臺打造行業(yè)大模型精選商店,為企業(yè)客戶提供涵蓋模型預(yù)訓練、模型精調(diào)、智能應(yīng)用開發(fā)等一站式行業(yè)大模型解決方案。基于騰訊HCC高性能計算集群和大模型能力,騰訊云宣布已經(jīng)為文旅、政務(wù)、金融等10余個行業(yè)提供了超過50多個大模型行業(yè)解決方案。
在算力方面,此前騰訊云也透露,即將推出的騰訊云向量數(shù)據(jù)庫(Tencent Cloud VectorDB),源自騰訊每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級向量規(guī)模,更適合AI運算、檢索,數(shù)據(jù)接入AI效率提升10倍。
騰訊云稱,將大模型能力應(yīng)用在SaaS產(chǎn)品中,可助力提升企業(yè)效率。例如,騰訊會議即將推出覆蓋會議全流程的AI小助手,通過簡單自然的指令,完成信息提取、內(nèi)容分析、會管會控等多種復雜任務(wù)。會后,還能自動生成智能總結(jié)摘要。目前,智能錄制已面向會員、商業(yè)版和企業(yè)版用戶全量開放。
騰訊集團高級執(zhí)行副總裁云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示,生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅持生態(tài)開放,為企業(yè)提供高質(zhì)量模型服務(wù),同時支持客戶多模型訓練任務(wù),加速大模型在產(chǎn)業(yè)場景的創(chuàng)新探索。
2、芥末堆不接受通過公關(guān)費、車馬費等任何形式發(fā)布失實文章,只呈現(xiàn)有價值的內(nèi)容給讀者;
3、如果你也從事教育,并希望被芥末堆報道,請您 填寫信息告訴我們。