3
發(fā)布日期:2024-09-16 06:18 瀏覽次數(shù):
6月28日,騰訊云副總裁李力在A2M人工智能創(chuàng)新峰會上宣布,騰訊云推出基于公有云的成熟實踐的專有云智算套件。
該套件集合了騰訊云高性能計算集群構(gòu)建模塊、智能高性能網(wǎng)絡IHN、高并發(fā)文件存儲系統(tǒng)TurboFS、算力加速框架Taco以及GPU算力共享技術(shù)等核心能力,與騰訊云專有云平臺TCE結(jié)合,能夠支撐企業(yè)基于自有硬件搭建高性能的專有智算云,滿足在私有算力環(huán)境下訓練大模型的訴求。
據(jù)了解,騰訊云智算套件提供的算、存、網(wǎng)一體的云原生能力,能夠幫助企業(yè)高效利用算力卡資源,解決算力集群的木桶短板效應。比如,騰訊云自研高性能智能網(wǎng)絡IHN,能夠?qū)崿F(xiàn)企業(yè)算力卡持續(xù)穩(wěn)定高帶寬通信;騰訊云高性能文件存儲系統(tǒng),能夠有效解決海量數(shù)據(jù)存儲的讀寫性能瓶頸問題。
同時,智算套件還在調(diào)度架構(gòu)層融合了騰訊云自研的算力加速框架Taco和GPU算力共享技術(shù)qGPU。其中Taco基于網(wǎng)絡協(xié)議、通信策略、AI 框架、模型編譯等多層級的優(yōu)化,能夠大幅提升大模型訓練和推理業(yè)務性能;qGPU能夠在算力集群內(nèi)對算力卡實現(xiàn)精準切分,提升卡的利用效率。
另一方面,騰訊云TCE擁有跟公有云同源同構(gòu)的技術(shù)架構(gòu)和“一云多芯”的能力,能夠靈活支持不同規(guī)模的云平臺構(gòu)建,還能屏蔽底層硬件差異,更好地納管不同類型的硬件設施。
騰訊云智算套件源自騰訊云公有云算力集群HCC的成熟實踐。去年,騰訊云在行業(yè)率先發(fā)布了大模型公有云算力集群HCC,該集群結(jié)合騰訊云星星海自研服務器,騰訊云自研高性能智能網(wǎng)絡提供的3.2T超高互聯(lián)帶寬,以及騰訊自研高并發(fā)文件存儲系統(tǒng),能夠為大模型訓練、自動駕駛、科學計算等提供高性能、高帶寬和低延遲的集群算力。
當前,AI正在逐步從輔助技術(shù)成為引領行業(yè)變革的關鍵要素。作為這一變革的重要支撐之一,云計算正與AI深度融合,孕育出AI原生云這一全新的技術(shù)形態(tài)。
騰訊云聯(lián)合Gartner發(fā)布的《AI原生云建設與加速指南》指出,AI原生云將AI技術(shù)深度融合到云服務的每一個層面,并著重于開放性和生態(tài)系統(tǒng)的構(gòu)建,通過提供豐富的API和SDK,以支持AI原生新服務和應用的開發(fā)。
李力介紹,騰訊云將圍繞AI原生云,為客戶提供生成式AI驅(qū)動的新一代云平臺架構(gòu),為客戶帶來AI原生理念的基礎設施、模型、工程、應用、全棧安全防護等五大核心能力。
其中,基礎設施層,騰訊云構(gòu)建了支持多GPU卡型的統(tǒng)一算力平臺,結(jié)合長穩(wěn)訓練、利用率提升以及任務和節(jié)點的異常恢復機制等技術(shù),能夠助力模型訓練提效200%,提升硬件資源利用率至99%+。
在工程平臺層面,騰訊云打造了基于騰訊云高性能服務HAI 與 云端開發(fā)工具CloudStudio的GPU開發(fā)空間;騰訊云向量數(shù)據(jù)庫提供了全面的數(shù)據(jù)檢索增強套件能力;騰訊云機器學習平臺TI提供了從數(shù)據(jù)標注到模型推理的工具鏈。在此之上,騰訊云OrcaTerm AI助手、AI代碼助手可以提供智能運維、技術(shù)問答、代碼補全等AI輔助能力。
在模型層,騰訊自研的大模型混元最大參數(shù)量級已過萬億,在國內(nèi)率先采用混合專家模型 (MoE) 結(jié)構(gòu),部分中文能力已追平GPT-4,在“時新”問題的回答表現(xiàn)上,數(shù)學、推理等能力上均有較大提升。同時,騰訊會議等騰訊SaaS產(chǎn)品已經(jīng)全面接入騰訊混元大模型。
在安全方面,騰訊全棧安全產(chǎn)品都已應用AI技術(shù),并在實際攻防場景中守護安4166am金沙信心之選全防線,同時,騰訊云還在積極探索生成式AI在安全場景的落地。
值得一提的是,騰訊云還支持通過分布式云的方式部署,能夠為用戶在多云、混合云場景下提供一致的產(chǎn)品服務和體驗,并且通過集中管控,統(tǒng)一管理位于不同位置的云資源和業(yè)務應用,幫助用戶在任意位置獲取需要的AI原生云資源與云服務。
截至目前,包括百川智能、MiniMax、智譜科技、元象等在內(nèi)的90%頭部大模型企業(yè),都在使用騰訊云的解決方案。4166am金沙