3
發(fā)布日期:2024-09-10 08:10 瀏覽次數:
聯發(fā)科在2024年5月7日舉辦了首屆天璣開發(fā)者大會(MDDC 2024),其在大會上發(fā)布了天璣9300+、“天璣AI開發(fā)套件”,啟動“天璣AI先鋒計劃”并發(fā)布了《生成式AI手機產業(yè)白皮書》。
天璣9300+是臺積電第三代4nm工藝,CPU部分是1顆3.4GHz的X4+ 3x2.85GHz的X4 + 4顆2.0GHz的A720。而Immortalis-G720 MC12 GPU的頻率還沒公布。
90幀HDR吃雞中,宣稱滿載功耗比驍龍(8 Gen 3)低20%,宣稱星速引擎在《逆水寒》中可以降低10%的功耗。
AI部分,天璣9300+有AI推測解碼加速,是首款能在端側運行Liama 7B模型(22tokens/秒)、首款支持端側雙LoRA融合(宣稱生成效率提升100%。)的移動SoC。
另外,活動上也官宣OPPO Reno12系列會首發(fā)天璣8250(圖1右下角那個)。
根據爆料,天璣8250的CPU部分和天璣8200接近,臺積電4nm工藝,1顆3.1GHz的A78+3顆3.0GHz的A78+4顆2.0GHz的A55,Mali-G610 MC6 GPU。
“天璣AI先鋒計劃”包括vivo、OPPO、小米、榮耀、傳音等手機廠商,也包括阿里云、百川、零一萬物等服務商。
,則是聯合了阿里云通義千問、百川大模型、虎牙、酷狗、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo(排名按字母排序)等一批廠商。
合作伙伴除了上面提到的企業(yè),還包括Cocos、Honor of Kings、虎牙直播、酷狗音樂、美圖、全民K歌、RWKV、小紅書等數十家廠商。
生成式AI手機是利用大規(guī)模、預訓練的生成式AI模型,實現多模態(tài)內容生成、情境感知,并具備不斷增強的類人能力。
支持大模型的本地部署,4166am金沙或是通過云端協(xié)同的方式執(zhí)行復雜的生成式AI任務。生成式AI手機本身具備強大的AI算力,無須完全依賴云端服務器。
具備多模態(tài)能力,即可以處理文本、圖像、語音等多種形式的內容輸入,以生成各種形式的輸出,典型用例如翻譯、圖像生成和視頻生成等。
確保流暢、無縫的用戶體驗,設備能夠以自然而直觀的交互方式,快速響應用戶的請求。
擁有實現上述特征的硬件規(guī)格,包括但不限于基于領先工藝和先進架構設計的移動計算平臺,擁有集成或者獨立的神經網絡運算單元(如APU/NPU/TPU),大容量和高帶寬的內存,以及穩(wěn)定和高速的連接,硬件級和系統(tǒng)級的安全防御。
生成式AI的硬件要求:70億參數模型(本身要吃4GB內存)建議8GB LPDDR5x內存(60GB/s帶寬)以上,現在主要是天璣9300和驍龍8 Gen 3。
預測2027年會有超過12億臺生成式AI手機,2025年旗艦手機AI算力將達到60TOPS(其實驍龍8G3是73TOPS,蘋果A17 Pro是35TOPS)。
GenAI最佳實踐 (模型量化、模型編譯、模型推理加速,宣稱終端部署可從數周加速到一天)