3
發(fā)布日期:2024-09-28 02:51 瀏覽次數(shù):
【摘要】隨著端側(cè)大模型加速涌現(xiàn),定制化AI芯片成為了當(dāng)前芯片廠商追逐的新焦點。近日,燧原科技(持股15%)與兆易創(chuàng)新(持股15%)合資成立了端側(cè)大模型芯片公司光羽芯辰。
光羽芯辰采用了創(chuàng)新的3D堆疊方案,或能結(jié)合燧原的AI技術(shù)特長和兆易的DRAM技術(shù)特長,解決存儲帶寬和容量的問題。據(jù)董事長周強(qiáng),光羽芯辰的解決方案在性能上比當(dāng)前主流產(chǎn)品快10倍以上,且成本更低,具有極強(qiáng)的市場競爭力。
近日,燧原科技與兆易創(chuàng)新合資成立了端側(cè)大模型芯片公司光羽芯辰,燧原科技持股15%,兆易創(chuàng)新持股15%。據(jù)悉,光羽芯辰目前融資已達(dá)數(shù)億元,市場較為看好。
此前,GPU設(shè)計的思路普遍還圍繞著通用的場景進(jìn)行,這意味著可以跑大模型,但沒有專門針對其訓(xùn)練的算法框架做優(yōu)化。
以英偉達(dá)為例,芯片本身針對通用場景,所有性能都是拉滿4166am金沙的狀態(tài),但是實際很多場景上沒必要用到過高的性能,完全可以在存儲或其他方面相對降性能以達(dá)到降本需求。大模型是在去年才開始爆火,基于此,圍繞算法框架做定制芯片的生意還處于一片藍(lán)海。
此外,端側(cè)大模型還有幾大無法取代的優(yōu)點:一是數(shù)據(jù)不上云有助于隱私保護(hù),隱私安全也成為當(dāng)前用戶越來越重視的話題;二是本地運行減少時延;三則更方便根據(jù)端側(cè)使用場景和用戶特征、習(xí)慣進(jìn)行個性化適配,準(zhǔn)確度或許能有更高的提升。最后,端側(cè)大模型成本大概率是一次性付費,從成本角度講,運營廠商不需要再為其購買云端那么多且持續(xù)的數(shù)據(jù)算力和存儲空間。
但在當(dāng)前階段,其面臨的發(fā)展桎梏也不少,即使是輕量級大模型,其參數(shù)通常也需要達(dá)到十億級,業(yè)界普遍認(rèn)為參數(shù)量達(dá)到30億之后大模型的能力才能上一個臺階。
燧原科技是在這一波AI芯片浪潮中涌現(xiàn)出的明星獨角獸企業(yè),其產(chǎn)品線涵蓋了AI加速卡、智算集群、配套軟件及平臺,芯片產(chǎn)品主要集中在云端AI芯片領(lǐng)域。
其過往的投資方包括上海國資委、騰訊、美圖、真格基金、紅點中國等政府資方或知名市場化投資主體。據(jù)知情人士透露,2024年上半年,公司確認(rèn)收入約幾千萬元。
兆易創(chuàng)新則主要從事存儲器、MCU等產(chǎn)品的研發(fā)。本次兆易參與AI芯片新公司的生意,與其拓展CUBE產(chǎn)品(定制化高速存儲)的戰(zhàn)略規(guī)劃相關(guān)。由于應(yīng)用于端側(cè)大模型的AI芯片定制化要求高,計算芯片和DRAM必須一起封裝,因此存儲廠商必須要與AI芯片公司合作來進(jìn)行高速存儲產(chǎn)品的設(shè)計。
強(qiáng)強(qiáng)聯(lián)合,老牌存儲廠商兆易提供DRAM技術(shù),燧原科技提供AI芯片設(shè)計能力,新公司光羽芯辰顯然被寄予厚望。
值得一提的是,光羽芯辰現(xiàn)任董事長兼CEO周強(qiáng)同時也是燧原科技首席芯片戰(zhàn)略官。周強(qiáng)畢業(yè)于復(fù)旦大學(xué)微電子學(xué)院,曾帶領(lǐng)團(tuán)隊設(shè)計CPU芯片和系統(tǒng)、AI SOC芯片和系統(tǒng)、汽車AP芯片等,有豐富的成功量產(chǎn)經(jīng)驗。
周強(qiáng)曾公開提到,光羽芯辰專注于研發(fā)大模型在端側(cè)落地的芯片,旨在通過技術(shù)革新推動智能手機(jī)、PC、座艙及機(jī)器人等領(lǐng)域的智能化升級。
光羽芯辰采用了創(chuàng)新的3D堆疊方案,結(jié)合AI技術(shù)和DRAM技術(shù),解決了存儲帶寬和容量的問題。據(jù)介紹,光羽芯辰的解決方案在性能上比當(dāng)前主流產(chǎn)品快10倍以上,且成本更低,具有極強(qiáng)的市場競爭力。
業(yè)內(nèi)人士猜測,該芯片主要應(yīng)用于消費電子領(lǐng)域,4166am金沙信心之選還是屬于低端制程,不會用到14nm以下的芯片。
隨著AI大模型趨勢的逐漸成熟,在小領(lǐng)域做定制化AI芯片成為一個新的藍(lán)海風(fēng)口。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
76歲TVB綠葉欠債60萬瀕臨破產(chǎn),每月領(lǐng)4000元綜援,已搬進(jìn)養(yǎng)老院
【新華社】為經(jīng)濟(jì)社會發(fā)展大局提供有力金融支撐——新中國成立75周年金融業(yè)發(fā)展成就綜述
突然爆了!中國股票單日凈買入創(chuàng)3年來新高,外資客戶問:“中國股市已悄然進(jìn)入‘長?!??”
Apple Watch Series10有哪些變化?有史以來最輕薄的一款!
這游戲為了讓玩家爽,竟然這么不擇手段?/
主站 商城 論壇 自運營 登錄 注冊 這游戲為了讓玩家爽,竟然這么不擇手段? 廉頗 2024-09-27 ...
同時首發(fā)驍龍8 Elite?小米15、一加13、榮耀Magic7誰能獨占鰲頭