熱門:
RISC-V 芯片全球出貨量突破百億顆 AI大模型推理帶來新機(jī)遇
據(jù)RISC-V國際基金會(huì)數(shù)據(jù),2024年全球基于RISC-V指令集的芯片出貨量超百億顆,其中30%應(yīng)用于AI加速場(chǎng)景。
在剛剛結(jié)束的第五屆RISC-V中國峰會(huì)上,RISC-V芯片在人工智能和大模型推理方面的應(yīng)用也備受關(guān)注。
多名業(yè)內(nèi)專家表示,AI推理的算力需求呈現(xiàn)新特征,這讓RISC-V芯片在大模型推理領(lǐng)域有非常大的應(yīng)用潛力。
RISC-V為大模型推理降本增效
中國科學(xué)院計(jì)算技術(shù)研究所副所長、中國開放指令生態(tài)(RISC-V)聯(lián)盟秘書長包云崗表示,AI推理的算力需求呈現(xiàn)新特征,RISC-V+AI將成為未來新組合。AI與CPU的緊密協(xié)同設(shè)計(jì),將對(duì)RISC-V提出多樣化需求。
知合計(jì)算CEO孟建熠則認(rèn)為,RISC-V在通用計(jì)算方面一定可以落地,在AI推理上面也可以做得很好。
“通用計(jì)算需做到足夠的高性能、高能效,AI推理則需要在性能和成本上做的比較好。通過RISC-V的可擴(kuò)展性、可定制性,能夠把這兩方面做好。并且,RISC-V還能更好地實(shí)現(xiàn)統(tǒng)一地址尋址、存儲(chǔ)訪問優(yōu)化、高計(jì)算效率,可以實(shí)現(xiàn)傳統(tǒng)AI計(jì)算做不了的事情?!?/p>
中興微電子副總經(jīng)理石義軍表示,RISC-V在大模型推理領(lǐng)域有非常多的應(yīng)用機(jī)會(huì)。他分享了大模型領(lǐng)域的發(fā)展趨勢(shì),:“隨著DeepSeek等MOE模型的出現(xiàn),讓計(jì)算重心從算力轉(zhuǎn)向效率,RISC-V在新型MOE架構(gòu)下幫助大模型推理降本增效,有非常多的機(jī)會(huì)。未來整個(gè)模型呈現(xiàn)稀疏性,總參數(shù)量大幅上升,而每個(gè)token對(duì)應(yīng)的活躍參數(shù)量大幅下降,因此每一次推理所調(diào)用的算力在下降。不過,每個(gè)token推理的存儲(chǔ)容量和帶寬需求大幅上升?!?/p>
石義軍提到,模型架構(gòu)還會(huì)繼續(xù)優(yōu)化,算力架構(gòu)需要新型AI算力支持,超長的上下文需求對(duì)存儲(chǔ)管理提出新的要求。在大模型推理浪潮下,掀起下一代AI算力的需求和更新。而CPU如何更好地支持新型AI算力,成為發(fā)展重點(diǎn)。RISC-V指令集和架構(gòu)的開放性和靈活性,能更快更好賦能CPU下一代新型算力。
目前,RISC-V架構(gòu)在大模型推理上機(jī)會(huì)與挑戰(zhàn)并存。在挑戰(zhàn)方面,RISC-V架構(gòu)的多核同步性能待完善,與ARM LSE等擴(kuò)展存在差距?!按竽P托酒捎枚嗪藬U(kuò)展來適應(yīng)不同的模型尺寸,如何有效降低同步代價(jià),是RISC-V在大模型推理架構(gòu)創(chuàng)新的關(guān)鍵。此外,超大規(guī)模參數(shù)下,多芯片互聯(lián)通訊的效率也將成為瓶頸,RISC-V如何融入現(xiàn)代AI通訊生態(tài),也很重要?!笔x軍稱。
此外,RISC-V架構(gòu)的AI擴(kuò)展標(biāo)準(zhǔn)化尚待完善,架構(gòu)和技術(shù)成熟度也還不夠,矩陣指令方案尚未收斂,AI軟件棧標(biāo)準(zhǔn)亦有待完善。
石義軍表示,正積極推進(jìn)RISC-V在AI場(chǎng)景中的應(yīng)用機(jī)會(huì),尋找本地化部署一體機(jī)和小規(guī)模推理集群成本的最優(yōu)解,以及云端大規(guī)模部署中,尋找RISC-V CPU和GPU高效協(xié)同的最優(yōu)解。
“我們正與新思科技合作,通過Chiplet技術(shù)實(shí)現(xiàn)RISC-V CPU與GPU的高效互聯(lián)?!笔x軍透露,這一方案已在中興微電子的AiCube訓(xùn)推一體機(jī)中應(yīng)用,兼容DeepSeek等大模型,降低企業(yè)AI部署成本。
石義軍稱,RISC-V在大模型推理中的成功取決于技術(shù)突破與生態(tài)共建的雙重推進(jìn)。他呼吁,行業(yè)應(yīng)構(gòu)建開放共享的RISC-V產(chǎn)業(yè)鏈,完善行業(yè)標(biāo)準(zhǔn),培育RISC-V人才,構(gòu)建可持續(xù)的RISC-V生態(tài)體系,落地通算和大模型推理場(chǎng)景,打造有競(jìng)爭力的解決方案,打通產(chǎn)業(yè)上下游RISC-V應(yīng)用。
消費(fèi)電子、汽車等領(lǐng)域加速落地
《科創(chuàng)板日?qǐng)?bào)》記者從峰會(huì)現(xiàn)場(chǎng)獲悉,RISC-V芯片在智能手表、手環(huán)、智能攝像頭等領(lǐng)域正在落地,市場(chǎng)培育已經(jīng)成熟。
根據(jù)SHD Group報(bào)告的統(tǒng)計(jì)預(yù)測(cè),基于RISC-V的SoC芯片從2024到2031年期間的市場(chǎng)滲透率將從5.9%增長到25.7%,到2031年RISC-V出貨量將超過200億顆。預(yù)計(jì)將在以下六大市場(chǎng)占據(jù)顯著份額:消費(fèi)電子(39%)、計(jì)算機(jī)(33%)、汽車(31%)、數(shù)據(jù)中心(28%)、工業(yè)(27%)和網(wǎng)絡(luò)通信(26%)。
在阿里達(dá)摩院的玄鐵展臺(tái)上,《科創(chuàng)板日?qǐng)?bào)》記者看到了RISC-V處理器在邊緣和AI智算、服務(wù)器及周邊、數(shù)據(jù)存儲(chǔ)、消費(fèi)電子、汽車電子、網(wǎng)絡(luò)通訊、智能工控等領(lǐng)域的應(yīng)用。
在消費(fèi)電子領(lǐng)域,玄鐵團(tuán)隊(duì)與凌思微、博流智能,以及上市公司全志科技、東軟載波等合作。
比如,石頭掃地機(jī)器人內(nèi)置搭載玄鐵E906處理器的全志 MR527芯片,湯姆貓AI語音情感陪伴機(jī)器人內(nèi)置搭載玄鐵C906處理器的全志R128芯片,卡片相機(jī)內(nèi)置搭載玄鐵E907處理器的全志V851s芯片,臺(tái)電P50AI平板電腦內(nèi)置搭載玄鐵E902處理器的全志A733芯片,Insta360 Go3s運(yùn)動(dòng)相機(jī)內(nèi)置搭載玄鐵C906處理器的全志F133芯片等。
(文章來源:科創(chuàng)板日?qǐng)?bào))
(原標(biāo)題:RISC-V 芯片全球出貨量突破百億顆 AI大模型推理帶來新機(jī)遇)
(責(zé)任編輯:70)
將天天基金網(wǎng)設(shè)為上網(wǎng)首頁嗎? 將天天基金網(wǎng)添加到收藏夾嗎?
關(guān)于我們|資質(zhì)證明|研究中心|聯(lián)系我們|安全指引|免責(zé)條款|隱私條款|風(fēng)險(xiǎn)提示函|意見建議|在線客服|誠聘英才
天天基金客服熱線:95021 |客服郵箱:vip@1234567.com.cn|人工服務(wù)時(shí)間:工作日 7:30-21:30 雙休日 9:00-21:30
鄭重聲明:天天基金系證監(jiān)會(huì)批準(zhǔn)的基金銷售機(jī)構(gòu)[000000303]。天天基金網(wǎng)所載文章、數(shù)據(jù)僅供參考,使用前請(qǐng)核實(shí),風(fēng)險(xiǎn)自負(fù)。
中國證監(jiān)會(huì)上海監(jiān)管局網(wǎng)址:www.csrc.gov.cn/pub/shanghai
CopyRight 上海天天基金銷售有限公司 2011-現(xiàn)在 滬ICP證:滬B2-20130026 網(wǎng)站備案號(hào):滬ICP備11042629號(hào)-1
- D
- 德邦基金德邦證券資管大成基金東財(cái)基金達(dá)誠基金東方阿爾法基金東方紅資產(chǎn)管理東方基金東莞證券東海基金東海證券東吳基金東吳證券東興基金東興證券第一創(chuàng)業(yè)東證融匯證券資產(chǎn)管理
- G
- 光大保德信基金國都證券廣發(fā)基金廣發(fā)資產(chǎn)管理國海富蘭克林基金國海證券國金基金國聯(lián)安基金國聯(lián)基金格林基金國聯(lián)民生國聯(lián)證券資產(chǎn)管理國融基金國壽安?;?/a>國泰海通資管國泰基金國投瑞銀基金國投證券國投證券資產(chǎn)管理國新國證基金國信證券國新證券股份國信證券資產(chǎn)管理工銀瑞信基金國元證券