
飛騰CPU完整支持DeepSeek:可達(dá)國(guó)外平臺(tái)性能80%
聲明:該文章來自(快科技)版權(quán)由原作者所有,K2OS渲染引擎提供網(wǎng)頁加速服務(wù)。
飛騰官方宣布,飛騰騰云S5000C、飛騰騰銳D3000處理器已成功實(shí)現(xiàn)對(duì)DeepSeek全系列大模型的端到端支持,覆蓋數(shù)據(jù)中心和終端場(chǎng)景,而且性能非常出色。
其實(shí)在2024年,DeepSeek-V2.5 236B大模型就已經(jīng)在飛騰騰云S5000C平臺(tái)成功穩(wěn)定運(yùn)行。
DeepSeek-V3、R1版本發(fā)布后,飛騰第一時(shí)間在騰云S5000C、騰銳D3000平臺(tái)上本地部署驗(yàn)證,形成整體解決方案,構(gòu)建端到端的國(guó)產(chǎn)平臺(tái)DeepSeek大模型智算環(huán)境。
在數(shù)據(jù)中心側(cè),騰云S5000C服務(wù)器可以與多款A(yù)I加速卡配合,實(shí)現(xiàn)DeepSeek蒸餾版和全量版的部署。
根據(jù)官方實(shí)測(cè),飛騰騰云S5000C搭配8塊國(guó)產(chǎn)的AI加速卡,蒸餾版DeepSeek-R1-Distill-Llama-70B版本的推理速度可達(dá)到每秒22個(gè)tokens,本地部署的推理效率與國(guó)外同類產(chǎn)品架構(gòu)解決方案相當(dāng),整體性能相當(dāng)于國(guó)外平臺(tái)性能的80%左右。
同時(shí),完整版DeepSeek R1 671B模型采用分布式推理框架,基于四機(jī)、32卡AI服務(wù)器集群,也已部署成功。
在用戶終端側(cè),基于騰銳D3000、銀河麒麟V10系統(tǒng)的臺(tái)式機(jī),可以本地部署DeepSeek-R1 7B蒸餾版模型,再搭配1張國(guó)產(chǎn)推理卡,就實(shí)現(xiàn)了AI PC能力,能夠建立安全可靠的本地知識(shí)助手。
現(xiàn)階段,飛騰平臺(tái)已實(shí)現(xiàn)端到端支持DeepSeek全系列、眾多開源和國(guó)產(chǎn)頭部大模型的本地化部署,可為企業(yè)級(jí)和個(gè)人應(yīng)用提供全國(guó)產(chǎn)化、軟硬一體、性價(jià)比高、安全、開放的全棧解決方案。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級(jí)服務(wù)市場(chǎng):https://www.ijiandao.com/
- 1 習(xí)近平接見新疆各族各界代表 7904874
- 2 樺加沙風(fēng)眼內(nèi)部曝光 拍攝部門:震撼 7809512
- 3 飛機(jī)狂風(fēng)中降落 機(jī)翼險(xiǎn)些砸地 7714566
- 4 援疆的山海深情 跨越千里萬里 7618920
- 5 馬克龍被美警察攔下 當(dāng)場(chǎng)打給特朗普 7521286
- 6 臺(tái)風(fēng)“樺加沙”影響有多大?解讀來了 7426292
- 7 盒馬最難吃甜品被臺(tái)風(fēng)選出來了 7329641
- 8 深圳機(jī)場(chǎng)飛機(jī)被“五花大綁”防臺(tái)風(fēng) 7233676
- 9 上海再通報(bào)多校午餐發(fā)臭:涉嫌瞞報(bào) 7143982
- 10 醫(yī)院通報(bào)“CT報(bào)告單現(xiàn)不文明用語” 7043449