ITBear旗下自媒體矩陣:

飛騰CPU成功支持DeepSeek全系列大模型,國產(chǎn)算力再升級!

   時(shí)間:2025-02-10 00:00:34 來源:ITBEAR編輯:快訊團(tuán)隊(duì) 發(fā)表評論無障礙通道

飛騰信息技術(shù)有限公司近日宣布了一項(xiàng)重要技術(shù)突破,其旗下的騰云S5000C與騰銳D3000處理器已成功實(shí)現(xiàn)對DeepSeek全系列大模型的全面支持。這一成就覆蓋了數(shù)據(jù)中心和終端場景,且在本地部署的推理效率上,與國外同類產(chǎn)品架構(gòu)解決方案相媲美。

據(jù)悉,DeepSeek-V2.5 236B大模型已在飛騰騰云S5000C平臺上實(shí)現(xiàn)了穩(wěn)定運(yùn)行。在配備8塊國產(chǎn)AI卡的條件下,該平臺的整體性能接近國外平臺性能的80%。隨著DeepSeek-V3和R1版本的發(fā)布,飛騰技術(shù)團(tuán)隊(duì)迅速在騰云S5000C和騰銳D3000上進(jìn)行了本地部署驗(yàn)證,從而形成了一套完整的解決方案。

在數(shù)據(jù)中心方面,飛騰騰云S5000C服務(wù)器能夠與多款A(yù)I加速卡協(xié)同工作,實(shí)現(xiàn)DeepSeek蒸餾版和全量版的部署。飛騰AI實(shí)驗(yàn)室在單機(jī)8卡服務(wù)器平臺上進(jìn)行了DeepSeek-R1-Distill-Llama-70B版本的測試,推理速度達(dá)到了每秒22個(gè)tokens。而對于完整版DeepSeek R1 671B模型,采用分布式推理框架,基于四機(jī)32卡AI服務(wù)器集群成功部署。

在用戶終端方面,基于飛騰騰銳D3000的臺式機(jī)能夠本地部署DeepSeek-R1 7B蒸餾版模型。僅需搭配1張國產(chǎn)推理卡,即可實(shí)現(xiàn)AI PC功能,為用戶提供強(qiáng)大的終端計(jì)算能力。

關(guān)于飛騰騰云S5000C,這款處理器擁有64核、32核、16核三種形態(tài),兼容ARMv8指令集,并支持硬件虛擬化。它適用于計(jì)算服務(wù)器、存儲(chǔ)服務(wù)器、AI服務(wù)器、高端網(wǎng)安以及大型互聯(lián)網(wǎng)數(shù)據(jù)中心等多種場景。

另一方面,飛騰騰銳D3000集成了8個(gè)飛騰自主研發(fā)的新一代高性能處理器核FTC862。它兼容64位ARMv8指令集,支持ARM64和ARM32兩種執(zhí)行模式,并具有單精度和雙精度浮點(diǎn)運(yùn)算指令以及ASIMD處理指令。主頻高達(dá)2.5GHz,同樣支持硬件虛擬化,適用于商業(yè)和工業(yè)分級。

舉報(bào) 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  RSS訂閱  |  開放轉(zhuǎn)載  |  滾動(dòng)資訊  |  爭議稿件處理  |  English Version