英偉達(dá)于近日宣布,其DeepSeek R1 671b版本已正式登陸build.nvidia.com平臺,作為NIM(Nvidia Inference Microservices)微服務(wù)預(yù)覽版對外發(fā)布。這一消息由三言科技于1月31日進(jìn)行報道。
據(jù)英偉達(dá)官方發(fā)布的公告顯示,DeepSeek R1模型,這一擁有6710億參數(shù)的龐然大物,現(xiàn)已通過NIM微服務(wù)在build.nvidia.com平臺上向開發(fā)人員開放。這一舉措為開發(fā)人員提供了一個安全的環(huán)境,讓他們能夠親身體驗(yàn)DeepSeek R1的強(qiáng)大功能,并基于這些功能構(gòu)建自己的專屬代理。
DeepSeek R1 NIM微服務(wù)在性能上表現(xiàn)出色。在單個NVIDIA HGX H200系統(tǒng)上,它能夠每秒處理多達(dá)3,872個令牌,這一數(shù)據(jù)無疑彰顯了其在處理速度和效率上的卓越能力。對于開發(fā)人員而言,這意味著他們能夠更快地獲得結(jié)果,從而提升整體開發(fā)效率。
英偉達(dá)此次推出的DeepSeek R1 NIM微服務(wù)預(yù)覽版,不僅為開發(fā)人員提供了更為便捷和高效的工具,也進(jìn)一步展示了英偉達(dá)在人工智能領(lǐng)域的領(lǐng)先地位。隨著DeepSeek R1模型的不斷優(yōu)化和完善,相信未來它將為更多領(lǐng)域帶來革命性的變化。