據(jù)英偉達(dá)官方網(wǎng)站消息，DeepSeek R1 671b版本已作為英偉達(dá)NIM（Nvidia Inference Microservices）微服務(wù)的預(yù)覽版在build.nvidia.com平臺上發(fā)布。

這一微服務(wù)基于單個英偉達(dá)HGX H200系統(tǒng)，能夠?qū)崿F(xiàn)每秒處理多達(dá)3872個token的高效性能。

開發(fā)人員現(xiàn)可對該API進(jìn)行測試與實(shí)驗(yàn)，預(yù)計不久后，此API將以可下載的NIM微服務(wù)形式，正式成為英偉達(dá)AI Enterprise軟件平臺的一部分。

NIM，即Nvidia Inference Microservices，是一種云原生微服務(wù)技術(shù)，旨在簡化生成式AI模型在云端、數(shù)據(jù)中心及GPU加速工作站上的部署流程。

DeepSeek R1是幻方量化旗下AI公司DeepSeek所發(fā)布的大型模型，其在數(shù)學(xué)、代碼編寫、自然語言推理等多項任務(wù)上展現(xiàn)出的性能，足以與OpenAI的o1模型相媲美。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級服務(wù)市場：https://www.ijiandao.com/