机能对于标OpenAI o1！DeepSeek R1正式上线英伟达NI?

快科技1月31日新闻，据英伟达官方网站新闻，DeepSeek R1 671b版本已作为英伟达NIM（Nvidia Inference Microservices）微效劳的预览版在build.nvidia.com平台上宣布。这一微效劳基于单个英伟达HGX H200体系，可能实现每秒处置多达3872个token的高效机能。开辟职员现可对该API停止测试与试验，估计未几后，此API将以可下载的NIM微效劳情势，正式成为英伟达AI Enterprise软件平台的一局部。NIM，即Nvidia Inference Microservices，是一种云原生微效劳技巧，旨在简化天生式AI模子在云端、数据核心及GPU减速任务站上的安排流程。DeepSeek R1是幻方量化旗下AI公司DeepSeek所宣布的年夜型模子，其在数学、代码编写、天然言语推理等多项义务上展示出的机能，足以与OpenAI的o1模子相媲美。【本文停止】如需转载请务必注明出处：快科技义务编纂：随心