英伟达官方近日宣布，其NIM（Nvidia Inference Microservices）微服务平台已迎来新成员——DeepSeek R1 671b版本的预览版。该版本现已在build.nvidia.com平台上公开发布。
据悉，这一微服务以单个英伟达HGX H200系统为基础，其强大的处理能力令人瞩目，每秒可高效处理多达3872个token。这一性能的提升，无疑将为AI应用的开发带来更为广阔的空间。
目前，开发人员已经有机会对这一API进行测试与实验。英伟达方面表示，不久的将来，该API将以可下载的NIM微服务形式，正式纳入英伟达AI Enterprise软件平台，为更多用户提供便捷的服务。
关于NIM，它是一种专为云原生环境设计的微服务技术。其核心理念在于简化生成式AI模型在云端、数据中心以及GPU加速工作站上的部署流程，从而推动AI技术的广泛应用。
DeepSeek R1是由幻方量化旗下的AI公司DeepSeek所推出的大型模型。该模型在数学、代码编写、自然语言推理等多个领域均展现出卓越的性能，其能力足以与业界知名的OpenAI的o1模型相抗衡。
此次DeepSeek R1加入英伟达NIM微服务平台，不仅进一步丰富了英伟达AI生态系统，也为AI开发者提供了更多选择和可能性。未来，随着技术的不断发展和完善，我们有理由相信，这些先进的AI技术将在更多领域发挥重要作用。
