性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台
智能
2025-01-31 13:46
声明:该文章来自(快科技)版权由原作者所有,K2OS渲染引擎提供网页加速服务。
据英伟达官方网站消息,DeepSeek R1 671b版本已作为英伟达NIM(Nvidia Inference Microservices)微服务的预览版在build.nvidia.com平台上发布。
这一微服务基于单个英伟达HGX H200系统,能够实现每秒处理多达3872个token的高效性能。
开发人员现可对该API进行测试与实验,预计不久后,此API将以可下载的NIM微服务形式,正式成为英伟达AI Enterprise软件平台的一部分。
NIM,即Nvidia Inference Microservices,是一种云原生微服务技术,旨在简化生成式AI模型在云端、数据中心及GPU加速工作站上的部署流程。
DeepSeek R1是幻方量化旗下AI公司DeepSeek所发布的大型模型,其在数学、代码编写、自然语言推理等多项任务上展现出的性能,足以与OpenAI的o1模型相媲美。
[超站]友情链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
排名
热点
搜索指数
- 1 注重家庭 注重家教 注重家风 7929967
- 2 春晚零点倒计时 任鲁豫救场 7986556
- 3 申公豹 丑强惨 7819206
- 4 色彩里的春节 7759482
- 5 给撒贝宁画眉毛的人找到了 7681179
- 6 王菲春晚含泪 被曝父母哥哥均已离世 7533157
- 7 刘涛春晚拉萨分会场吸氧好拼 7423140
- 8 中方要求美方尽快查明撞机事故原因 7320568
- 9 900多块压岁钱发出了10万的感觉 7204071
- 10 春节 中国人的特别记忆 7188792