Nvidia 下一代 GB300 AI 服务器规格增强
媒体泄露了英伟达公司下一代人工智能服务器GB300平台的详细信息,预计该平台将在内存、性能、连接性和散热方面有重大改进。
这家全球最有价值的芯片制造商预计将在其年度 GTC 活动上发布 GB300 AI 服务器,该活动定于 2025 年 3 月举行,但如果它希望在此之前对新平台保密,那么它似乎未能做到这一点。
媒体网站 UDN称,供应链消息人士透露了新服务器的详细规格。据报道,GB300 将采用 Nvidia 最先进的Blackwell 图形处理单元,内存将大幅提升,达到 288 GB 的 HBM3e 随机存取内存,而其前身GB200 AI 服务器只有 192 GB 。
此外,Nvidia 将架构从 8 层改为 12 层,而计算主板现在使用低功耗压缩附加内存模块。
GB300 的核心——Nvidia B300 芯片需要 1,400 瓦的功率,而从 ConnectX 7 切换到 ConnectX 8 后,网络速度也得到了升级,带宽从每秒 800 千兆比特扩展到每秒 1.6 太比特。
报告还提到,与 GB200 相比,FP4 性能提高了 50%。决定使用 FP4(代表每次操作四位浮点精度)显然是人们对 GB300 如此兴奋的主要原因之一。通过转向 FP4 获得的精度降低意味着更快的计算、更少的数据移动和更低的功耗,使其更适合 AI 推理工作负载。
还有其他升级,包括使用 GB300 服务器中即将引入的新“插槽设计”和新的电容器托盘。
UDN 表示,此次升级意味着 GB300 服务器的性能将在“各个方面”优于 GB200。它还补充说,该服务器将成为 Nvidia 的“下一个抢占市场的武器”。
不过,这些改进的规格需要付出相当大的成本,这并不令人意外,GB300 的价格可能会令人难以置信。据 UDN 称,其供应链消息人士估计,GB300 中单个超级电容器的总生产成本将在 20,000 至 25,000 美元之间。由于 GB300 的 NVL72 AI 服务器机柜需要 300 多个超级电容器,亚马逊网络服务公司、微软公司和谷歌有限责任公司等客户预计将支付至少 750 万美元来填充一个超级电容器。
目前尚不清楚 GB300 何时投入量产。其前身 GB200 的产量尚未达到顶峰,预计出货量要到明年年中才会达到顶峰,原因是Blackwell GPU 的后期设计缺陷(据报道导致过热问题)导致生产延迟。
这些挫折意味着 Nvidia 的订单积压了大约一年。这是因为人工智能热潮导致对计算能力的需求旺盛,而 Nvidia 的 GPU 被普遍认为是业内最好的。因此,Nvidia 的市值已上涨超过 3 万亿美元,成为全球最有价值的三家公司之一。
尽管迄今为止的重点一直是企业,但 Nvidia 也将推出其首款消费级 Blackwell GPU,业内人士表示,我们可能会在下个月的消费电子展上听到更多有关该 GPU 的消息。
[超站]友情链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
随时掌握互联网精彩
- 1 反腐败一步不停歇、半步不退让 7920013
- 2 西藏6.8级地震已致126人遇难 7932731
- 3 央视完整还原男子大连推妻坠海案 7861038
- 4 冬季呼吸道疾病多发 这些问题要注意 7793668
- 5 李谷一确认连续第3年缺席春晚 7646061
- 6 埃安高管:上亿宣传费不如夹周鸿祎手 7518295
- 7 贾玲以妈妈名义捐赠西藏灾区 7414371
- 8 曝特朗普私下抱怨马斯克太黏人了 7335962
- 9 洛阳为《国色芳华》提供12000株花 7298309
- 10 特鲁多:加拿大绝无可能并入美国 7167136