NVIDIA的Blackwell Ultra B300 GPU可能会在GB300服务器上导入备案设计,这将使维护和升级变得更加容易。
目前NVIDIA的数据中心高性能芯片都带来了OAM设计,即板载解决方案。通过这种设计,GPU芯片永久焊接到服务器主板上,例如GB200,用户可以在一个主板上找到Grace CPU和Blackwell GPU。
然而这可能是最后一个采用板载设计的系列,因为一些报告表明NVIDIA可能会转向不同的设计,为GB300服务器使用Blackwell B300 Ultra GPU。根据 MoneyDJ和经济日报(来自Trendforce)报导B300 GPU可能采用采用插槽的设计,这将允许用户从主板上安装或卸载GPU。
NVIDIA Blackwell Ultra B300 AI GPU上的插槽l方法据说可以简化NVIDIA的制造流程并使多家公司受益,尤其是生产互连零件和插槽的台湾富士康和 LOTES。目前的Blackwell GPU直接焊接到主板上,随着向插槽式设计的过渡,B300 GPU可以像CPU一样从主板上移除。
通过这项转变将会带来许多好处,包括提高良率和灵活生产,因为GPU无需焊接到插槽中,而且NVIDIA也无需依赖表面贴装技术。此外该过程还将简化维护和售后服务,因为在出现与GPU相关的问题时无需更换整个主板。
因此升级可以减少更换GPU时的整体停机时间,并将帮助公司向客户提供更可靠的服务器。然而预计新的插槽l设计将导致一些性能下降,因为这将导致一些更高的延迟。尽管如此如果维护、升级和更高的产量得到改善,那么设计转型的权衡是值得的。
B300的另一个重要变化是采用了FP4,这将有利于推理。推理是经过训练的模型如何对数据进行预测,是人工智能运算的一个重要面向。B200在人工智能工作负载方面已经表现出色,并已被多家公司部署。
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com),另:文中部分素材可能会引用自其他平台,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除