G593 AI旗舰服务器再升级显著提升内存带宽与卓越性能
2024年8月15日 – 在生成式人工智能与科学运算的发展之下,大规模数据集的需求日益增加,领先业者无不盼以强大算力驱动科技。因应客户的需要,做为生成式人工智能服务器与先进冷却技术领导者,技嘉科技子公司技钢科技推出两款新的8-GPU服务器,这些服务器支持NVIDIA HGX™ H200平台,该平台非常适用于大型AI数据集、科学仿真及其他高内存需求等工作负载。
适用于AI与高性能计算的G593 AI旗舰服务器
G593 AI旗舰服务器系列在GPU冷却的设计上独占鳌头,在紧凑的5U机箱中实现稳定且高要求的性能,并提供强大的气流以解决惊人运算密度所带来的热能。
NVIDIA H200 Tensor内核 GPU与禁得起考验的GIGABYTE G593 8-GPU基板服务器系列完美结合。相较于NVIDIA H100 Tensor 内核 GPU,NVIDIA H200 GPU在内存容量和带宽上有显著提升,具高达141GB的HBM3e内存和4.8TB/s的内存带宽,分别增加了1.7倍的内存容量和1.4倍的吞吐量。
新款技嘉GPU AI旗舰服务器
- G593-SD1-AAX3:支持第5代Intel® Xeon® 可扩充处理器
- G593-ZD1-AAX3:支持AMD EPYC™ 9004系列处理器,多达96个CPU内核
通过精密的调整与设计,除了CPU平台之外,这些新款服务器有着类似的布局和规格,以适应加速运算的各种应用需求。这些服务器将列在NVIDIA合格系统目录中,更包括先前四款已通过NVIDIA认证系统™的G593 AI旗舰服务器系列,有极佳的功能性与性能表现。
G593 AI旗舰服务器系列具备高水准的网络和保存能力。支持最多 8个U.2 Gen5 NVMe SSD,该系列可以使用NVIDIA GPUDirectⓇ Storage(NVIDIA Magnum IO™技术之一)快速处理数据,实现从GPU内存到保存的直接路径,提升带宽且降低延迟。为了连接集群中的其他服务器或进行数据中心外的数据传输,提供了12个扩展插槽,支持通过NIC或DPU进行NVIDIA InfiniBand或以太网路连接。此外,更配置了4+2 3000W冗余电源,提供充足的电力和可靠的持续运行。
GIGAPOD:机架级集成解决方案
近期AI带来科技的飞速进步,从企业到学术界都在引颈期盼最新发展,大型运算集群的设计对人工智能的发展就显得至关重要。技嘉自去年推出了其机架级解决方案GIGAPOD,并使用NVIDIA HGX系统的部署大获成功。目前,GIGAPOD均使用G593 AI旗舰服务器系列来集成NVIDIA HGX H100。随着产品线扩展支持至NVIDIA H200 GPU,GIGAPOD将帮助客户实现更高的性能和效率,大举加速运算流程。
追踪技钢社群网站平台以获取更多第一手信息!
推特: https://twitter.com/GigaComputing
LinkedIn: https://www.linkedin.com/company/giga-computing/
Facebook: https://www.facebook.com/gigabyteserver
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com),另:文中部分素材可能会引用自其他平台,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除