2024为AI元年,美国芯片三巨头多次来台展示AI芯片火力。但军备竞赛的火药味可以浓厚,搭载芯片的AI 服务器则忙着「降温」,为台湾散热厂商带来巨大商机。
摩根士丹利预期,辉达在数据中心的GPU散热系统所需要的冷却,将创造48亿美元商机,到2027年时将创造价值48亿美元的商机,台厂中则点名台达电、奇𬭎受益,其中台达电明年在AI冷却收入将高达逾90亿元,成为最大受惠者。
「全世界散热供应商有7成是台厂包办。」台湾热管理协会理事长、英特尔水冷团队技术总监龚育谆指出,从气冷、液冷到浸没式的散热方案,台湾散热厂商负责提供这些散热系统的零组件,包含散热鳍片、散热导管、水冷板、水冷接头以及CDU(散热控制内核)。
为什么散热不断被提出来讨论?
从简单的数学中就可以看出端倪,根据资策会数据显示,一台GB200 NVL72机架,连接了36个Grace CPU和72个Blackwell GPU,总功耗高达116千瓦(kW),而目前广泛使用的气冷散热只能做到20千瓦热功耗的散热,也就是高达近6倍的散热缺口。所以「气冷」在AI时代远远不足,「液冷」就成为台厂的努力项目。
AI芯片过热怎么解?3种服务器散热方式一次看
在更深度切入散热赛局之前,必须先对散热方式有初步的了解,目前大致分为3种:气冷、液冷以及浸没式。
气冷散热:还是有高度市场需求
气冷是目前数据中心或是一般企业机房最广泛使用的散热方法,就像让服务器吹冷气,通过风扇、鳍片、导热管等方式带走热能。
而气冷散热若要提高到最强的散热效果,就要使用到热管结合热板设计的高端气冷技术3D VC(Vapor Chamber),并加上大量的风扇来散热。
然而,工研院电光系统所博士彭奂森表示,虽然风量风速越快,热对流速度就越快,但是不可能一直无限上纲,震动、噪音都会为服务器或工作场域带来负面影响。
台湾气冷散热的组件供应商有奇𬭎、双鸿、建准、尼得科超众、高力及台达电等。高力副总经理吴俊英表示,目前气冷散热在市场需求还是很有空间,因为H100芯片用气冷就可以散热,但当GB系列的芯片出货之后,液冷取代气冷的速度就会加快。
液冷散热:现在各家厂商追求的最大市场
「液冷」又称为直接式液冷(DLC,Direct liquid cooling),可细分成「水对气」和「水对水」。
水对气:利用水冷管线带走芯片的热能之后,变热的水再通过水管发送到机柜后的风扇背门,将热能吹散,进而达到散热效果。
水对气的散热方案是现有数据中心在气冷散热的物理极限下,所因应的对策。因为不需要大规模修改机房或者服务器的机柜设备,只要加装一个风扇背门,就可以加强散热效果,「目前约有6~7成的数据中心还是使用这样的散热方式。」龚育谆说。
然而水对气虽然是目前的最适解,却也不是最佳解,加装的风扇墙会让机房噪音达到90~100分贝(车水马龙的路旁大约是80分贝),工作人员根本无法在机房内长时间作业。
水对水:将装满冷却液的密封管线(或称封闭式冷却回路)环绕在服务器内最容易发热的关键零组件附近,零组件通过导热铜片(或称「冷板」)将热能传导到冷却液,再通过液冷管线进行冷热液体的交换循环。与水对气最大的差异在于,服务器机柜背后不需要再使用风扇墙,大大提高机房空间使用率和降低机房噪音。
NVIDIA的高端芯片GB200 NB072就是采用水对水的液冷散热。而此架构也是目前许多服务器代工厂商,如美超微、技嘉子公司技钢、纬颖、英业达、云达等已投入的技术。
浸没式散热:是未来散热圣杯?
浸没式冷却,顾名思义就是将整台服务器放进不导电的液体当中,就像泡澡一样解热,且不只解决芯片的热,连同CPU、内存等各种服务器中的电子设备,都可以进行散热。
台湾的浸没式厂商包含技钢、光宝科、台达电、纬颖等。然而浸泡的液体(介电液)带来的环保问题、服务器内的电子设备是否可以长时间浸泡、后续服务器的保养该由谁来维护等,浸没式还有很大一段路需要克服。
资策会分析师陈牧风举例,数据中心在导入浸没式方案时,也必须考量到工厂楼层耐重程度,以及电路和水路的机房基础设施等。也就是说,若想要导入浸没式方案,就必须要重新规划厂房,所耗费的成本非常庞大。
散热赛局起跑!谁能掌握品质、价格,谁就能掌握商机
总结上述的3种散热方式来说,必须注意气冷并没有被淘汰,搭载最新AI芯片的服务器在下半年才会问世,也不是全部的服务器都是AI服务器,因此气冷还是有存在的必要。
此外,浸没式虽然有部分商转的案例,像是中国阿里巴巴和中东地区的数据中心已在采用,但大多还是小规模的试验为主。
「液冷」就成为现阶段最有机会的领域,也让台湾散热产业受到前所未有的关注。不过,必需要注意的是,现阶段Tier 1的云端业者,需要的不只是价格,对于品质更是高度要求,毕竟液冷如果出问题「漏水」,对于服务器可能带来重大的伤害。
因为着重品质,让这一波散热赛局,先天设立的高度检验与认证门槛,谁能笑到最后、是否雨露均沾,还很难盖棺定论。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。