三星在2021年推出了集成AI处理器的HBM2内存,名为“HBM-PIM (processing-in-memory) ”,最高可提供1.2 TFLOPS嵌入式计算能力,使内存芯片本身可以运行CPU、GPU、ASIC或FPGA的操作。三星在每个内存模块内注入了一个AI处理器,从而将处理操作转移到HBM本身,从而减轻了内存与一般处理器之间转移数据的负担。
根据相关媒体报道,为了追赶竞争对手SK海力士,三星再次将注意力转向PIM技术,希望能在下一代人工智能(AI)应用中取代传统HBM。三星电子首席执行官兼设备体验(DX)部门负责人韩宗熙最近在公开活动上表示,人工智能正在以前所未有的速度改变生活,如何更负责任地使用AI变得越来越重要,三星正致力于培育更有效率、更永续的AI生态系统。
HBM是数据中心AI加速器的重要组成部分,但三星在这一领域长时间落后于SK海力士。为了重新确立自身在内存市场的领导地位,三星打算重新押注PIM技术,理论上能带来翻倍的性能提升,同时平均能耗降低了近50%。
依照三星最初的构想,会将PIM技术扩展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3内存上,但后来迟迟没有行动。三星在2022年曾对AMD Instinct MI100计算卡进行改造,加入了HBM-PIM芯片,然后使用96张经过改造的Instinct MI100计算卡构建了一个大型计算系统。相较于未改造前的系统,新系统在使用训练语言模型算法T5时性能提高了2.5倍,功耗降低至原来的2.67分之一。
三星也强调了与AMD的合作关系,传闻正在向其供应HBM3E芯片。
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com),另:文中部分素材可能会引用自其他平台,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除