神经处理单元 (NPU) 在智能手机和平板电脑（以及 Mac）中的应用几年后，在英特尔和 AMD 的芯片中变得越来越普遍。但随着越来越多的公司推动在设备本地而不是云端进行更多生成式人工智能处理、图像编辑和聊天机器人，能够测量 NPU 性能对于人们做出购买决策将变得更加重要。
进入 Primate Labs，Geekbench 的开发者。主要的 Geekbench 应用程序旨在测试 CPU 性能以及 GPU 计算性能，但在过去几年中，该公司一直在尝试一个名为 Geekbench ML（“机器学习”）的副项目来测试 NPU 的推理性能。现在，随着微软 Copilot+ 计划的启动，以及英特尔、AMD、高通和苹果都在努力提升 NPU 性能，Primate Labs 正在将 Geekbench ML 提升到 1.0 版本，并将其重命名为“Geekbench AI”，这一变化可能会对其有所帮助顺应人工智能相关热潮。
“正如受 CPU 限制的工作负载在如何利用多核或线程进行性能扩展方面有所不同（在大多数相关基准测试中需要单核和多核指标）一样，AI 工作负载涵盖了一系列精度级别，具体取决于所需的任务和可用的硬件，”灵长类实验室的约翰普尔在一篇关于更新的博客文章中写道。 “Geekbench AI 总结了使用单精度数据、半精度数据和量化数据完成的一系列工作负载测试，涵盖了开发人员在人工智能系统的精度和目的方面使用的各种测试。”
除了测量速度之外，Geekbench AI 还尝试测量准确性，这对于依赖于产生一致结果的机器学习工作负载（例如，对照片库中的人物和物体进行识别和编目）非常重要。
Geekbench AI 支持多种人工智能框架：适用于 Windows 和 Linux 的 OpenVINO、适用于 Windows 的 ONNX、基于 Snapdragon 的 Arm PC 上的高通 QNN、macOS 和 iOS 上的 Apple CoreML，以及各种 Android 设备上的许多供应商特定框架。该应用程序可以在 CPU、GPU 或 NPU 上运行这些工作负载，至少当您的设备安装了兼容的 NPU 时。
在 Windows PC 上，NPU 支持和 Microsoft DirectML 等 API 仍在开发中，Geekbench AI 支持英特尔和高通的 NPU，但尚不支持 AMD 的 NPU。
“一旦我们更清楚地了解如何最好地从 AMD 启用 AMD NPU，我们希望在未来版本中添加 AMD NPU 支持，”Poole 告诉 Ars。
Geekbench AI 适用于 Windows、macOS、Linux、iOS/iPadOS 和 Android。它可以免费使用，但专业版许可证可以让您获得命令行工具、无需将结果上传到 Geekbench 浏览器即可运行基准测试的能力以及其他一些好处。尽管该应用程序今天已达到 1.0 版，但 Primate Labs 团队预计会根据需要经常更新该应用程序，以适应新的硬件、框架和工作负载。
“如果不是快速变化，人工智能就什么都不是，”普尔在公告中继续说道，“因此，随着市场需求和人工智能功能的变化，预计新版本和更新。”
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除。