随着NPU（神经处理单元）逐渐成为Intel和AMD芯片的标准配置，新推出的Geekbench AI基准测试工具终于脱离了测试阶段。NPU多年来主要用于智能手机和平板电脑（以及Mac），但随着更多公司推崇在设备本地进行生成式AI处理、图像编辑和聊天机器人的操作，而不是依赖云端，衡量NPU性能的重要性日益增加，这也将影响人们的购买决策。

Primate Labs是Geekbench的开发者，该工具主要用于测试CPU和GPU的计算性能。然而，在过去几年里，Primate Labs一直在研发一个名为Geekbench ML（“机器学习”）的附加项目，用于测试NPU的推理性能。如今，随着微软的Copilot+计划起步，以及Intel、AMD、高通和苹果都在推动NPU性能的提升，Primate Labs将Geekbench ML升级为1.0版，并重新命名为“Geekbench AI”，这一变化有望借助AI相关的热潮获得更多关注。

Primate Labs的John Poole在博客文章中写道：“就像CPU受限的工作负载在利用多核或多线程进行性能扩展方面有所不同（因此需要在大多数相关基准测试中提供单核和多核指标），AI工作负载涵盖了一系列精度水平，取决于任务需求和可用的硬件。” 他解释说：“Geekbench AI通过单精度数据、半精度数据和量化数据的工作负载测试总结了其结果，这些数据在AI系统中都被开发者广泛使用。”

除了测量速度之外，Geekbench AI还尝试测量准确性，这对依赖一致结果的机器学习工作负载至关重要（例如在照片库中识别和分类人物和物体）。

Geekbench AI支持多个AI框架：Windows和Linux上的OpenVINO、Windows上的ONNX、Snapdragon驱动的Arm PC上的高通QNN、macOS和iOS上的苹果CoreML，以及在各种Android设备上的多个特定厂商框架。该应用程序可以在CPU、GPU或NPU上运行这些工作负载，前提是你的设备安装了兼容的NPU。

在Windows PC上，由于NPU支持和微软的DirectML等API仍在开发中，Geekbench AI目前支持Intel和高通的NPU，但暂不支持AMD的NPU。

Poole告诉Ars Technica：“我们希望在未来的版本中添加对AMD NPU的支持，一旦我们对如何最好地从AMD启用它们有了更多的了解。”

Geekbench AI现已在Windows、macOS、Linux、iOS/iPadOS和Android平台上提供，免费使用。不过，Pro版本可以提供命令行工具、无需将结果上传至Geekbench浏览器即可运行基准测试，以及其他一些功能。尽管该应用程序今天已推出1.0版本，Primate Labs团队预计会根据新硬件、框架和工作负载的需要频繁更新该应用程序。

Poole在公告文章中继续说道：“AI的发展速度极快，所以随着市场需求和AI功能的变化，请期待新版本和更新。”