Arm发布智能体AI CPU性能测评方法论
原标题：如何评估智能体CPU性能？Arm提出全新测评方法论
AI 摘要
Arm云AI解决方案架构总监Ravi Malhotra向媒体分享了Arm针对智能体AI的CPU性能测评方法论，并发布《如何为智能体AI定义CPU和软件栈性能》白皮书。该方法论将智能体任务拆分为Token生成（推理与规划）和基于Token采取行动（工具调用与编排）两个阶段，提出组件基准测试与端到端智能体基准测试相结合的评估思路。Signal65的独立报告显示，在相同功耗预算下Arm AGI CPU的每机架性能约为AMD EPYC 9755的1.99倍。Arm还联合超微电脑、联想、华擎推出服务器参考设计。
正文节选
芯东西（公众号：aichip001） 作者 | ZeR0 编辑 | 漠影 芯东西10月27日报道，近日，Arm云AI解决方案架构总监Ravi Malhotra向芯东西等媒体分享了Arm针对智能体AI开发的一套全新CPU性能测评方法，并将这套方法论总结在新发布的《如何为智能体AI定义CPU和软件栈性能》白皮书中。 在智能体AI出现之前，AI领域主要以Token生成来衡量性能，即每秒Token数、每瓦Token数和每美元Token数。智能体AI改变了这一点，要求生成的Token能够在真实世界中得到切实应用。这意味着不仅要从Token的角度评估性能，还要从智能体及其所执行任务的角度来评估性能。 行业中涌现的热门智能体AI应用覆盖软件开发、个人助理、企业运营、科学研究、机器人技术等类型。每类用例的需求各不相同。 总体来看，智能体任务可分为两个阶段： 一是Token生成，即推理与规划，通常运行在AI机架上，重点是大规模生成Token，并为智能体所需的上下文和数据解读提供足够的内存与存储空间。 二是基于Token采取行动，即工具调用与编排，通常运行在纯CPU服务器上，相关服务器和机架仍需满足规