主流观点

企业人工智能领域的主导叙事是一场直白的军备竞赛:拿下更强大的 GPU。成败以 GPU 集群规模衡量,而首要的战略问题变成了如何从英伟达或其竞争对手那里争取到更大的新芯片配额。这种观点假定,扩展人工智能的主要瓶颈在于模型推理所需的原始算力。然而,微软 Azure 近期的一篇论文表明,面对下一波人工智能应用,这种以硬件为中心的战略存在根本性缺陷。这项题为 智能体式人工智能工作流的架构启示 的研究提供了生产环境数据,显示在复杂的多步骤任务中,单纯堆砌 GPU 算力是一种效率极低的解法。

我们的立场 对企业人工智能而言,GPU 军备竞赛是一次战略误导。智能体式工作流的真正瓶颈不是推理能力不足,而是碎片化任务与单体式硬件之间的架构错配。


数据究竟说明了什么

微软的研究揭示,智能体式人工智能工作流在本质上是”碎片化且异构的”。与向聊天机器人发出一次简单查询不同,智能体式流程包含一整条复杂的操作链:规划任务、调用外部工具、处理返回结果,再据此推理下一步动作。研究发现,这会导致 CPU(负责编排、工具执行与逻辑)与 GPU(负责大语言模型推理)之间不断地低效切换。这种突发式、走走停停的模式意味着昂贵且耗电的 GPU 会在相当长的时间里处于闲置状态,造成算力搁浅与性能瓶颈。问题不在于 GPU 太慢,而在于从服务器到调度器的整个系统架构,本就不是为这类负载而设计的。这一发现与业界对人工智能算力成本飙升的普遍忧虑相互印证,《经济学人》 等媒体已对此有详尽报道。


真正的含义

继续沿着”多买 GPU”这条路走下去的企业,将在其最有价值的人工智能项目上面临收益递减与总拥有成本(TCO)的膨胀。它们会为长期利用率不足的硬件付出溢价。这也塑造了一个全新的竞争格局:关键差异化因素变成了效率,而不只是原始算力。最终的赢家不会是拥有最多 GPU 的公司,而是拥有最聪明、最均衡的人工智能基础设施的公司。正如我们此前所主张的,企业人工智能的未来在于以聪明的流程胜过更大的模型,而这需要一套为流程而设计的基础设施,而非只为单体推理服务。重心必须从优化单次模型运行,转向优化复杂多组件工作流的端到端执行。


应该怎么做

我们建议首席信息官与首席技术官立即调整人工智能基础设施战略。与其只盯着 GPU 跑分,不如开始按照平台高效管理异构负载的能力来评估它们。可以主动询问厂商:在软硬件协同设计以及能够动态调配 CPU 与 GPU 资源、把闲置时间降到最低的智能调度器方面,其路线图是什么。同时,开始对智能体系统进行总拥有成本建模,而不只是计算大语言模型调用的每 token 成本。这要求以更深入、更具架构视角的方式规划你的人工智能技术栈。构建这类系统本身就是一项复杂工程,因此为智能体式人工智能落地制定清晰战略至关重要。以蛮力扩展人工智能的时代正在落幕,架构精巧性的时代才刚刚开始。