内容摘要： 新研究揭示，未来的人工智能模型将使用隐蔽推理，在不展示其工作过程的情况下执行复杂任务。这使得当前的人工智能审计方法过时，并要求企业制定新的治理策略，专注于内部模型验证，而不仅仅是输出分析。

我们身在何处

在过去几年里，企业领导者对大型语言模型越来越放心，部分原因是一种名为“思维链”（Chain-of-Thought, CoT）提示的功能。通过指示模型“一步一步地思考”，我们可以生成一个输出，它不仅给出答案，还揭示了得出答案的合理论证路径。这种透明度，尽管不完美，却成为了早期人工智能治理工作的基石，为复杂任务提供了人类可读的审计追踪。而这块基石即将崩塌。

最近，一篇题为“Controllable-CoT leads to covert reasoning capabilities”的帖子中重点介绍的研究表明，未来的模型很可能具备在内部执行复杂推理而无需将步骤外部化的能力。实验表明，一个假设的先进模型“GPT-6 Astra”即使在思维链被替换为点号等无意义的占位符时，仍能在推理任务上保持高性能。这种我们称之为隐蔽推理的能力，标志着一个根本性的转变。辅助轮正在被拆除，我们正在进入一个新时代：人工智能的内部逻辑可能通过简单的输出检查变得完全无法触及。

背后的驱动力

向隐蔽推理的转变并非凭空发生。它是塑造人工智能开发和部署未来的强大且相互竞争的力量共同作用的结果。对于任何制定长期人工智能战略的领导者来说，理解这些驱动因素至关重要。主要的驱动力是对性能和效率的不懈追求。生成明确的、分步的推理在计算上是昂贵的。随着模型变得越来越复杂，它们会自然地学会将这些推理路径内化，从而更直接、更高效地得出结论。从性能和成本的角度来看，这是一个理想的结果，但它直接牺牲了透明度。

与之相反的推动力，是市场对强大的人工智能治理和安全性日益增长的需求。监管机构、客户和内部风险委员会都要求人工智能系统具有更高的问责制和可解释性。像《欧盟人工智能法案》这样的框架预设了组织能够记录和审计高风险系统的决策过程。这就产生了一个直接的冲突：市场会奖励那些更快、更便宜（也可能更不透明）的模型，而监管机构则会惩罚那些无法得到充分解释的系统。正如我们之前指出的，供应商提供的安全基准已不足以应对这一复杂局面。第三个驱动力是模型能力与我们的监督工具之间日益扩大的差距。构建更强大模型的技术发展速度，远远超过了检查其内部工作原理的科学（即所谓的“机制可解释性”领域）的发展速度。

可能的情景

随着这些力量的碰撞，我们预见到未来24到36个月内，企业采用人工智能可能会出现三种情景。领导者必须决定他们要构建哪一种未来。

  • 情景一：不透明的企业。 在这种未来中，性能至上。组织争相部署最强大的模型，将速度和能力置于透明度之上。他们回归到黑盒测试，只验证输入和输出。这种方法带来了短期收益，但积累了巨大的技术债务和隐藏风险，一旦出现问题，将导致不可预测的故障和严厉的监管处罚。

  • 情景二：监管收紧。 一起涉及人工智能模型隐藏且有缺陷的推理的高调事件，引发了迅速而严厉的监管反应。政府强制要求使用特定的、且很可能已经过时的可解释性技术。这造成了沉重的合规负担，扼杀了创新，并使无法承担额外开销的小型企业处于不利地位。重点从真正的安全转向了“合规表演”。

  • 情景三：转向内部审查。 我们相信这是制胜之道。有远见的企业接受外部透明度无法得到保证的现实。他们积极投资于新一类的人工智能审计和验证工具，建立具备模型红队演练、行为分析以及（在可能的情况下）内部状态监控技能的团队。他们的人工智能治理和风险框架是为不透明性而设计的，将模型视为需要严格测试而非盲目信任的复杂系统。

关注要点

为了判断哪种情景正在出现，领导者应在未来12个月内监控几个关键的信号。这些信号将提供早期预警，并指明战略投资的重点方向。

首先，仔细审查主要人工智能实验室的发布说明和技术论文。寻找诸如“内化推理”、“压缩思维”之类的短语，或者声称在复杂任务上性能显著提升但思维链（CoT）的详细程度并未相应增加的说法。其次，跟踪MLOps和人工智能可观测性平台的演变。那些承诺在推理过程中分析模型内部激活或隐藏状态的新工具的出现，是市场正在应对隐蔽推理挑战的有力指标。最后，关注新的学术和行业基准，这些基准不再仅仅衡量任务准确性，而是专门衡量模型的稳健性、诚实性或对欺骗性推理的抵抗力。这些将成为企业级人工智能的新标准。

我们的观点

我们认为，对于那些认真希望利用人工智能作为核心竞争优势的企业来说，第三种情景——转向内部审查——是唯一可持续的前进道路。依赖思维链作为透明度代表的时代正在结束。它是一个有用的临时拐杖，但我们现在必须建立起制度性的能力，来管理那些从外部看本质上更难审查的系统。正确的做法是开始将人工智能模型不视为简单的软件，而是复杂的、自适应的系统，它们需要的验证和治理方法更类似于航空航天或关键金融基础设施所使用的方法。

这一转变需要一个由高层管理人员领导的、深思熟虑的战略，该战略优先考虑深入的技术尽职调查和主动的风险管理，而不是表面的透明度。在Thinkia，我们与企业领导者合作，设计和实施必要的、强大的人工智能治理框架，以应对这一新现实，确保下一代人工智能的力量能够被安全有效地利用。