内容摘要： 一种新的级联架构为高风险环境中的人在环路人工智能提供了一个实用的蓝图。它通过将机器效率与经过成本优化的必要人类专业知识相结合，使受监管行业的企业能够安全地实现自动化。
它是什么
对于金融、医疗和保险等受监管行业的领导者来说，部署人工智能常常感觉像一个悖论。效率提升的潜力是巨大的，但与数据隐私、模型准确性和法规遵从性相关的风险也令人望而却步。一个完全自主的“黑箱”系统通常是行不通的。这时，人在环路人工智能 (HITL) 应运而生，它并非一种妥协，而是一种战略必需品。这种方法将人类智能直接嵌入到人工智能工作流中，以管理异常情况、提高模型性能并确保问责制。
最近的一篇研究论文《HIRA：一种用于受监管行业文档分类的人在环路检索增强级联模型》介绍了一种尤为精妙且实用的该概念实现方式。所提出的 HIRA 系统不仅仅是让一个人检查人工智能的工作；它是一个复杂的多阶段“级联”系统，旨在最大化自动化的同时，最小化成本和风险。它根据任务的难度，智能地将任务分配给最合适的处理器——一个简单的算法、一个强大的大语言模型（LLM）或一位人类专家。这就创建了一个为企业人工智能的复杂现实量身定制的、具有成本效益且可审计的系统。
它是如何工作的
级联模型的精妙之处在于其分层效率。它不是将每个任务都发送给最强大（也最昂贵）的资源，而是通过一系列能力递增的阶段来过滤它们。这确保了昂贵的人力只用于处理那些最复杂、最模棱两可的案例，在这些案例中，专家的判断是不可或缺的。
该过程分三个不同步骤展开：
-
简单检索： 对于最直接的案例——那些“低垂的果实”——系统使用一种简单、快速的检索方法。这可能是一个关键词搜索或一个基本的相似度算法，以高置信度将传入的文档匹配到已知类别。这种方式可以快速、廉价地处理大部分常规任务。
-
本地化大语言模型 (LLM)： 如果检索方法失败或返回低置信度的结果，任务将被上报给一个更强大的、部署在本地的大语言模型 (LLM)。将 LLM 部署在本地是受监管行业的一个关键设计选择，因为这可以防止敏感数据暴露给第三方 API。该模型处理需要更深层次语义理解的细微案例。
-
人类专家审核： 只有当两个自动化层级都不确定时，文档才会被上报给人类专家。这是最后的保障，确保了对最具挑战性的 5-10% 案例的最高准确性。至关重要的是，专家的决策会被反馈回系统，使其能够学习并改进未来对类似案例的处理，而无需进行完整且昂贵的模型再训练周期。
这种分层方法是构建弹性人工智能系统的强大模式。正如《麻省理工斯隆管理评论》的专家所指出的，目标是创建一种共生关系，其中机器处理规模问题，人类管理模糊性，从而产生一个比任何一方单独工作都更强大的系统。
它对企业为何重要
HIRA 架构不仅仅是一个巧妙的技术设计；它直接解决了受监管行业的首席信息官 (CIO) 和首席数据官 (CDO) 面临的最紧迫的业务挑战。通过采用级联式人在环路人工智能模型，组织可以在积极管理其内在风险的同时，释放人工智能的益处。我们认为有三大主要优势：
首先，它解决了数据隐私和安全的两难问题。通过优先为敏感任务使用本地化模型，它允许组织在不违反数据驻留规则或暴露客户信息的情况下利用强大的人工智能。其次，它为人工智能创建了一个可持续的经济模型。人类专业知识是公司最宝贵也最昂贵的资源；该模型像外科手术一样精确地使用它，而不是把它当作一件钝器，从而显著降低了高精度自动化的运营成本。最后，它简化了模型的治理和维护。来自人类修正的持续学习循环使系统更加敏捷，避免了定期进行完整模型再训练的脆弱、高开销过程，这对我们那些必须保持清晰审计追踪的金融服务客户来说是一个关键考量。
如何正确实施
有效地实施人在环路级联系统，需要的不仅仅是正确的技术；它还需要对工作流设计和治理采取战略性方法。我们看到的最常见陷阱是升级阈值定义不明确。设置触发从一个层级交接到下一个层级的置信度分数，是在自动化效率和风险承受能力之间进行的关键平衡。设置得太高，系统自动化程度不足，会使人类审核员不堪重负。设置得太低，则可能导致代价高昂的错误漏网。
成功还取决于人类审核界面的质量。它的设计必须能为专家提供快速、准确决策所需的上下文，并提供模型可以轻松吸收的结构化反馈。这是一个强大的人工智能治理和风险框架的关键组成部分，确保人类监督既有效又高效。目标是创建人与机器之间的无缝合作关系，使每个组成部分都能以其最高能力运行。
常见问题解答
问：“人在环路”不就是一种更慢、更昂贵的自动化吗？
答：如果用级联模型来实现就不是。这种方法通过提供一个安全网，使自动化在高风险领域成为可能。它通过将昂贵的人类审核仅用于最困难的案例来优化成本，使得整个过程比完全手动或完全自主的过程效率更高、风险更低。
问：这与传统的基于规则的异常处理有何不同？
答：传统系统依赖于僵化、预定义的规则，这些规则很脆弱，无法处理模糊性。使用 LLM 的级联系统可以解释规则无法处理的、细微的非结构化数据。此外，它能从人类的修正中学习，随着时间的推移变得更加准确，而基于规则的系统在手动更新之前是静态的。
问：实施这样一个系统最大的挑战是什么？
答：主要挑战是运营上的，而非技术上的。它涉及为级联定义业务逻辑——特别是用于在层级间上报任务的置信度阈值——以及设计一个高效的人类审核工作流，该工作流能在不造成瓶颈的情况下有效捕获反馈。
问：这种方法如何与欧盟《人工智能法案》等法规保持一致？
答：它完全一致。欧盟《人工智能法案》对高风险系统的核心原则之一就是要求有效的人类监督。该架构为此类监督提供了一个清晰、可审计的机制，使其成为证明合规性的有力工具。有关详细分析，我们的《欧盟人工智能法案合规清单》是一份宝贵的资源。
问：这种模式可以应用于文档分类以外的任务吗？
答：当然可以。级联模式非常通用。它可以应用于任何对准确性要求极高且错误成本巨大的、由人工智能驱动的业务流程，例如保险理赔处理、欺诈检测、内容审核和医疗记录分析。
结论
人在环路级联模型代表了企业人工智能成熟过程中的一个重要进步。它超越了人与机器的简单辩论，提供了一种实用而强大的两者结合体。对于受监管行业的领导者来说，这不仅仅是一个有趣的学术概念；它是一个负责任且有效地部署人工智能的可行战略蓝图。通过采用这种平衡的方法，组织可以最终开始在其最关键的职能中扩展自动化，并确信他们已经建立了适当的控制措施。在 Thinkia，我们专注于帮助企业设计和实施这类强大的、治理优先的人工智能系统，这些系统在满足最严格合规标准的同时，能够交付真正的商业价值。