用人工智能实现转型的企业共有的五条原则

规模化下的人类问责：从人在回路到人在主导

人工智能治理中最常见的误解，是把「人类监督」等同于「人在回路」。人在回路指的是，行动之前由人审查人工智能的输出。在高频、实时的人工智能场景里，这种做法撑不起规模；试图这么做的组织，最后不是得到一个很慢的人工智能，就是得到一场走过场的人工审查。

人在主导则不同：由人来划定人工智能行动的边界，承担它产出的结果，并且在它于这些护栏之内自主行动时依然负责。人负责的是那套做决策的系统，而不是逐条审批。

我们对智能体客户体验的分析展示了它在实践中的样子：Visa 的人工智能体在客户预先授权的规则内自主完成购买。客户在主导，因为护栏由他们划定；Visa 也在主导，因为结果由它承担。没有人逐笔审查交易。这套系统里的每一个人，都对这套框架负责。

端到端的运营模式重构：从职能效率到结果归属

孤立的人工智能部署能改善单个职能，却无法转型一家组织。差别在范围：职能层面的人工智能优化流程中的一步，端到端重构则围绕人工智能所带来的可能性重新构想整个流程。

我们对运营的分析显示，Allied Systems 把设备综合效率提升10%，靠的不是优化单台机器，而是重新设计整个生产系统的协同方式。我们对研发的分析显示，Insilico Medicine 压缩药物发现周期，靠的是把从假设到临床前的整条流程围绕人工智能优先的工作流重新设计，而不是加快某几个实验步骤。

两个案例中，转型级的成果都是端到端重构的结果。那些一个用例接一个用例地部署人工智能、却从不重新设计连接它们的工作流的组织，收益会一点点累加，但始终追不上那15%。

可扩展的人才体系：让激励与角色对齐

规模化的人工智能，需要一支能与之并肩工作的队伍，而不只是把它当工具用。在人工智能转型中领先的组织，已经围绕四种五年前还不算正式岗位的能力，重构了自己的人才体系。

人工智能产品负责人界定系统可以自主决定什么、设定护栏、承担结果；他们要为人工智能的行为方式负责，而不只是为它上线过负责。工作流架构师围绕人工智能的能力重构流程，砍掉被人工智能变得多余的环节，并围绕人工智能做不到的部分重新组织人的工作。

模型管护人监控生产环境中的人工智能系统，跟踪实际表现与预期的差距，识别漂移，并管理从人工智能输出到模型改进之间的反馈闭环。人机编排者管理由人和智能体共享同一任务队列的团队：在两者之间分配工作、管理升级路径，并让人对人工智能处理的结果继续负责。

Repsol 在38个用例中铺开22个智能体，并计划扩展到90个智能体、覆盖3,000名IT员工，这在运营上说得通，只因为公司搭起了这些角色所要求的人类治理层：人工智能产品负责人、工作流架构师、编排者。我们对人才变迁的分析详细讨论了这一转变。

由透明构建的信任：治理是执行的助推器

部署人工智能最有效的组织，把信任当作一种被设计出来的属性，而不是一种感觉。他们从一开始就把透明度设计进系统：清楚说明人工智能在做什么、为什么这么做，升级规则可见，并让为结果负责的人能够理解人工智能的行为，而不必逐条审查决策。

Essity 在采购与财务中部署的智能体人工智能，展示了这种信任闭环在实践中的运作。系统自主处理常规决策。遇到例外，也就是超出其决策权限的交易时，它把这一笔转交人工复核。复核者的判断成为训练信号，提升系统未来的准确度。随着系统不断学习，人工复核的负担逐步下降。这个闭环是透明的：人能看到人工智能在做什么、为什么升级，以及自己的判断如何被吸收进去。

这正是我们对战略规划的分析所说的执行联动式导航：人工智能持续监控战略假设与运营现实之间的落差，实时向决策者提示偏离。人并不监督每一个数据点；他们信任这套系统，是因为它的逻辑可见，升级标准明确。

有纪律的试验：可以安全失败并不断累积

第五条原则与那15%的差距关系最直接。大多数组织都做过人工智能试验。大多数试验在试点规模上都拿到了正面结果。大多数都没能规模化。失败的方式是：缺少一套把试验中学到的东西转化为组织知识的结构化机制。

Claryo 在跨厂区学习上的做法，说明了有纪律的试验在实践中是什么样子。公司用人工智能从各个生产厂区提取绩效洞察，找出哪些本地化调整带来了更好的结果，再把这些洞察扩散到整个企业网络。车间主管对某台机器脾气的直觉，不再是只留在一处的经验，而成了组织的资产。

处在阶段4的组织，胜出的地方不在于试验做得多。他们的试验被设计成可以安全失败（范围受控、可度量、能带来信息），而每一次得到的经验都被系统性地记录并应用。自主权阈值依据真实的绩效数据调整。信任积累起来，系统的运行边界也随之扩大。

这五条原则作为一个整体系统起作用，不是一张清单。人类问责为人工智能体划出明确的运行边界；端到端重构把这一边界延伸到整条价值链。可扩展的人才体系提供能在其中工作的人。由透明构建的信任让系统行为可审计、可改进，有纪律的试验则让它不断累积，而不是停滞。

想明白这一点的组织，已经不再问人工智能是否有用，而是开始问：如何搭建让它持续累积的组织架构。回答这个问题，正是 ArkOne Black Book 合作模式的用意所在。