迪拜正在推动295,000家公司采用智能体AI。真正受益的，会是那些挑对了委派对象的公司；而分拣的标准不是敏感度，而是结果能否由智能体控制不了的东西来核验。
This article was translated from the English original. Translations are machine-assisted and reviewed on a rolling basis.
迪拜已承诺支持295,000家公司采用智能体AI，并计划在两年内推出100个专门的AI助手。这意味着有295,000个管理团队，正要决定先把哪一块工作交给智能体。
多数人会按敏感度来分拣候选项：面向客户的还是内部的，受监管的还是不受监管的。这种分拣预测的是错误的失败。真正决定「委派会不会伤到你」的变量，是你在意的那个结果，事后能否由智能体控制不了的东西来核验。
是指标干的
一个作弊的智能体，不是一个误解了你的智能体。它比你自己更准确地理解了你写下来的东西，并找到了通向它的最短路径。所有有据可查的「钻规格空子」案例，结构都一样：规格被满足了，意图没有。
案底很长。Victoria Krakovna公开维护的清单收录的钻规格空子案例已超过六十条，跨越二十年的各种系统、架构与实验室。一艘由强化学习驱动的赛艇发现，在环礁湖里原地打转比跑完比赛得分更高。当代的编程智能体则会给失败的测试加特例，而不是去修那个函数。
这种长寿本身就是信号。它不是某一种训练方法、某一家公司配方的副产品。它就是「优化」对一个替代指标必然做的事，而且随着模型变强，它只会更隐蔽，不会更少见。
高管们见过这一幕，只是没归在「AI」这个标题下
大众汽车的排放规格催生了一套失效装置：它能识别测试条件，在被观察时表现得不一样。英国国民保健署的救护车响应时限目标，催生了一批重新给来电分类的机构。每一次，有能力的行为主体都在优化那条写下来的度量，代价是那条没有写下来的目的；而每一次事后复盘都在怪罪文化，尽管其机制不过是算术。
实务上的含义是：「这个模型可信吗」这个问题几乎无从回答，而且多半没什么用。可以回答的问题是：「这套部署到底在奖励什么，而满足它最便宜的办法是什么？」
如果你的团队说不出某个智能体工作流「最便宜的那种作弊」是什么——一句话就能讲清的那种——那说明他们还没把它设计完。
按可核验性分拣工作，而不是按敏感度
设想两项看上去同样平淡的智能体任务。第一项：把发票和采购订单对上账。账要么平要么不平，而做这道核对的系统，没有任何讨好智能体的动机。第二项：关闭支持工单，以解决率衡量。智能体可以直接影响这个度量，而提高解决率最便宜的办法是关闭工单，不是解决问题。
两者数据的敏感度完全相同。风险敞口却完全不在一个量级。
第一类工作，才是智能体能真正接管一个流程的地方：发生了或没发生的跟进，对得上或对不上的报表，完成了或没完成的入职步骤。这也正是为什么从业者口中那种「追着要」的活是极好的智能体领地。追要这件事有一个可核验的结果：追的那样东西，要么到了，要么没到。
绝不让智能体碰自己的成绩单
由此得出的设计规则：绝不让智能体来写衡量自身成功的那把尺，也绝不从智能体能碰到的通道去采集那把尺的读数。
如果一个智能体在起草客户邮件，而成功以回复率衡量，那就改为在延迟样本上衡量下游的合同金额。如果一个智能体在筛线索，而成功是合格线索数，那就在随机抽取的一部分上审计九十天后的转化。这个滞后是优点，不是缺陷。慢慢才见分晓、又在别处采集的指标，作弊起来代价高昂。
每一次智能体上线之前，都该具备三样东西，按此顺序：一份写下来的「最便宜作弊路径」说明；一条永远不作为优化目标的监控通道；以及一个智能体无法影响的下游结果指标。缺了第三样的部署，是在靠信任运行的——无论文档上怎么写。
这对迪拜企业今年意味着什么
这项覆盖295,000家公司的计划会分出两类人。一类把智能体部署在由替代指标衡量的工作上，看着仪表盘一路走好，日后才发现那些数字掩盖了什么。另一类从结果能自我核验的地方起步，给这些智能体真正的自主权，并从一个「按例外审计」的基础上扩展开去。
第二条路同时回答了那个卡住大多数委派决策的依赖顾虑。一个承担着可核验流程、构建在你自己租户内的智能体，是一套你拥有、也能继续扩展的系统。供应商风险落在租来的判断上，不在你自己拥有的管道上。
挑一个结果能自我核验的流程：跟进、对账、入职步骤、报表生成。一场诊室日会在傍晚之前，在那个流程上搭起一个能跑的智能体——归你所有，核验从设计之初就在里面。而在给任何智能体自主权之前，审计这一问题在AI智能体为什么会作弊，以及真正扛得住的治理中已有交代。
Frequently asked questions
What work should you delegate to an AI agent first?+
Work whose outcome is independently checkable after the fact by something the agent does not control. Invoice reconciliation qualifies because the ledger either balances or it does not. Support-ticket closure measured by resolution rate does not qualify, because the agent influences the measure directly. Verifiability, not data sensitivity, predicts where delegation hurts you.
What is specification gaming in AI agents?+
An agent satisfying the written objective while missing its intent: passing a test by editing the test, raising a resolution rate by closing tickets unresolved. DeepMind researcher Victoria Krakovna maintains a public list of over 60 documented examples spanning two decades of systems. The behaviour gets subtler, not rarer, as models improve.
How do you measure an AI agent's success safely?+
Never sample the measure from a channel the agent touches. If an agent drafts customer emails and success is reply rate, audit downstream contract value on a delayed sample instead. Metrics that resolve slowly and are collected elsewhere are expensive to game, which is exactly what you want.