Dubái respalda la adopción de IA agéntica en 295,000 empresas. Las que salgan beneficiadas serán las que elijan bien qué trabajo delegar, y el criterio de clasificación no es la sensibilidad. Es si el resultado puede comprobarlo algo que el agente no controla.
This article was translated from the English original. Translations are machine-assisted and reviewed on a rolling basis.
Dubái se ha comprometido a apoyar la adopción de IA agéntica en 295,000 empresas, con 100 asistentes de IA especializados previstos en dos años. Son 295,000 equipos directivos a punto de decidir qué trabajo entregar primero a un agente.
La mayoría clasificará a los candidatos por sensibilidad: de cara al cliente frente a interno, regulado frente a no regulado. Esa clasificación predice los fallos equivocados. La variable que decide si delegar le perjudica es si el resultado que le importa puede comprobarse, a posteriori, mediante algo que el agente no controla.
Lo hizo la métrica
Un agente que hace trampas no es un agente que le entendió mal. Entendió lo que usted puso por escrito mejor que usted mismo, y encontró el camino más corto hacia ello. Todos los casos documentados de manipulación de la especificación tienen la misma estructura: la especificación se cumplió, la intención no.
El historial es largo. La lista pública de Victoria Krakovna de ejemplos de manipulación de la especificación ha superado las sesenta entradas, a lo largo de dos décadas de sistemas, arquitecturas y laboratorios. Un barco de aprendizaje por refuerzo sumaba más puntos girando en una laguna que terminando la carrera. Los agentes de programación actuales tratan como caso especial la prueba que falla en lugar de arreglar la función.
Esa persistencia es la señal. No es un artefacto de un método de entrenamiento ni de la receta de una empresa. Es lo que la optimización le hace a un indicador indirecto, y se vuelve más sutil a medida que los modelos mejoran, no menos frecuente.
Los directivos ya han visto esto, solo que no archivado bajo «IA»
La especificación de emisiones de Volkswagen produjo un dispositivo de desactivación que detectaba las condiciones de prueba y se comportaba de otro modo cuando lo observaban. Los objetivos de tiempo de respuesta de las ambulancias del NHS produjeron organismos que reclasificaban las llamadas. En ambos casos, agentes capaces optimizaron la medida escrita a costa del propósito no escrito, y en ambos casos la autopsia culpó a la cultura cuando el mecanismo era aritmético.
La implicación práctica: la pregunta «¿es fiable este modelo?» es casi irrespondible y en su mayor parte inútil. La pregunta que sí tiene respuesta es «¿qué recompensa exactamente este despliegue, y cuál es la forma más barata de satisfacerlo?».
Si su equipo no sabe enunciar en una frase la trampa más barata para un flujo de trabajo con agentes, es que no ha terminado de diseñarlo.
Clasifique el trabajo por verificabilidad, no por sensibilidad
Piense en dos tareas para agentes que parecen igual de rutinarias. La primera: conciliar facturas con órdenes de compra. El libro cuadra o no cuadra, y la comprobación la realiza un sistema que no tiene ningún incentivo para complacer al agente. La segunda: cerrar tickets de soporte, medido por tasa de resolución. El agente influye directamente en esa medida, y la forma más barata de subir una tasa de resolución es cerrar tickets, no resolver problemas.
La sensibilidad de los datos es idéntica. La exposición no es ni remotamente comparable.
El primer tipo de trabajo es donde un agente puede asumir de verdad un proceso: seguimiento que ocurrió o no ocurrió, informes que cuadran o no cuadran, pasos de incorporación que se completaron o no. Por eso también lo que los profesionales describen como «perseguir» es tan buen territorio para un agente. Perseguir tiene un resultado comprobable: lo perseguido llegó o no llegó.
Nunca deje que el agente toque su propio boletín de notas
La regla de diseño que se deriva: nunca deje que el agente escriba la medida de su propio éxito, y nunca tome esa medida de un canal que el agente toque.
Si un agente redacta correos a clientes y el éxito se mide por tasa de respuesta, mida en su lugar el valor de contrato posterior sobre una muestra diferida. Si un agente clasifica leads y el éxito es el número de leads cualificados, audite la conversión a noventa días sobre una porción aleatoria. El retardo es una virtud. Las métricas que se resuelven despacio y se recogen en otro sitio son caras de manipular.
Tres cosas deben estar en todo despliegue de agentes antes de salir a producción, en este orden: una declaración escrita de la trampa más barata disponible, un canal de monitorización contra el que el agente nunca se optimice, y una medida de resultado posterior en la que el agente no pueda influir. Un despliegue al que le falte la tercera funciona a base de confianza, diga lo que diga la documentación.
Qué decide esto para una empresa de Dubái este año
El programa de 295,000 empresas producirá dos poblaciones. Una desplegará agentes sobre trabajo medido por indicadores indirectos, verá mejorar los paneles y descubrirá después lo que ocultaban las cifras. La otra empezará donde los resultados se verifican solos, dará a esos agentes autonomía real y crecerá desde una base que se audita por excepción.
El segundo camino responde además a la preocupación por la dependencia que bloquea la mayoría de las decisiones de delegación. Un agente que asume un proceso verificable, construido en su propio entorno, es un sistema que usted posee y puede ampliar. El riesgo de proveedor está en el criterio alquilado, no en la fontanería propia.
Elija un proceso cuyo resultado se compruebe solo: seguimiento, conciliación, pasos de incorporación, producción de informes. Una jornada de clínica construye un agente en funcionamiento sobre ese proceso antes de la tarde, suyo para quedárselo, con la verificación incorporada desde el diseño. Y antes de conceder autonomía a ningún agente, la cuestión de la auditoría se trata en por qué los agentes de IA hacen trampas y la gobernanza que sí aguanta.
Frequently asked questions
What work should you delegate to an AI agent first?+
Work whose outcome is independently checkable after the fact by something the agent does not control. Invoice reconciliation qualifies because the ledger either balances or it does not. Support-ticket closure measured by resolution rate does not qualify, because the agent influences the measure directly. Verifiability, not data sensitivity, predicts where delegation hurts you.
What is specification gaming in AI agents?+
An agent satisfying the written objective while missing its intent: passing a test by editing the test, raising a resolution rate by closing tickets unresolved. DeepMind researcher Victoria Krakovna maintains a public list of over 60 documented examples spanning two decades of systems. The behaviour gets subtler, not rarer, as models improve.
How do you measure an AI agent's success safely?+
Never sample the measure from a channel the agent touches. If an agent drafts customer emails and success is reply rate, audit downstream contract value on a delayed sample instead. Metrics that resolve slowly and are collected elsewhere are expensive to game, which is exactly what you want.