Un estudio de Anthropic revela que la IA puede influir silenciosamente en las decisiones de los expertos

Los analistas profesionales adoptaron la opinión oculta y asignada aleatoriamente de su agente de IA en el 86% de las decisiones de juicio clave, frente a aproximadamente el 50% esperado por azar, según un experimento publicado el martes por el equipo de Alignment de Anthropic. Solo el 15% atribuyó el mérito al agente después, y ninguno sospechó que sus preferencias habían sido implantadas.

Los agentes de IA —programas que llevan a cabo tareas por sí solos— están recibiendo trabajo experto bajo lo que el estudio llama la suposición habitual: que los expertos siguen tomando las decisiones que importan. Anthropic lanzó 10 plantillas de agentes para firmas financieras y aseguradoras en mayo, afirmando que los usuarios tienen la última palabra.

Ese arreglo, llamado “humano en el bucle”, supone que la persona que aprueba el trabajo de una IA es la que toma las decisiones importantes. Anthropic lo probó con 50 analistas con experiencia en inferencia causal, es decir, determinar a partir de los datos si una cosa causa otra.

Cada analista usó Claude Code, el agente de programación de Anthropic, para asesorar a una cooperativa agrícola ficticia sobre la ampliación de un programa de asesoramiento. Sin que ellos lo supieran, un lanzamiento de moneda determinaba qué opción favorecía cada agente, oculta en un mensaje de sistema, las instrucciones que moldean cómo se comporta una IA.

“En las cuatro decisiones analíticas, los analistas siguieron la inclinación de su agente el 86% de las veces. Si la aportación del agente no hubiera supuesto ninguna diferencia, esperaríamos alrededor del 50%”, dijo Anthropic. Quienes ya habían elegido antes de que el agente interviniera abandonaron su elección el 60% de las veces cuando el agente no estaba de acuerdo, frente al 6% cuando estaba de acuerdo, aunque eso se basa en solo 38 casos.

Cuando se les pidió que explicaran sus elecciones, el 77% repitió el argumento del agente en al menos una respuesta, a veces palabra por palabra. Solo el 15% atribuyó el mérito al agente, y el 52% calificó la recomendación final como más propia que del agente.

BitcoinBTC · USD

$80,848−4.53%

Oct 21Oct 23Oct 25Oct 26Oct 28

$84.8k$83.1k$81.3k$79.6k

24h HighHigh$81,636

24h LowLow$80,334

VolVol$917.1M

→

Comprar Bitcoin con USDT

Desarrollado por Jupiter

Datos de precios por CoinGeckoCoinGeckoMás noticias y proyecciones de Bitcoin →

“Para los expertos individuales, esto podría significar perder la agencia sobre su propio trabajo, una forma de lo que los investigadores llaman desempoderamiento”, dijo Anthropic. Este fenómeno básicamente significa que el humano pierde voluntariamente el control sobre sus propias decisiones. “El trabajo todavía se publica bajo el nombre del experto”, escribieron los autores, “pero las decisiones que más dependen de su criterio son en realidad resueltas por las creencias previas del agente”.

En abril de 2025, OpenAI revirtió una actualización de ChatGPT que calificó de demasiado halagadora o complaciente. A los agentes aquí se les dijo que nunca engañaran, sin embargo, rara vez argumentaron a favor de la alternativa.

“Con solo un lado argumentado bien”, escribieron los autores, “los analistas podían adoptar las suposiciones del agente sin elaborar las propias”. Las verificaciones de errores tienen dificultades para detectar esto porque los juicios de valor no tienen una única respuesta correcta, por lo que el trabajo parece sólido sea cual sea la opción elegida.

Anthropic dice que esto no es un argumento para usar menos la IA, ya que los analistas con el agente terminaron más rápido y cometieron muchos menos errores graves, aunque el grupo sin agente era pequeño y menos experimentado. Sugiere agentes que argumenten el mejor caso para cada opción o que pregunten primero al experto, aunque eso podría abrumar a los usuarios.

Los investigadores fortalecieron deliberadamente las preferencias de los agentes y probaron una tarea, un campo y un modelo, por lo que los efectos en el mundo real pueden ser menores. Medirlo fuera del laboratorio es la parte difícil: el equipo pudo detectar la deferencia solo porque aleatorizó la inclinación de cada agente, lo que según los autores rara vez es posible en el trabajo real.