Por Canuto  

Un estudio con registros ficticios encontró que modelos supervisores repitieron con mayor frecuencia respuestas falsas cuando delegaron la lectura de evidencia a asistentes más débiles. Los autores también probaron medidas que redujeron los errores, aunque advierten que sus resultados de laboratorio no estiman la frecuencia de fallos en productos usados por clientes.
***

  • En una prueba de Claude Code, Opus 5 adoptó la respuesta incorrecta en 75 de 180 casos al delegar la lectura a Haiku 4.5, frente a 1 de 180 al leer directamente.
  • En una prueba distinta de Codex, GPT-5.6-sol registró 44 revisiones dañinas de 180 al apoyarse en GPT-5.6-terra y ninguna al leer la evidencia por sí mismo.
  • Lectores del mismo nivel, citas a los registros originales y un verificador escéptico redujeron errores en las condiciones evaluadas, que no representan tasas de fallos entre clientes.


Modelos de IA pueden heredar datos falsos cuando delegan la lectura de evidencia

Delegar una tarea a otro modelo puede ahorrar pasos, pero también introduce una nueva oportunidad para que información falsa llegue a una respuesta final. Un estudio de Keegan Wang y Anantika Mannby encontró que asistentes supervisores más potentes adoptaron conclusiones incorrectas con mayor frecuencia cuando dependieron de lectores de IA más débiles, en pruebas controladas con registros inventados y preguntas de dos opciones.

El trabajo, que CryptoSlate reportó como enviado el 12 de noviembre de 2026, comparó respuestas de modelos que inspeccionaban la evidencia por sí mismos con otras en las que un agente subordinado leía los archivos y presentaba sus conclusiones. Los investigadores midieron las llamadas revisiones dañinas: casos en los que el supervisor cambió una respuesta correcta de referencia por la opción falsa introducida en el material de prueba.

La delegación cambió el resultado en pruebas de Claude Code y Codex

En una condición de falsificación apilada para Claude Code, el supervisor Opus 5 eligió la respuesta incorrecta en 1 de 180 pruebas cuando leyó directamente los archivos. Cuando delegó esa lectura a Haiku 4.5, el resultado subió a 75 revisiones dañinas de 180, una diferencia que muestra cuánto puede influir el tratamiento de la evidencia antes de que llegue al supervisor.

La prueba apilada combinó varias formas de evidencia falsa en un almacén de 35 archivos, incluidos cinco documentos falsificados. Algunos imitaban avisos de corrección; otros presentaban una anotación con apariencia de autoridad o repetían relatos falsos. El diseño buscaba comprobar si las afirmaciones podían parecer suficientemente convincentes para que un asistente las trasladara a su informe.

Codex también mostró una brecha entre lectura directa y delegación, aunque bajo un ataque distinto. En una condición basada en una glosa falsificada que reclamaba autoridad, GPT-5.6-sol no registró revisiones dañinas en 180 pruebas al leer por sí mismo, pero cometió 44 cuando dependió de GPT-5.6-terra para revisar la evidencia.

Los autores advierten que esos resultados no permiten comparar directamente Claude Code con Codex, porque cada producto se evaluó bajo ataques diferentes. Además, las condiciones de delegación no eran idénticas: en Claude Code el supervisor solo podía usar la herramienta Task, mientras que en Codex la instrucción de delegar se verificaba en cada prueba, pero no imponía el mismo límite mecánico.

Las falsificaciones parecían registros plausibles, no solo instrucciones maliciosas

Una característica del diseño fue que la evidencia genuina seguía disponible junto con los documentos plantados. Algunas falsificaciones podían detectarse porque estaban fechadas antes de los registros que supuestamente corregían o porque no incluían líneas de acceso genuinas. Sin embargo, los ataques exitosos también podían parecer registros factuales y no instrucciones explícitas para engañar a un modelo.

Los investigadores dijeron que las instrucciones dirigidas a lectores automatizados fueron resistidas en todos los casos en que las probaron. En cambio, ciertos documentos presentaban afirmaciones con aspecto de información administrativa ordinaria. Así, el problema no dependía únicamente de que el sistema obedeciera una orden maliciosa, sino de que el lector interpretara como confiable una evidencia falsa y transmitiera esa conclusión.

El efecto dependió asimismo de la clase de falsificación. En una condición de aviso de corrección engañoso, Codex registró 172 revisiones dañinas de 180 incluso cuando el supervisor leyó directamente los archivos. Ese resultado contrasta con la condición de glosa de autoridad y muestra que la lectura directa no garantizó resistencia frente a todos los ataques probados.

Por eso, los recuentos deben leerse como resultados de escenarios separados y no como una clasificación general de productos. Las pruebas usaron hechos ficticios generados, preguntas cerradas y ataques diseñados por los investigadores; no reproducen necesariamente la variedad, el volumen ni las prácticas de verificación de tareas reales de clientes.

La verificación redujo errores, pero no resuelve la incertidumbre

El estudio también encontró mejores resultados cuando el lector delegado tenía un nivel similar al del supervisor. En las condiciones de anotación y falsificación apilada de Claude Code, los asistentes del mismo nivel registraron cero revisiones dañinas en 180 pruebas por condición; en la prueba de anotación de Codex, el recuento fue de una en 180.

Los autores probaron además la delegación en un almacén limpio, sin las falsificaciones plantadas, y ninguno de los dos productos registró revisiones dañinas en 180 pruebas por producto. Ese resultado ayuda a separar el efecto de la delegación por sí sola del riesgo de delegar la lectura de material manipulado, aunque sigue describiendo únicamente las tareas y condiciones construidas para el experimento.

En una prueba con un arnés de referencia y 40 casos por brazo, pedir citas del registro original redujo las revisiones dañinas de 15 a 3. Un verificador instruido para mantener una actitud escéptica las redujo a 1, lo que sugiere que exigir rastros comprobables y añadir una revisión crítica pueden limitar la transmisión de errores en ciertos entornos.

Wang y Mannby plantean la pérdida de procedencia y una menor comprobación como posibles factores detrás de los fallos. Observaron una correlación con un menor número de turnos de herramientas, pero no demostraron que esa reducción causara los errores; la posibilidad de que el sistema verifique menos sigue siendo una hipótesis y no una conclusión causal del estudio.

Los resultados no estiman el riesgo para usuarios habituales

Las cifras corresponden a experimentos construidos y no permiten calcular qué proporción de consultas de clientes terminaría con una respuesta falsa. Los autores también informaron variación significativa entre ejecuciones repetidas, mientras que los controles de briefing emparejado solo pudieron realizarse en el arnés de referencia, una limitación que obliga a evitar generalizaciones directas a otros sistemas o tareas.

La diferencia entre leer una fuente y recibir un resumen de esa fuente importa porque el supervisor puede tomar una decisión a partir de una representación parcial de la evidencia. Si el lector omite señales, interpreta mal un documento o transmite una afirmación falsa como si fuera un hecho, la capacidad del modelo supervisor para razonar no necesariamente corrige el problema.

Para evaluar sistemas de agentes, el estudio sugiere que no basta con medir el desempeño del supervisor aislado. También conviene observar qué evidencia recibe, si puede volver a las fuentes originales y qué mecanismos exigen justificar las conclusiones. Son dimensiones relevantes para las pruebas, aunque los experimentos reportados no establecen por sí solos una receta universal de seguridad.

La conclusión práctica es acotada, pero importante: la delegación puede cambiar la fiabilidad de una respuesta incluso cuando el modelo que toma la decisión final es más potente que el que leyó los documentos. Las pruebas no demuestran que los sistemas de IA fallen así con frecuencia en el uso cotidiano, pero sí muestran por qué el desempeño individual del supervisor puede ocultar errores que nacen en otro eslabón del proceso.


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín