Por Canuto  

Investigadores de Google y la Universidad de Hong Kong presentan VeriCUA, un sistema que inspecciona archivos y aplicaciones antes de aceptar que un agente de IA completó una tarea. En tres pruebas, redujo los falsos positivos frente a verificadores basados en scripts.
***

  • VeriCUA crea criterios de evaluación para cada tarea y busca pruebas en la interfaz, los archivos o el estado del sistema.
  • En OSWorld, redujo la tasa de falsos positivos de 27,9% a 13,9%; en ScienceBoard, de 24,8% a 5,4%.
  • En pruebas en línea, rechazó cerca del 80% de las afirmaciones falsas de finalización, según el trabajo.

Un agente de inteligencia artificial puede afirmar que terminó una tarea sin haber dejado el resultado esperado en la aplicación o en un archivo. Para responder a esa brecha entre lo que el sistema declara y lo que efectivamente hizo, investigadores de Google y la Universidad de Hong Kong desarrollaron VeriCUA, un marco que inspecciona evidencias antes de validar una finalización. El trabajo, cuyos autores incluyen a Qiushi Sun y Pritish Kamath, plantea que la palabra «terminado» debe tratarse como una afirmación por comprobar, no como una prueba.

De la promesa a la evidencia

La investigación aborda los agentes de uso de ordenador, conocidos como CUA por sus siglas en inglés, que operan programas mediante acciones similares a las de una persona. Estos sistemas hacen clic en interfaces, escriben y pasan de una aplicación a otra para completar instrucciones. En ese tipo de tareas, la apariencia de progreso no garantiza que el cambio solicitado haya quedado guardado ni que el archivo correcto exista.

VeriCUA propone una verificación adaptada al objetivo específico en vez de depender de una señal superficial o de la autovaloración del propio agente. Primero construye una rúbrica personalizada a partir del contexto de la tarea y, después, reúne evidencias pertinentes para decidir si se alcanzó el resultado. Así, los criterios de revisión pueden variar según lo que se pidió, en lugar de aplicar una comprobación idéntica a trabajos distintos.

La búsqueda de pruebas puede incluir inspecciones de la interfaz de usuario o comprobaciones mediante código, como leer archivos y revisar el estado del sistema. Ese paso importa porque una pantalla que parece correcta no necesariamente demuestra que la información se guardó donde correspondía, mientras que una inspección del archivo o del sistema puede ofrecer una señal más directa. El método intenta comprobar el resultado en las aplicaciones y documentos involucrados, no solo escuchar el reporte del agente.

Los autores describen el enfoque como agéntico: el verificador interpreta qué necesita comprobar y busca evidencia antes de emitir un veredicto. El artículo sobre VeriCUA y la verificación de agentes de IA fue enviado el 29 de octubre de 2026, según la información publicada por Crypto Briefing el 2 de noviembre de ese año. La propuesta sitúa la revisión como una capa separada de la ejecución, con capacidad para cuestionar el resultado aunque el agente principal asegure que completó la tarea.

Menos aprobaciones engañosas en las pruebas

Los investigadores evaluaron VeriCUA en entornos de escritorio, móviles y web, y reportaron que superó a los sistemas de referencia en todos los ámbitos. Las mayores mejoras aparecieron en escenarios más difíciles, según el artículo. La métrica principal fue la tasa de falsos positivos: la proporción de casos en que el verificador aprueba una tarea aunque el agente no la haya completado realmente.

En OSWorld, VeriCUA redujo esa tasa de 27,9% a 13,9% frente al método de comparación. La diferencia equivale a cerca de la mitad de las aprobaciones engañosas que generaba ese referente, aunque el resultado no significa que el sistema elimine por completo los errores. La cifra apunta a una reducción de fallos de evaluación en ese benchmark, no a una garantía universal sobre cualquier agente o aplicación.

En ScienceBoard, la tasa de falsos positivos descendió de 24,8% a 5,4%, una caída más pronunciada en las mediciones comunicadas por los investigadores. Para AndroidWorld, un benchmark móvil, VeriCUA alcanzó una precisión de 90,5% y una tasa de falsos positivos de 7,7%. En esa misma prueba, el verificador de referencia basado en scripts generados automáticamente registró 82,4% de precisión y 16,9% de falsos positivos.

El trabajo también señala que la precisión de la decisión supera el 95% cuando VeriCUA tiene confianza en su juicio y que el sistema concuerda más con las etiquetas de referencia que los sistemas comparados. En pruebas en línea, rechazó aproximadamente 80% de las afirmaciones falsas de finalización. Estas mediciones describen resultados en las evaluaciones reportadas por los autores; por sí solas, no demuestran que la misma precisión se mantenga en todas las tareas que puedan aparecer en un entorno real.

Qué implica revisar lo que hacen los agentes

El problema que destaca la investigación es la posibilidad de inflar las tasas de éxito cuando la evaluación depende de comprobaciones débiles. Si el verificador observa señales superficiales, un agente puede parecer más capaz de lo que es y superar una prueba sin haber producido el resultado solicitado. VeriCUA intenta reducir ese margen al vincular la decisión con evidencia específica de la tarea y con el estado de las aplicaciones o los archivos.

La diferencia entre declarar una tarea completa y demostrar que lo está puede ser especialmente relevante cuando se miden sistemas que navegan por programas y manipulan documentos. Un falso positivo no solo es un error de puntuación: también puede ocultar una falla que el usuario esperaba que el agente resolviera. Por eso, una evaluación que revise resultados concretos podría ofrecer una imagen más prudente de las capacidades, aunque el propio verificador también deba ser evaluado.

La señal de confianza abre otra posibilidad descrita por los resultados: los desarrolladores podrían derivar a revisión humana los casos inciertos y dejar que VeriCUA resuelva los más claros. La precisión superior al 95% cuando el sistema está seguro es relevante para esa idea, pero no basta para establecer cómo funcionaría en producción ni cuánto trabajo humano ahorraría. El artículo presenta una opción de diseño, no un despliegue confirmado ni una promesa de automatización sin supervisión.

La propuesta también plantea una pregunta práctica para quienes comparan agentes: qué evidencia respalda cada cifra de éxito. Si el método de evaluación solo verifica señales fáciles de imitar, los resultados pueden favorecer a sistemas que no completaron realmente la instrucción. La investigación de Google y la Universidad de Hong Kong ofrece una respuesta basada en inspección dinámica, aunque sus cifras deben leerse dentro de los benchmarks y las pruebas que reporta.

Por ahora, el argumento central es sencillo: cuando un agente de IA dice que terminó, un sistema independiente debería comprobarlo antes de dar la tarea por concluida. VeriCUA busca que esa revisión abra archivos, examine aplicaciones y contraste el resultado con criterios específicos, en vez de aceptar una afirmación sin respaldo. La utilidad de ese enfoque dependerá de cómo se comporte en más tareas y escenarios, pero los resultados informados muestran por qué la verificación se ha convertido en una parte clave de la evaluación de agentes.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados