Por Canuto  

Irene Solaiman, de Hugging Face, advierte que los benchmarks de IA aún carecen de métodos suficientemente reproducibles y comparables, justo cuando los laboratorios exploran evaluadores externos e integrados.
***

  • Irene Solaiman sostiene que la reproducibilidad y el acceso al modelo son claves para valorar la confianza en una evaluación.
  • Los benchmarks pueden perder eficacia rápidamente y todavía falta estandarizar cómo se comparan y califican.
  • El rendimiento depende también del sistema que rodea al modelo, mientras las evaluaciones de agentes siguen siendo difíciles y costosas.

 

La confianza empieza por poder repetir las pruebas

Los resultados de una prueba de inteligencia artificial pueden parecer una respuesta definitiva sobre qué modelo funciona mejor, pero Irene Solaiman, de Hugging Face, pidió cautela frente a esa lectura. En una conversación durante TechCrunch Disrupt, señaló que los métodos de evaluación todavía evolucionan y que la industria no cuenta con una base suficientemente consistente para tratar todos los resultados como comparables.

Solaiman planteó que la confianza en una evaluación depende, en buena medida, de que otras personas puedan reproducir sus resultados. Esa posibilidad requiere acceso adecuado al modelo evaluado, una condición que, según dijo, da relevancia a los modelos de pesos abiertos porque permiten un examen más directo que el acceso limitado a un sistema.

La reproducibilidad ha sido uno de los aspectos más difíciles del benchmarking de modelos y continúa siendo un punto de discusión en la industria. Que una prueba arroje un resultado no resuelve por sí solo la cuestión de si ese resultado se mantiene cuando otro equipo repite el procedimiento, ni establece automáticamente cuánto debe pesar frente a los datos de otras evaluaciones.

La dificultad, por tanto, no se reduce a escoger una prueba individual y aceptar su puntuación como veredicto. Solaiman describió el área como una ciencia en evolución, en la que todavía no hay una manera clara de comparar evaluaciones de forma significativa; sin ese marco, las clasificaciones pueden transmitir una precisión mayor que la que permiten los métodos disponibles.

Pruebas que envejecen y criterios por ordenar

Otro límite señalado por Solaiman es que los benchmarks pueden volverse ineficaces relativamente rápido. Si las pruebas dejan de representar de manera útil las capacidades que se busca medir, sus resultados pierden fuerza como referencia para comparar productos, aunque continúen apareciendo en tablas o presentaciones de la industria.

La ejecutiva también sostuvo que el ecosistema de evaluaciones aún no es tan floreciente como se necesita. La industria, dijo, muestra interés en incorporar evaluadores dentro de las organizaciones de IA, pero todavía requiere mayor estandarización para determinar quién resulta eficaz al examinar tareas específicas.

Esa carencia es importante porque la etiqueta de evaluador no garantiza por sí misma que exista una metodología sólida, ni que dos equipos vayan a producir análisis equivalentes. Sin criterios más uniformes, las organizaciones y el público pueden tener dificultades para distinguir entre una prueba bien delimitada y una calificación cuyo alcance o pertinencia no queda suficientemente claro.

La discusión ocurre mientras los laboratorios enfrentan incidentes de seguridad que han elevado la preocupación por los posibles daños asociados con estas tecnologías. En su descripción de un incidente que afectó a Hugging Face, OpenAI señaló que agentes aprovecharon vulnerabilidades en su infraestructura interna de investigación y en la plataforma de Hugging Face. En ese contexto, los laboratorios han defendido la evaluación de terceros como alternativa a una regulación gubernamental activa para identificar y mitigar riesgos de los modelos.

La neutralidad de los evaluadores también está bajo escrutinio

La propuesta de ubicar observadores externos dentro de las organizaciones de IA busca aportar una mirada independiente, pero su neutralidad y eficacia no están garantizadas solo por su posición. La relación entre el laboratorio, el evaluador y el alcance de la revisión plantea preguntas sobre qué se examina, con qué criterios y cuánto acceso tiene quien realiza la evaluación.

La elección de Accenture por parte de Anthropic como evaluador recibió críticas, según la información publicada por TechCrunch. Algunos cuestionaron que la firma de consultoría estuviera calificada para realizar esa tarea, una reacción que muestra que el debate no se limita a la existencia de evaluaciones externas, sino que también abarca la credibilidad de quienes las llevan a cabo.

Anthropic anunció una asociación con Accenture para realizar evaluaciones independientes de modelos de frontera y establecer un equipo de evaluadores integrado en la compañía, según la información publicada por Anthropic y Accenture. La alianza da contexto al debate sobre la evaluación externa, aunque por sí sola no resuelve las dudas sobre los criterios, el alcance o la independencia de las revisiones.

La respuesta a esas dudas no consiste únicamente en nombrar un tercero, sino en explicar con claridad el método y permitir que sus conclusiones puedan examinarse. Esa exigencia conecta con el énfasis de Solaiman en la reproducibilidad: una evaluación tendrá más valor si otros pueden comprender cómo se obtuvo y establecer qué aspectos cubre, en lugar de depender solo de la reputación de la entidad que la presenta.

El planteamiento también deja abierta una tensión entre autorregulación y supervisión pública. Los laboratorios han promovido evaluadores externos ante las preocupaciones de seguridad, mientras persisten interrogantes sobre su independencia; Solaiman no presentó una solución definitiva, sino la necesidad de más estandarización para que esas calificaciones puedan considerarse eficaces en tareas concretas.

El modelo no es todo el sistema

Las evaluaciones están ampliando su foco: ya no observan únicamente el modelo, sino también el sistema que lo rodea, incluido el harness, es decir, la herramienta mediante la cual una persona accede al modelo. Solaiman explicó que ese entorno puede influir mucho en el rendimiento, hasta el punto de que un modelo más débil, equipado con un harness mejor, puede superar a uno de frontera.

Esta diferencia obliga a separar qué se está midiendo antes de interpretar una clasificación. Si una prueba incorpora tanto el modelo como la herramienta de acceso, el resultado puede describir el desempeño del conjunto y no únicamente las capacidades del modelo; confundir ambos niveles dificultaría saber qué componente produjo la ventaja observada.

La evaluación de agentes agrega otra capa de complejidad. Solaiman afirmó que las pruebas de sistemas agentivos son difíciles y costosas, y añadió que existen más evaluaciones para modelos que para harnesses, mientras se desarrollan mejores métodos para valorar al agente de manera integral, precisamente porque muchos usuarios obtienen valor de ese conjunto.

El argumento no implica que los benchmarks carezcan de utilidad, sino que sus conclusiones deben leerse con atención al objeto evaluado, al acceso disponible y a la vigencia de la prueba. Para que sigan siendo una herramienta confiable para los líderes de la industria, Solaiman apuntó a la necesidad de un enfoque más uniforme, con criterios compartidos y mejor capacidad para comparar evaluaciones distintas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados