Por Canuto  

Anthropic afirma que Claude ya lidera el 26% de su trabajo de investigación y desarrollo en IA, mientras más de 30.000 agentes operan bajo sistemas de vigilancia que buscan medir los riesgos de una automatización cada vez más profunda.

***

  • Claude alcanzó el nivel en el que lidera el 26% de la I+D en IA de Anthropic, frente a menos del 1% en febrero.
  • Más del 90% de la investigación de la empresa ya incluye colaboración de la IA o tareas lideradas por ella.
  • Anthropic analizó más de 1.000 millones de decisiones de agentes y destinó cerca del 12% del cómputo de I+D impulsado por IA a seguridad.

 

 

Anthropic aseguró que su modelo Claude ya lidera el 26% de su trabajo de investigación y desarrollo en inteligencia artificial, un salto considerable frente a la proporción inferior al 1% registrada en febrero.

La compañía también indicó que más del 90% de su I+D en IA se ejecuta con participación de la tecnología en un nivel de colaboración estrecha o superior, aunque aclaró que Claude todavía no trabaja de manera totalmente autónoma en ninguna de las áreas medidas.

El dato coloca en primer plano una transformación dentro de los propios laboratorios que desarrollan modelos avanzados: la IA comienza a participar directamente en la creación de sus sucesoras. Anthropic sostiene que esta dinámica puede acelerar la construcción de sistemas más capaces, pero reconoce que también puede dificultar que los investigadores entiendan, supervisen y controlen herramientas cuyo desempeño aumenta con rapidez.

Una métrica para medir cuánto lidera Claude

Para cuantificar ese avance, Anthropic creó el Anthropic R&D Automation Index, un índice diseñado para estimar qué proporción de sus labores de investigación y desarrollo en IA realiza Claude. La medición utiliza una escala de automatización desarrollada por Epoch AI, que va desde AL0, cuando la IA no participa, hasta AL5, reservado para un sistema completamente autónomo sin intervención humana.

La categoría AL3 describe un escenario en el que la IA colabora y puede completar grandes porciones de una tarea bajo una dirección humana estrecha. En AL4, el nivel que Anthropic atribuye actualmente a Claude para el 26% de su I+D en IA, el sistema puede realizar la mayor parte de una tarea de principio a fin a partir de una instrucción general, mientras una persona mantiene la supervisión.

La compañía presentó estas cifras en una publicación sobre estándares de medición que, según Business Standard, busca ofrecer una forma reproducible de comunicar el ritmo de desarrollo de los laboratorios de frontera. Anthropic señaló que otros creadores de modelos podrían aplicar el mismo enfoque con sus propios datos y someter los resultados a validación de terceros, una posibilidad que ayudaría a comparar afirmaciones que hoy suelen depender de información interna.

El índice no afirma que Claude haya alcanzado una independencia plena ni que pueda reemplazar sin controles a los equipos de investigación. Su valor está en mostrar la evolución de la automatización dentro de tareas concretas: desde menos del 1% del trabajo liderado por la IA en febrero hasta el 26% alcanzado en agosto, una trayectoria que alimenta el debate sobre la llamada auto-mejora recursiva.

La vigilancia sobre 30.000 agentes

Anthropic también informó que aproximadamente 30.000 agentes de IA realizaban tareas de investigación e ingeniería en su plataforma interna más utilizada durante cualquier momento de agosto. El volumen muestra que la discusión ya no se limita a un chatbot que responde preguntas, sino que incluye sistemas capaces de ejecutar acciones dentro de flujos de trabajo técnicos y científicos.

La empresa indicó que el 100% de las acciones de esos agentes pasa por un monitor en línea antes de ejecutarse, generalmente en cuestión de segundos. Después, un sistema de monitoreo fuera de línea registra y revisa sus actividades, con el objetivo de detectar comportamientos que el filtro previo no haya bloqueado o que requieran un análisis más detallado.

Durante agosto, Anthropic analizó más de 1.000 millones de decisiones tomadas por agentes y encontró que el monitor en línea bloqueó el 0,002% de ellas, aproximadamente una de cada 47.000. Aunque la proporción es pequeña, la escala absoluta del sistema significa que incluso un porcentaje reducido puede representar miles de acciones que requieren explicación, corrección o seguimiento.

El mecanismo también marca cerca de 100.000 transcripciones cada semana para una revisión adicional, mientras unos 50 casos considerados de mayor prioridad se escalan a investigadores humanos. Estas cifras describen una estructura de control intensiva, pero no demuestran por sí solas que los agentes sean seguros en todos los contextos, porque la eficacia de un monitor depende de lo que pueda identificar y de la calidad de la respuesta posterior.

Seguridad y capacidad de cómputo

Anthropic calculó que alrededor del 6% de la potencia de cómputo utilizada para su I+D en IA se destinó a tareas de seguridad durante una semana de muestra, entre el 13 y el 20 de julio. Cuando la empresa consideró específicamente la investigación y desarrollo impulsados por IA, la proporción subió hasta cerca del 12%, una diferencia que refleja el esfuerzo adicional asociado con sistemas que participan en la creación de nuevas herramientas.

La compañía advirtió, sin embargo, que el cómputo es una medida imperfecta del compromiso de un laboratorio con la seguridad. Algunas investigaciones pueden consumir mucho tiempo de especialistas y relativamente poca capacidad computacional, mientras el entrenamiento de modelos de frontera puede exigir enormes recursos sin representar por sí mismo una inversión equivalente en evaluación o control.

La publicación propone observar de forma conjunta varias señales: cuánto trabajo de I+D realiza la IA, qué porcentaje de las acciones de los agentes recibe monitoreo, cuánto tarda la revisión y con qué frecuencia se marca una actividad. Ninguna métrica ofrece una respuesta definitiva sobre el riesgo, pero la combinación podría dar al público y a los investigadores externos una imagen más completa del ritmo al que avanzan los sistemas de frontera.

El interés de estas mediciones aumenta porque la investigación asistida por IA puede producir un efecto acumulativo: modelos más capaces ayudan a construir herramientas todavía más potentes, que a su vez pueden acelerar el siguiente ciclo de desarrollo. Anthropic presentó el seguimiento como una forma de medir qué tan cerca se encuentra la industria de una situación en la que un modelo construya de forma autónoma a su sucesor, no como una afirmación de que ese escenario ya se haya materializado.

Transparencia, supervisión y límites actuales

Anthropic dijo que continuará publicando sus mediciones para reducir la brecha entre lo que los laboratorios de IA de frontera conocen sobre sus procesos y lo que puede conocer el público. La empresa también planea incorporar evaluadores independientes externos para verificar prácticas de seguridad, informar incidentes y monitorear indicadores clave, una promesa que trasladaríaparte de la evaluación fuera de los equipos que desarrollan los sistemas.

La transparencia voluntaria enfrenta un desafío evidente: las compañías pueden elegir qué datos divulgar, cómo definir sus categorías y qué tareas incluir en sus cálculos. Por eso, la validación externa y la posibilidad de reproducir los índices resultan importantes, especialmente cuando una diferencia entre colaborar, liderar y operar de manera autónoma puede cambiar la interpretación pública de un mismo avance.

El debate también ocurre en un momento de preocupación por el comportamiento de agentes avanzados, después de que OpenAI publicara sus hallazgos sobre un incidente de seguridad relacionado con Hugging Face. Dario Amodei ha insistido en la relevancia de la seguridad de la IA, una postura que incluso recibió respaldo público de Elon Musk, aunque la discusión sobre si la industria debe someterse a algo más que la autorregulación continúa abierta.

En Estados Unidos, la respuesta política sigue siendo incierta, ya que el presidente Donald Trump ha restado importancia en gran medida a los riesgos asociados con la IA. Mientras no exista un marco común que obligue a los laboratorios a informar con criterios comparables, los datos de Anthropic pueden servir como referencia para el sector, pero también permanecerán sujetos a la interpretación y al nivel de confianza que logren generar.

Por ahora, Claude lidera una parte importante del trabajo de Anthropic, pero la propia empresa reconoce que todavía necesita supervisión humana en todos los segmentos medidos. La diferencia entre una IA que acelera a los investigadores y una IA que decide por sí sola el rumbo de su sucesora dependerá de cómo evolucionen esas métricas, los controles y la disposición de los laboratorios a someterlos a revisión independiente.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados