Por Canuto  

Claude, el modelo de inteligencia artificial de Anthropic, ya lidera 26% de los esfuerzos internos de investigación y desarrollo de la empresa, mientras unos 30.000 agentes colaboran en tareas de ingeniería. El avance acelera la carrera por crear sistemas más capaces, pero también reabre las advertencias sobre una IA que eventualmente pueda mejorarse con menor intervención humana.
***

  • Claude lidera 26% del trabajo de investigación y desarrollo de IA de Anthropic, frente a alrededor de 1% en marzo.
  • Anthropic identifica unos 30.000 agentes de IA activos en su plataforma interna para tareas de investigación e ingeniería.
  • La compañía asegura que Claude todavía no opera de manera totalmente autónoma, mientras crecen las advertencias sobre los riesgos de la superinteligencia.

Claude ya participa en la construcción de la próxima generación de inteligencia artificial, según Anthropic. El modelo lidera actualmente 26% de los esfuerzos de investigación y desarrollo de IA de la compañía, una cifra que muestra cómo los laboratorios de frontera incorporan sus propios sistemas a tareas antes reservadas casi por completo a investigadores humanos.

Anthropic informó que el porcentaje corresponde a la actividad registrada el mes pasado y representa un aumento desde alrededor de 1% en marzo. La empresa también aclaró que Claude todavía no trabaja de forma totalmente autónoma en ninguna de las áreas evaluadas, por lo que el dato describe una colaboración intensiva, no una sustitución completa de los equipos humanos.

Claude entra en el ciclo de creación de modelos

La participación de Claude se concentra en el núcleo del proceso con el que Anthropic investiga, prueba y desarrolla nuevos sistemas de IA. En la práctica, el modelo puede asistir en tareas de programación, análisis, evaluación y diseño experimental, aunque la información divulgada no detalla qué proporción corresponde a cada actividad ni qué decisiones permanecen exclusivamente bajo control humano.

El movimiento refleja un cambio importante en la industria: los modelos ya no solo constituyen el producto final que las empresas ofrecen a sus usuarios, sino que también se convierten en herramientas para construir versiones posteriores. Anthropic sostuvo que los laboratorios de IA de frontera utilizan cada vez más la IA para desarrollar futuros modelos, con la expectativa de avanzar más rápido y ejecutar más pruebas de seguridad antes de cualquier lanzamiento.

La compañía presentó ese proceso como una ventaja para los laboratorios ubicados en países democráticos, porque les permitiría aumentar la capacidad de desarrollo sin abandonar las evaluaciones de seguridad. Sin embargo, esa promesa depende de que los investigadores puedan detectar errores, comportamientos peligrosos o fallas de alineamiento en sistemas que participan cada vez más directamente en su propia evolución.

La diferencia entre asistencia y autonomía resulta central para interpretar el anuncio. Claude puede liderar una parte del trabajo asignado, pero Anthropic afirma que todavía necesita supervisión y que no opera por sí solo en la totalidad de ninguna medida de investigación y desarrollo mencionada por la empresa.

Una red interna con miles de agentes

Además del porcentaje atribuido a Claude, Anthropic identificó alrededor de 30.000 agentes de IA que realizan tareas de investigación e ingeniería dentro de su plataforma interna en cualquier momento. La cifra apunta a un entorno de trabajo en el que múltiples sistemas pueden apoyar actividades específicas, en lugar de depender únicamente de una instancia central del chatbot.

El concepto de agente suele referirse a un sistema capaz de ejecutar una secuencia de acciones para alcanzar un objetivo, como escribir código, revisar resultados o coordinar pasos de un experimento. Aun así, la existencia de miles de agentes no significa que todos posean el mismo nivel de capacidad, autonomía o acceso a los recursos de la compañía.

La escala descrita por Anthropic permite entender por qué el aumento desde alrededor de 1% en marzo hasta 26% puede tener consecuencias operativas relevantes. Si los modelos intervienen en más etapas del ciclo de desarrollo, una mejora en productividad podría acelerar los lanzamientos, aunque también aumentaría la necesidad de controles, registros y revisiones independientes.

Para el sector tecnológico, la incorporación de agentes en los laboratorios plantea además una cuestión de trazabilidad. Las empresas tendrán que determinar qué código, hipótesis o resultados fueron generados por personas y cuáles surgieron de modelos, especialmente cuando una cadena de agentes produzca recomendaciones que después influyan en la arquitectura de otro sistema.

El debate sobre la autonomía y la seguridad

El anuncio llegó pocos días después de que Dario Amodei, CEO de Anthropic, pidiera una desaceleración en el desarrollo de la tecnología. La petición se produjo tras las advertencias de Jacob Coxon, un investigador de IA que había trabajado anteriormente en OpenAI y que se volvió ampliamente conocido en redes sociales después de abandonar la compañía.

Coxon afirmó que investigadores de empresas de frontera creen que la IA podría acabar con la humanidad, pero que, pese a ese temor, el sector no ha detenido su avance hacia la superinteligencia. Ese término describe un agente hipotético capaz de superar toda la capacidad cognitiva de la humanidad, aunque su existencia todavía pertenece al terreno de las proyecciones y no de los sistemas disponibles públicamente.

Evan Hubinger, científico principal de alineamiento de Anthropic, respaldó públicamente la advertencia de Coxon y declaró que los investigadores realmente consideran posible que la IA mate a todos los humanos. Hubinger añadió que estima una probabilidad superior a 10% de que ese desenlace ocurra durante la próxima década, una valoración que representa su juicio sobre un riesgo extremo y no una predicción verificable sobre un acontecimiento inevitable.

Las preocupaciones se relacionan con una hipótesis específica: que una futura superinteligencia pueda dejar de necesitar a los humanos para desarrollar nuevas capacidades, utilizando modelos de IA para duplicarse y mejorarse. Ese escenario todavía es especulativo, pero su discusión adquiere mayor urgencia cuando las propias empresas reconocen que sus modelos ya participan en tareas de construcción y evaluación de sistemas posteriores.

La presión para establecer límites

Después de esas advertencias, Amodei planteó en una publicación de blog que las empresas de IA deberían colaborar para fijar estándares comunes y acordar una desaceleración orientada a reducir los riesgos. Su propuesta refleja la tensión entre una carrera tecnológica que premia la velocidad y la necesidad de evaluar modelos más complejos antes de ponerlos a disposición del público.

La discusión también involucra a los legisladores, que intentan aprobar normas de seguridad para la inteligencia artificial mientras observan con cautela los esfuerzos de autorregulación de la industria. Las compañías conocen de primera mano los sistemas que desarrollan, pero sus incentivos comerciales pueden entrar en conflicto con la decisión de retrasar productos, limitar capacidades o divulgar fallas.

En ese contexto, el dato de que Claude lidera 26% del trabajo interno funciona como una señal de capacidad y, al mismo tiempo, como un desafío de gobernanza. La cifra puede interpretarse como una muestra de productividad, pero también obliga a preguntar cómo se auditan las decisiones del modelo, quién responde por sus errores y qué barreras impiden que una herramienta de apoyo obtenga gradualmente más control.

Anthropic no indicó que Claude se haya convertido en un sistema capaz de mejorarse sin intervención humana, ni afirmó que la superinteligencia esté presente en sus operaciones actuales. Lo que sí confirmó es que la IA ocupa un lugar creciente en la creación de IA, una tendencia que probablemente mantendrá abierto el debate sobre velocidad, seguridad y responsabilidad.

La evolución de este proceso dependerá de la calidad de las evaluaciones y de la transparencia con que las compañías reporten sus resultados. Mientras los modelos participen en más etapas de su propio desarrollo, la frontera entre herramienta, colaborador y arquitecto del siguiente sistema será cada vez más difícil de definir.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados