Anthropic mantiene en secreto un modelo más potente que Mythos mientras aumentan las señales de riesgo

Anthropic reveló que utiliza internamente un modelo experimental aparentemente más capaz que Mythos, aunque no tiene planes de lanzarlo al público. Al mismo tiempo, la compañía elevó ligeramente su estimación sobre el riesgo de desalineación de sus sistemas avanzados.

***

• Anthropic identificó un sistema experimental como “Model 2”, que mostró mejoras apreciables en tareas internas frente a sus modelos actuales.
• La compañía no planea lanzarlo externamente, pero tampoco está frenando de forma general el desarrollo de modelos más avanzados.
• Anthropic elevó de “muy bajo” a “bajo” su estimación general del riesgo de desalineación en situaciones de alto impacto.

Anthropic tiene entre manos un modelo de inteligencia artificial aparentemente más potente que su avanzado Mythos 5, pero los usuarios probablemente no podrán probarlo. La compañía reveló en su nuevo informe de riesgos la existencia de “Model 2”, un sistema experimental desarrollado exclusivamente para investigación interna.

El modelo mostró una “mejora apreciable para tareas internas” y Anthropic aseguró que tanto Mythos 5 como Model 2 se utilizan intensamente dentro de la empresa. Sus aplicaciones incluyen programación, tareas con agentes autónomos y generación de datos, indica un reporte publicado por Axios.

Sin embargo, la mejora no sería comparable con el salto observado anteriormente entre Opus 4.6 y Mythos. Anthropic aclaró además que Model 2 forma parte de los numerosos sistemas exploratorios que entrena y evalúa durante sus procesos habituales de investigación, muchos de los cuales nunca llegan al mercado.

“Actualmente no tenemos planes de lanzar este modelo externamente”, indicó la compañía.

Anthropic eleva ligeramente su evaluación de riesgo

La revelación resulta particularmente interesante porque coincide con un cambio en la propia percepción de Anthropic sobre los peligros asociados con sus sistemas. La empresa elevó de “muy bajo” a “bajo” su cálculo general sobre el riesgo de desalineación en situaciones de alto impacto, citando recientes incidentes relacionados con ciberseguridad.

Anthropic también observa señales de aceleración en la capacidad de sus modelos para realizar investigación y desarrollo de manera automatizada. Esa habilidad podría acelerar el progreso científico y tecnológico, aunque también podría utilizarse de forma perjudicial si sistemas suficientemente avanzados terminan en manos equivocadas.

Más preocupante resulta la creciente dificultad para medir esas capacidades. Al referirse a Model 2, Anthropic reconoció tener menos confianza en sus evaluaciones que durante informes anteriores, porque algunas pruebas concretas utilizadas tradicionalmente ya no capturan adecuadamente las mejoras de los modelos.

La estrategia contrasta parcialmente con la de OpenAI, que está ralentizando el lanzamiento de su próximo modelo Astra después de determinar que no puede descartar que posea capacidades cibernéticas críticas.

El analista de IA ChrisGPT señaló que una Anthropic que continúe desarrollando internamente modelos de frontera mientras otros competidores reducen el ritmo podría adquirir una ventaja significativa. En su opinión, si las principales compañías comienzan a moderar sus avances mientras Anthropic continúa acelerando, la empresa podría incluso aumentar sus posibilidades de ser la primera en alcanzar una inteligencia artificial general.

Por ahora, Anthropic parece haber establecido una distinción importante: Model 2 puede ser demasiado experimental para lanzarlo, pero no para utilizarlo internamente. El laboratorio continúa avanzando mientras intenta comprender capacidades que, según su propio informe, son cada vez más difíciles de medir.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín