Por Angel Di Matteo   𝕏 @shadowargel

La empresa de inteligencia artificial Anthropic confirmó el despliegue de su modelo más avanzado en la Agencia de Seguridad Nacional de EE. UU. al mismo tiempo que advierte sobre los riesgos de sistemas capaces de mejorar su propio desarrollo y propone una pausa coordinada en la carrera global por la IA.

***

  • Anthropic habría asignado ingenieros directamente dentro de la NSA para adaptar su modelo Mythos a operaciones de ciberseguridad avanzada.
  • El modelo utilizado no está disponible para el público debido a preocupaciones sobre posibles usos indebidos.
  • La compañía asegura que Claude ya genera más del 80% del código incorporado a sus sistemas internos.
  • Anthropic propone una pausa internacional verificable en el desarrollo de IA avanzada para evitar riesgos derivados de la auto-mejora recursiva.

 

Anthropic, una de las empresas líderes en inteligencia artificial avanzada, ha profundizado su relación con el aparato de seguridad nacional estadounidense mediante el despliegue de personal técnico dentro de la Agencia de Seguridad Nacional (NSA), según un reporte publicado por Financial Times, reseñado por Decrypt.

De acuerdo con la información compartida, alrededor de seis ingenieros de Anthropic trabajan directamente con la agencia para adaptar Mythos, considerado el modelo más avanzado de la compañía, a aplicaciones específicas de ciberseguridad y operaciones gubernamentales.

Las fuentes consultadas por el medio señalaron que una de las posibles aplicaciones del sistema sería apoyar operaciones de infiltración digital en redes extranjeras, incluyendo objetivos ubicados en países como China e Irán. Sin embargo, no existe confirmación pública de que el modelo esté participando activamente en operaciones ofensivas.

La noticia resulta particularmente llamativa debido a que Mythos es precisamente uno de los sistemas que Anthropic ha decidido no lanzar al público general por considerarlo demasiado poderoso y susceptible a usos indebidos.

Un modelo restringido para socios seleccionados

Mythos forma parte de Project Glasswing, una iniciativa mediante la cual Anthropic limita el acceso a sus tecnologías más avanzadas únicamente a organizaciones previamente aprobadas. Entre los participantes de este programa figuran compañías tecnológicas como Microsoft, Apple y Amazon, así como determinadas agencias gubernamentales.

La existencia de este acceso privilegiado contrasta con la postura pública que Anthropic ha mantenido respecto a la seguridad de la inteligencia artificial, especialmente considerando que la empresa continúa defendiendo restricciones para usos considerados sensibles.

La situación adquiere una dimensión aún más compleja debido al conflicto que la compañía mantiene con el Departamento de Defensa de Estados Unidos. A comienzos de este año, el secretario de Defensa Pete Hegseth catalogó a Anthropic como un posible riesgo para la cadena de suministro gubernamental después del colapso de un contrato valorado en USD $200 millones.

Según reportes previos, la disputa surgió porque Anthropic se negó a permitir que sus modelos fueran utilizados en sistemas de armamento completamente autónomos o en programas de vigilancia masiva dentro del territorio estadounidense.

No obstante, el acuerdo con la NSA quedó fuera de dichas restricciones.

Claude ya ayuda a construir la próxima generación de IA

La revelación sobre la NSA coincidió con la publicación de un nuevo informe elaborado por el instituto de investigación interno de Anthropic, titulado When AI Builds Itself.

El documento, reseñado en una edición previa, describe cómo los sistemas de la empresa están participando cada vez más activamente en el desarrollo de futuras generaciones de inteligencia artificial. Según la compañía, Claude ya genera más del 80% del código que termina integrándose en los sistemas de producción de Anthropic. La cifra representa un salto extraordinario frente a los niveles observados antes del lanzamiento de Claude Code a comienzos de 2025.

La productividad también se ha acelerado significativamente. Anthropic afirma que sus ingenieros producen aproximadamente ocho veces más código por día que hace apenas dos años gracias a la colaboración con herramientas impulsadas por IA.

Sin embargo, el verdadero motivo de preocupación no es la velocidad de desarrollo, sino la posibilidad de que los sistemas comiencen a dirigir su propia evolución.

La preocupación por la auto-mejora recursiva

Los investigadores Marina Favaro y Jack Clark, autores del informe, sostienen que la industria se acerca progresivamente a un escenario conocido como auto-mejora recursiva.

Bajo este concepto, una inteligencia artificial no solo ejecuta tareas o genera código, sino que también identifica problemas de investigación, diseña experimentos, evalúa resultados y desarrolla versiones más avanzadas de sí misma sin intervención humana significativa.

Anthropic cita un experimento realizado en abril como una señal temprana de esta tendencia.

La compañía asignó a agentes basados en Claude una investigación relacionada con uno de los problemas centrales de la seguridad en IA: determinar si un modelo más débil puede supervisar adecuadamente a otro más avanzado.

Mientras dos investigadores humanos lograron recuperar aproximadamente el 23% de la diferencia de rendimiento entre ambos sistemas tras una semana de trabajo, los agentes de IA alcanzaron un 97% de mejora utilizando más de 800 horas acumuladas de cómputo.

Según Anthropic, los humanos definieron el problema inicial, pero fueron los agentes quienes diseñaron y ejecutaron los experimentos necesarios para encontrar soluciones. Para la empresa, este episodio representa uno de los primeros casos documentados donde una IA demuestra capacidad de juicio investigativo y no simplemente ejecución de instrucciones.

Una propuesta que recuerda a la Guerra Fría

Paradójicamente, mientras despliega tecnología avanzada en organismos de inteligencia estadounidenses, Anthropic también se ha convertido en una de las voces más visibles que piden moderar la velocidad de desarrollo de la industria.

El informe propone la creación de una pausa global verificable entre los principales laboratorios de IA, inspirada en mecanismos similares a los tratados de control nuclear firmados durante la Guerra Fría.

La idea consiste en que múltiples compañías detengan simultáneamente el desarrollo de sistemas más avanzados bajo supervisión independiente, evitando que algún actor continúe avanzando mientras los demás reducen el ritmo.

Anthropic reconoce que una pausa unilateral sería ineficaz, ya que simplemente trasladaría la ventaja competitiva a quienes decidieran seguir desarrollando tecnología sin restricciones.

Un debate lleno de contradicciones

La propuesta reaviva un debate que ha acompañado a la industria durante los últimos años.

Muchas de las compañías que lideran la carrera por desarrollar inteligencia artificial avanzada son las mismas que advierten sobre sus posibles riesgos existenciales.

Ya en 2023, cientos de investigadores, empresarios y científicos firmaron cartas abiertas alertando sobre los peligros potenciales de sistemas cada vez más poderosos. Sin embargo, pese a esas advertencias, la inversión, la competencia y el ritmo de desarrollo continuaron acelerándose.

En el caso de Anthropic, la contradicción resulta particularmente visible. La empresa impulsa investigaciones sobre riesgos asociados a la superinteligencia, pide mecanismos internacionales de control y advierte sobre la posibilidad de sistemas que mejoren su propio diseño, mientras simultáneamente expande acuerdos con agencias de inteligencia y prepara su eventual salida a bolsa.

Con la inteligencia artificial convirtiéndose rápidamente en uno de los sectores más rentables y estratégicos del mundo, la tensión entre seguridad, competencia geopolítica y beneficios económicos parece destinada a intensificarse durante los próximos años.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados