Por Canuto  

Dario Amodei, CEO de Anthropic, respondió con un extenso mensaje a las acusaciones de que su compañía está priorizando la competencia por desarrollar inteligencia artificial avanzada sobre sus compromisos de seguridad. El ejecutivo defendió su estrategia de participar en una carrera por elevar los estándares de la industria, enumeró decisiones que considera perjudiciales para sus intereses comerciales y reconoció que Anthropic cometió errores en algunas de sus políticas.

***

  • Nathan Calvin, directivo de Encode AI, cuestionó nueve decisiones de Anthropic que considera contrarias a sus compromisos de seguridad
  • Amodei respondió con un mensaje de casi 2.000 palabras y defendió la estrategia de competir desarrollando modelos cada vez más avanzados
  • El CEO aseguró que Anthropic ha sacrificado oportunidades comerciales para reducir riesgos biológicos y de ciberseguridad
  • El ejecutivo reconoció errores en comunicaciones y políticas, pero rechazó que la compañía haya abandonado sus principios

 

 

Dario Amodei, CEO de Anthropic, protagonizó un debate público sobre la seguridad de la inteligencia artificial después de responder a las críticas de Nathan Calvin, director de estrategia de Encode AI, una organización dedicada a promover políticas para reducir los riesgos asociados con esta tecnología.

La controversia comenzó cuando Calvin publicó en X un análisis de más de 1.500 palabras que identificaba nueve decisiones tomadas por Anthropic durante el último año. A su juicio, esas acciones sugerían que la compañía estaba acelerando sus esfuerzos por desarrollar superinteligencia artificial mientras debilitaba algunos de sus compromisos originales de seguridad.

Entre los señalamientos figuraban los acuerdos de Anthropic para acceder a más de USD $500.000 millones en infraestructura computacional, su creciente utilización de Claude para desarrollar nuevos modelos y cambios en las políticas internas para controlar sistemas potencialmente peligrosos.

Amodei respondió mediante una publicación de casi 2.000 palabras, en la que agradeció el trabajo de Calvin y defendió el escrutinio independiente sobre las principales compañías de inteligencia artificial. Sin embargo, manifestó su desacuerdo con la interpretación general de las decisiones de Anthropic. El intercambio fue recogido este 21 de octubre por Business Insider.

Anthropic defiende su estrategia de competir para elevar la seguridad

La respuesta de Amodei gira alrededor de lo que denomina race to the top, una estrategia basada en competir dentro de la frontera tecnológica para demostrar que es posible desarrollar modelos avanzados de manera responsable.

Según el ejecutivo, mantenerse entre los principales desarrolladores de IA otorga a Anthropic mayor capacidad para influir en las prácticas de sus competidores y promover estándares más exigentes. Desde esa perspectiva, invertir grandes cantidades de dinero en infraestructura o desarrollar modelos cada vez más capaces no constituye necesariamente una contradicción con los objetivos de seguridad.

Amodei sostuvo que muchas de las decisiones cuestionadas por Calvin son consecuencias esperadas de esa estrategia, que Anthropic afirma mantener desde hace varios años.

Para respaldar su posición, el CEO enumeró nueve medidas adoptadas durante el último año que, según su interpretación, beneficiaron la seguridad de la IA pese a representar costos comerciales significativos. Entre ellas destacó el respaldo a iniciativas regulatorias estatales, restricciones al uso de Claude en investigaciones biológicas sensibles y controles sobre la distribución de modelos con capacidades avanzadas de ciberseguridad.

Las decisiones que Anthropic asegura haber tomado por seguridad

Uno de los ejemplos más relevantes mencionados por Amodei fue el manejo de sus modelos de la familia Mythos, diseñados con capacidades avanzadas para tareas relacionadas con seguridad informática. El ejecutivo aseguró que Anthropic disponía de modelos de esa categoría desde febrero de 2026, pero retrasó su distribución general hasta junio para fortalecer las protecciones contra usos maliciosos.

Durante ese período, la compañía limitó el acceso a determinados socios especializados en defensa informática. Según Amodei, lanzar esos sistemas anticipadamente habría resultado más conveniente desde una perspectiva comercial, pero también habría incrementado los riesgos de uso indebido.

Otro ejemplo corresponde a las salvaguardas biológicas de Claude. Anthropic sostiene que sus modelos pueden proporcionar información potencialmente peligrosa en determinados contextos, por lo que mantiene restricciones estrictas para prevenir aplicaciones relacionadas con armas biológicas.

Amodei reconoció que esos controles también pueden bloquear solicitudes legítimas de científicos e investigadores, algo que ha generado dificultades comerciales para la compañía.

El ejecutivo defendió igualmente las restricciones sobre la venta de servicios a empresas controladas por China y el respaldo a controles de exportación de chips avanzados. Desde su perspectiva, estas medidas responden a consideraciones de seguridad nacional, aunque también limitan oportunidades de negocio.

La lista incluyó además la decisión anunciada esta semana de destinar inicialmente 5% de la compañía a un fondo de beneficio público, como parte de sus compromisos para distribuir parte del valor económico generado por la inteligencia artificial.

Amodei reconoce errores, pero rechaza haber abandonado sus principios

Aunque defendió ampliamente su gestión, el CEO admitió que algunas críticas de Calvin estaban justificadas. En particular, reconoció problemas en comunicaciones y decisiones relacionadas con las políticas de seguridad de Anthropic, incluyendo mensajes públicos que no fueron redactados con suficiente precisión.

Amodei asumió responsabilidad por estas situaciones como máximo ejecutivo de una organización que, según indicó, ya supera los 5.000 empleados.

Uno de los desacuerdos más importantes corresponde a los cambios introducidos en la Responsible Scaling Policy, o RSP, el marco interno utilizado por Anthropic para establecer controles sobre el desarrollo y despliegue de sistemas avanzados.

Calvin cuestionó si las modificaciones habían debilitado compromisos anteriores.

Amodei respondió que la versión original contenía exigencias que, en determinadas situaciones, resultaban costosas sin aportar beneficios proporcionales de seguridad. Según su explicación, la política actual concede mayor importancia a la transparencia, las evaluaciones independientes y la identificación de riesgos concretos.

El ejecutivo reconoció que modificar compromisos anteriores justifica una mayor vigilancia pública, pero sostuvo que Anthropic siempre había presentado su política como un marco sujeto a evolución. También se comprometió a revisar las preocupaciones relacionadas con la coexistencia de sus obligaciones regulatorias y sus mecanismos internos de gestión de riesgos.

¿Se puede competir por la superinteligencia sin comprometer la seguridad?

El debate expone una contradicción que enfrenta toda la industria de inteligencia artificial.

Las compañías necesitan grandes inversiones, capacidad computacional y talento especializado para desarrollar sistemas cada vez más avanzados. Pero esa misma competencia puede crear incentivos para lanzar nuevas capacidades antes de comprender completamente sus riesgos.

Calvin considera que determinadas decisiones recientes de Anthropic muestran que la presión competitiva podría estar desplazando sus prioridades de seguridad. Amodei sostiene lo contrario: si una empresa comprometida con la seguridad abandona la competencia, podría perder la capacidad de influir en cómo se desarrolla y distribuye la tecnología.

El CEO también reconoció que la aceleración de la inteligencia artificial está acercando a la industria a una situación en la que podría resultar difícil mantener las evaluaciones de seguridad al mismo ritmo que mejoran los modelos. Esta preocupación constituye uno de los principales puntos todavía abiertos de la discusión.

La respuesta de Amodei no demuestra que todos los mecanismos de protección de Anthropic sean suficientes. Tampoco invalida las críticas de Calvin, que se concentran en la coherencia entre los compromisos públicos de la compañía y sus decisiones operativas. Sin embargo, sí muestra que el desacuerdo es más profundo que una controversia sobre determinadas políticas.

Se trata de decidir si la seguridad de la inteligencia artificial se protege mejor participando activamente en la carrera por desarrollar los modelos más potentes o estableciendo límites que puedan frenar esa competencia.

Por ahora, Anthropic mantiene su apuesta por la primera estrategia, aunque su CEO reconoce que la compañía deberá seguir revisando sus decisiones conforme aumenten las capacidades de sus sistemas.

El debate también deja una cuestión relevante para reguladores, investigadores y ciudadanos: hasta qué punto debería depender de las propias empresas decidir cuándo un modelo es suficientemente seguro para ponerse a disposición del público.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA




ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados