Por Angel Di Matteo   𝕏 @shadowargel

El CEO de Anthropic, Dario Amodei, aseguró que los gobiernos ya no pueden limitarse a estudiar los riesgos de la inteligencia artificial y pidió regulaciones vinculantes para los modelos más avanzados. La propuesta contempla pruebas obligatorias, auditorías independientes y la capacidad de bloquear despliegues considerados inseguros.

***
  • Amodei propone que los modelos de frontera enfrenten pruebas y certificaciones similares a las de la industria aeronáutica.
  • La iniciativa surge mientras Anthropic amplía el acceso a Claude Mythos 5, un modelo capaz de ejecutar ataques cibernéticos complejos de forma autónoma.
  • El planteamiento incluye medidas para abordar desplazamiento laboral, riesgos de vigilancia y control de armas autónomas.
  • Las propuestas llegan en medio de críticas de competidores como Sam Altman, quien acusa a Anthropic de utilizar narrativas basadas en el miedo.
 

El debate sobre la regulación de la inteligencia artificial volvió a intensificarse esta semana luego de que el CEO de Anthropic, Dario Amodei, publicara un extenso ensayo titulado Policy on the AI Exponential, en el que sostiene que los gobiernos necesitan adoptar reglas vinculantes para los sistemas de IA más avanzados.

Según Amodei, las exigencias actuales de transparencia ya no son suficientes para gestionar los riesgos asociados a modelos capaces de escribir código complejo, automatizar tareas críticas o desarrollar capacidades avanzadas en áreas sensibles como la ciberseguridad, detalla Decrypt.

“La IA avanza a una velocidad vertiginosa”, escribió el ejecutivo. Como ejemplo, señaló que en apenas cuatro años los modelos pasaron de tener dificultades para generar código funcional a producir gran parte del software utilizado dentro de las propias compañías de inteligencia artificial.

La publicación coincide con el lanzamiento de Mythos 5, la nueva versión del modelo de frontera de Anthropic destinada a organizaciones gubernamentales y entidades especializadas en ciberseguridad. Diversos organismos de evaluación, entre ellos el Instituto de Seguridad de IA del Reino Unido, concluyeron que el sistema es capaz de ejecutar ataques cibernéticos complejos de forma autónoma.

Un modelo regulatorio inspirado en la aviación

La propuesta de Amodei toma como referencia el esquema regulatorio utilizado por la Administración Federal de Aviación (FAA) en Estados Unidos. Bajo este enfoque, los modelos de inteligencia artificial más potentes deberían someterse a pruebas técnicas y auditorías independientes antes de su lanzamiento.

El planteamiento contempla que las autoridades tengan la facultad de bloquear o revertir despliegues cuando los sistemas no cumplan determinados estándares de seguridad. Asimismo, las empresas estarían obligadas a proteger los pesos de sus modelos, realizar evaluaciones de riesgo periódicas y reportar incidentes graves a los reguladores.

Amodei también considera que los gobiernos deben prepararse para escenarios asociados al desplazamiento laboral generado por la automatización. Según el directivo, cualquier respuesta pública debe abordar no solo las consecuencias económicas, sino también aspectos relacionados con propósito, significado y autonomía personal.

Dentro de las medidas propuestas también aparecen restricciones al uso de sistemas de vigilancia basados en IA y limitaciones para la utilización de armas autónomas en tareas de seguridad interna.

El debate sobre los riesgos y el empleo

Uno de los puntos centrales del ensayo gira en torno al impacto que la inteligencia artificial podría tener sobre el mercado laboral.

Amodei sostiene que permitir una sustitución masiva de trabajadores sería una estrategia peligrosa y contraproducente. En su opinión, las autoridades deberían actuar desde ahora para minimizar los efectos negativos de la automatización antes de que estos se materialicen a gran escala.

La preocupación no es nueva. Durante los últimos años, diversos ejecutivos del sector han advertido que la IA podría transformar radicalmente profesiones relacionadas con programación, análisis de datos, atención al cliente, creación de contenido y otras actividades basadas en conocimiento.

Sin embargo, el ejecutivo de Anthropic considera que el desafío va más allá de la simple pérdida de ingresos. A su juicio, las sociedades también deberán encontrar mecanismos para preservar el sentido de propósito y participación de las personas en una economía cada vez más automatizada.

Claude Mythos, Claude Fable y las críticas del sector

La publicación del ensayo coincide con una semana particularmente activa para Anthropic. Además de Mythos 5, la empresa lanzó Claude Fable 5, una versión pública diseñada para limitar ciertos riesgos asociados a solicitudes relacionadas con ciberseguridad, biología, química y desarrollo avanzado de IA.

En esos casos, el sistema redirige determinadas consultas hacia Claude Opus 4.8, un modelo considerado menos riesgoso. La decisión provocó críticas entre desarrolladores e investigadores, quienes cuestionaron el aumento en el consumo de tokens, la obligación de conservar datos durante 30 días y la aplicación de restricciones que pueden reducir capacidades sin informar explícitamente al usuario.

El momento tampoco pasa desapercibido porque Anthropic se encuentra preparando su salida a bolsa. A comienzos de este mes, la compañía presentó documentación ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) tras completar una ronda de financiación Serie H que, según reportes, valoró la empresa en aproximadamente USD $965.000 millones.

Sam Altman cuestiona la narrativa de Anthropic

Las propuestas regulatorias de Amodei no han estado exentas de controversia. Uno de sus críticos más visibles ha sido Sam Altman, CEO de OpenAI, quien en abril acusó a Anthropic de utilizar una estrategia de marketing basada en el miedo para promover sus productos y posicionamientos políticos.

Según Altman, las preocupaciones sobre los riesgos de la IA pueden terminar siendo utilizadas para justificar que un pequeño grupo de empresas concentre el control sobre esta tecnología.

Amodei rechazó esa interpretación y defendió la necesidad de comunicar los riesgos de manera abierta. Para el ejecutivo, la preocupación pública no es consecuencia de campañas de comunicación exageradas, sino de amenazas reales que requieren atención institucional.

“Las personas están preocupadas porque perciben correctamente que los riesgos son reales”, afirmó. También señaló que considera parte de su responsabilidad como líder del sector mantener la transparencia sobre estas cuestiones, incluso cuando ello genere inquietud o debate político.

Mientras la carrera por desarrollar modelos cada vez más potentes continúa acelerándose, la discusión sobre quién debe supervisar estas tecnologías y bajo qué reglas promete convertirse en uno de los temas más relevantes para la industria durante los próximos años.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público. Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

Descubre más desde DiarioBitcoin

Suscríbete y recibe las últimas entradas en tu correo electrónico.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados