Por Canuto  

Dario Amodei, CEO de Anthropic, sostiene que la inteligencia artificial ya dejó de ser una simple tecnología comercial para convertirse en un asunto de seguridad pública, estabilidad económica y poder geopolítico. En un nuevo ensayo, propone pasar de la transparencia a una regulación vinculante de los modelos más avanzados, al tiempo que plantea medidas para enfrentar el desplazamiento laboral, proteger libertades civiles y coordinar una respuesta internacional liderada por democracias.
***

  • Amodei propone que los modelos de IA de frontera pasen auditorías técnicas obligatorias antes de su despliegue.
  • El ejecutivo advierte que la IA podría combinar hipercrecimiento con hiperdesigualdad y disrupción laboral duradera.
  • También plantea una coalición de democracias para controlar chips, coordinar riesgos y evitar usos autoritarios de la IA.

 

Dario Amodei, CEO de Anthropic, publicó un extenso ensayo en el que sostiene que la política pública va muy por detrás del ritmo real de la inteligencia artificial. Su argumento central es que, si continúan las actuales leyes de escalamiento, el mundo podría estar a uno o dos años de sistemas con capacidades comparables a “un país de genios en un datacenter”.

El texto, titulado Policy on the AI Exponential, plantea que la IA ya debe ser tratada como una tecnología de consecuencia estratégica global. Para Amodei, la fase en que bastaban principios generales o simples reglas de transparencia quedó atrás, porque ahora los riesgos y el alcance económico de estos modelos son mucho más concretos.

La tesis llega en un momento en que la IA empieza a cruzarse con debates que también importan a los mercados financieros, la infraestructura crítica y la seguridad nacional. En especial, el ejecutivo subraya que los avances recientes ya no son marginales, sino que afectan sectores como biología, física, matemáticas, finanzas, derecho, traducción y desarrollo de software.

Amodei abre su ensayo con una metáfora tomada de El Señor de los Anillos. Compara a las instituciones políticas con Treebeard, el árbol sabio pero lento, y a la IA con una fuerza que avanza a velocidad mucho mayor. El problema, según su visión, es que mientras la legislación puede tardar años, la IA puede pasar en ese mismo lapso de ser una curiosidad comercial a convertirse en un factor decisivo para el orden económico y geopolítico.

De la transparencia a una regulación vinculante

Uno de los puntos más relevantes del documento es que Anthropic ya no considera suficiente la etapa de transparencia regulatoria que defendió en 2024 y 2025. Amodei explica que, en ese periodo, aún era difícil saber con precisión cómo emergerían los riesgos más graves, por lo que obligar a las empresas a divulgar pruebas, protocolos e incidentes parecía la vía más prudente.

En ese marco, recordó que la firma apoyó leyes como SB 53 en California, RAISE en Nueva York y SB 315 en Illinois, además de impulsar un estándar federal de transparencia. Sin embargo, ahora afirma que la evidencia de riesgo es mucho más clara y que ya es momento de crear reglas más duras y exigibles.

Su comparación regulatoria favorita es con la aviación, los automóviles o los medicamentos. Es decir, tecnologías con enorme valor económico y social, pero capaces de provocar daños severos si fallan o se despliegan sin controles. Por eso sostiene que los modelos de frontera deberían someterse a pruebas técnicas y auditorías, y que su lanzamiento pueda ser bloqueado o revertido si implican una amenaza a la seguridad pública.

La propuesta concreta incluye evaluaciones obligatorias por terceros para modelos que superen cierto umbral de cómputo. Esas pruebas deberían medir cuatro riesgos específicos: ciberseguridad, armas biológicas, pérdida de control de los sistemas de IA e I+D automatizada que acelere esos mismos riesgos. El gobierno, añade, debería tener facultad para frenar despliegues cuando el riesgo sea inaceptable, aunque con límites claros para evitar favoritismos o arbitrariedades.

Amodei plantea que esas evaluaciones podrían ser hechas por una agencia pública, al estilo de la FAA, o por entidades privadas autorizadas e inspeccionadas por el Estado. A esto suma estándares robustos de seguridad para proteger los pesos de los modelos, pruebas regulares de penetración y estrés, y reportes oportunos de incidentes críticos en las cuatro áreas señaladas.

También deja abierta la puerta a una fase todavía más severa. Si la IA deja de parecerse a un avión o un automóvil y empieza a asemejarse más a materiales nucleares utilizables, entonces podrían requerirse medidas mucho más agresivas. No obstante, aclara que por ahora prefiere enfocar la política en los riesgos que ya están emergiendo, mientras se construye capacidad para reaccionar con mayor rapidez a lo que venga después.

Hipercrecimiento, desigualdad y empleo bajo presión

Otro eje central del ensayo es el impacto macroeconómico. Amodei cree que la IA poderosa podría alterar una premisa clásica de la política económica: que el crecimiento es frágil y difícil de lograr. Si la IA supera a los humanos en la mayoría de tareas cognitivas, dice, podría acelerar de forma muy fuerte la ciencia, la tecnología y la eficiencia operativa.

Ese escenario, sin embargo, no necesariamente sería socialmente estable. A juicio del ejecutivo, la misma tecnología que puede disparar la productividad también podría sustituir habilidades cognitivas humanas a una escala mucho más amplia que las olas tecnológicas previas. El resultado posible sería una economía atrapada en una combinación de hipercrecimiento, hiperdesigualdad y desplazamiento laboral duradero.

Amodei insiste en que este desplazamiento sería indeseable y peligroso, y afirma que no lo menciona para celebrarlo, sino para que gobiernos y empresas se preparen mejor. Señala que Anthropic procura trabajar con clientes en usos de IA que generen nuevos ingresos y tareas, en lugar de limitarse a recortar costos por la vía de despidos.

Aun así, admite que existe una posibilidad real de que la pérdida de empleo sea una propiedad intrínseca de la tecnología. Por eso defiende medidas de política pública que den tiempo a la sociedad para adaptarse. Entre ellas, destaca mejor medición del fenómeno, incentivos proempleo, seguros salariales, beneficios fiscales para retener personal, subsidios a capacitación y mecanismos más eficientes para vincular empleadores con trabajadores.

Si el efecto sobre el empleo termina siendo profundo y permanente, plantea que podría ser necesario ir más allá. Menciona explícitamente opciones como la renta básica universal, financiada con impuestos a empresas relevantes o con mayores gravámenes sobre ganancias de capital. También alude a cuentas de capital universales como otra vía posible para distribuir beneficios.

En un apunte que conecta con la infraestructura tecnológica, Amodei también aborda la preocupación por los datacenters y el costo energético. Su postura es que las empresas de IA deberían absorber cualquier aumento tarifario vinculado a esa expansión, y dice que Anthropic ya hizo un compromiso en esa dirección. Para él, la hostilidad pública hacia los centros de datos refleja ansiedades económicas más profundas sobre la IA.

Cómo acelerar los beneficios sin atascar la ciencia

El ensayo no se limita a advertir sobre riesgos. Amodei también sostiene que uno de los grandes desafíos será evitar que los beneficios de la IA queden frenados por sistemas regulatorios diseñados para una velocidad de innovación mucho menor. A diferencia de la IA misma, donde cree que los controles deben endurecerse, en áreas derivadas como biomedicina teme más a la lentitud regulatoria que a la falta de supervisión.

Su ejemplo principal es la innovación biomédica. A su juicio, la IA probablemente multiplicará la cantidad de candidatos a fármacos que entren al proceso regulatorio, mejorará perfiles de seguridad y eficacia, abrirá terapias para enfermedades antes intratables y acelerará el surgimiento de nuevas categorías terapéuticas.

El problema, explica, es que agencias como la FDA y la EMA siguen operando bajo supuestos construidos para un mundo en el que los candidatos a medicamentos fallan con frecuencia y presentan altos riesgos. Bajo ese sistema, el ciclo regulatorio típico tarda entre 7 y 8 años. Sin reformas, la IA podría inundar o bloquear ese andamiaje institucional.

Entre las soluciones que propone están desarrollar desde ahora estándares para aceptar simulaciones y análisis basados en IA en partes del proceso clínico. Esto abarcaría modelado farmacodinámico y farmacocinético, predicción toxicológica, selección de dosis, validación de biomarcadores, brazos de control sintéticos y desarrollo de puntos finales sustitutos, especialmente útiles en envejecimiento y neurodegeneración.

Su advertencia es clara: no tendría sentido permitir que los riesgos de la IA crezcan rápido mientras los beneficios útiles, como avances médicos, se quedan atrapados en cuellos de botella burocráticos. Además, añade que una biomedicina más potente también podría fortalecer la biodefensa y mejorar la salud mental, dos variables que, a su juicio, ayudarían a estabilizar a la sociedad en una etapa de cambio acelerado.

Libertades civiles, vigilancia y armas autónomas

Amodei también dedica una parte importante de su ensayo al equilibrio entre poder estatal y libertades civiles. Su preocupación es que la IA pueda dar lugar a formas de concentración de poder mucho más rápidas y difíciles de supervisar que las conocidas hasta ahora. En su lectura, la combinación de inteligencia ampliada y progreso acelerado crea una tormenta perfecta para tomas sorpresivas de poder.

Entre los riesgos que enumera figuran ejércitos de drones totalmente automatizados capaces de obedecer órdenes ilegales y sistemas de vigilancia masiva que infieran aspectos íntimos de la vida de los ciudadanos a partir de grandes volúmenes de datos. Según plantea, muchas de estas capacidades no están bien cubiertas por los marcos legales vigentes.

Como respuesta, propone reglas de rendición de cuentas para armas completamente autónomas, de modo que respondan a mecanismos constitucionales y de supervisión legítima. Incluso sugiere que paneles legales o la rama judicial tengan acceso a un “interruptor de apagado” y que los propios sistemas sean entrenados para reconocer autoridad de control válida.

Además, reclama prohibir el uso doméstico de armas totalmente autónomas y cerrar la brecha legal que permite comprar datos entregados por ciudadanos a empresas privadas y usarlos en vigilancia o aplicación de la ley. A esto suma un principio especialmente llamativo: cualquier persona u organización sometida a una acción adversa del gobierno debería tener derecho a acceder a una IA al menos tan capaz como la que el propio Estado esté autorizado a utilizar en ese caso.

Amodei no limita la advertencia al Estado. También afirma que las empresas de IA pueden acumular demasiado poder y adquirir rasgos cuasi estatales. Por eso defiende que existan controles y contrapesos tanto para gobiernos como para corporaciones, y presenta el Long-Term Benefit Trust de Anthropic como un ejemplo de estructura interna diseñada para reforzar esa rendición de cuentas.

La IA como eje del poder geopolítico

En el plano internacional, Amodei sostiene que la IA no debe ser entendida solo como una cuestión de política comercial o difusión tecnológica. Para él, se trata de una tecnología que redefine todo el tablero geopolítico, de manera comparable a las armas nucleares, e incluso con consecuencias potencialmente más profundas.

Su idea es que un país con IA poderosa podría obtener una ventaja militar y económica abrumadora frente a otro que carezca de ella o que vaya con unos tres años de retraso. Para ilustrarlo, sugiere imaginar un “país virtual” de 100 millones de genios, distribuido entre estrategia militar, fabricación de drones, I+D armamentística, inteligencia, ciencia y múltiples otras funciones.

Frente a ese escenario, propone que las democracias formen una coalición global orientada a desarrollar IA conforme a valores compartidos. Esa alianza debería coordinar las políticas descritas en el resto del ensayo y, al mismo tiempo, gestionar la cadena de suministro crítica necesaria para construir IA avanzada, compartiéndola entre miembros confiables y negándola a adversarios.

Entre los principios operativos que enumera están el manejo coordinado de chips y equipos de fabricación de semiconductores, la ampliación y endurecimiento de controles de exportación, la cooperación internacional para abordar riesgos biológicos, de ciberseguridad y autonomía, y una estrategia conjunta de defensa con ciberherramientas, drones, manufactura, cómputo clasificado e inteligencia impulsados por IA.

También propone compartir los beneficios de la IA dentro de esa coalición, incluyendo aprendizajes regulatorios y comerciales que aceleren la innovación y ayuden a los países en desarrollo. Como ejemplo, menciona la armonización de aprobaciones médicas para agilizar ensayos y autorizaciones de medicamentos habilitados por IA.

Finalmente, plantea que los miembros de esa coalición deberían rechazar explícitamente la represión impulsada por IA y coordinar respuestas macroeconómicas si el empleo o la estabilidad laboral sufren shocks transfronterizos. En su visión, el objetivo es que pertenecer a la coalición resulte tan atractivo que más países quieran sumarse con el tiempo.

Una ventana política que podría cerrarse rápido

El cierre del ensayo combina advertencia y oportunidad. Amodei sostiene que la evidencia actual sobre los riesgos de la IA, su potencial para crear valor económico, sus posibles efectos disruptivos sobre el empleo y la creciente reacción pública contra enfoques no regulados han abierto una ventana excepcional para actuar.

En contra de la idea, común en parte de la industria, de que el problema es solo de marketing, el CEO de Anthropic afirma que la preocupación social es legítima. A su juicio, la gente está inquieta porque percibe correctamente que los riesgos son reales. Por eso dice que su deber como líder del sector es seguir siendo transparente, en vez de responder con optimismo superficial.

El desafío, concluye, es convertir esa preocupación en soluciones concretas, antes de que derive en ira desordenada o violencia. Su apuesta es que todavía es posible una coalición amplia y no partidista en torno a medidas que considera de sentido común, como pruebas previas al lanzamiento, controles de exportación de chips, apoyo al empleo y respuestas más racionales al impacto energético de la IA.

La advertencia final es simple: cuanto antes se construya esa respuesta, antes podrán compartirse los beneficios de la IA sin dejar que sus riesgos definan el futuro político, económico y social de forma descontrolada.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados