Por Canuto  

Dario Amodei, CEO de Anthropic, aclaró que la empresa no respalda una prohibición general de los modelos de pesos abiertos. Su propuesta se concentra en restringir el acceso de China a chips avanzados, combatir la destilación industrial y exigir pruebas de seguridad para los sistemas de IA más capaces.
***

  • Anthropic sostiene que los modelos de pesos abiertos sin capacidades peligrosas pueden beneficiar a empresas, desarrolladores e investigadores.
  • La firma considera prioritario impedir que gobiernos autoritarios accedan a chips avanzados y frenar las operaciones industriales de destilación.
  • Amodei propone pruebas obligatorias, globales y previas al lanzamiento para modelos abiertos y cerrados con capacidades suficientemente avanzadas.

 

Anthropic rechazó públicamente la idea de prohibir los modelos de inteligencia artificial con pesos abiertos. En una publicación en el blog oficial firmada por Dario Amodei, CEO de la empresa, la compañía afirmó que nunca ha defendido una medida de ese tipo.

La aclaración llega después de varios días de debate sobre modelos abiertos desarrollados en China y sobre la posibilidad de que funcionarios de Estados Unidos restrinjan su uso en empresas estadounidenses. Varias compañías tecnológicas también firmaron una carta en defensa de esta tecnología.

Amodei sostuvo que las prohibiciones proteccionistas no resolverían sus principales preocupaciones de seguridad nacional. Según su posición, el problema central no es si un modelo tiene pesos abiertos, sino quién lo desarrolla, qué capacidades posee y cómo puede utilizarse.

El valor de los modelos de pesos abiertos

Los modelos de pesos abiertos permiten que sus parámetros entrenados sean descargados, examinados y ejecutados por terceros. Esa característica facilita la investigación independiente, la adaptación de herramientas y el desarrollo de aplicaciones sin depender completamente de un proveedor cerrado.

La firma considera que los modelos abiertos que no tienen capacidades peligrosas constituyen un bien público. Su costo principal corresponde al cómputo necesario para ejecutarlos, por lo que pueden ampliar el acceso de empresas, desarrolladores e investigadores a la economía de la IA.

Amodei también reconoció que los pesos abiertos pueden fortalecer la competencia en determinados casos de uso. Además, pueden dar a los clientes un mayor control sobre sus sistemas, una ventaja importante para organizaciones que necesitan operar modelos en entornos privados.

Sin embargo, el CEO cuestionó algunas afirmaciones incluidas en una carta abierta de la industria. En particular, dijo que no está demostrado que la apertura necesariamente facilite la creación de salvaguardas o que un acceso más amplio beneficie siempre más a los defensores que a los atacantes.

La discusión, por tanto, enfrenta dos objetivos legítimos. Por un lado, la apertura puede reducir barreras de entrada y estimular la innovación; por otro, puede dificultar el monitoreo, la retirada de modelos y la respuesta ante usos maliciosos.

La amenaza de los gobiernos autoritarios

La principal preocupación de Amodei es que un gobierno autoritario construya modelos más poderosos que los desarrollados en Estados Unidos. Ese tipo de sistemas podría utilizarse para obtener una superioridad militar permanente o para intensificar la represión interna.

El argumento no depende de que los modelos sean liberados con pesos abiertos ni de que sean utilizados por empresas estadounidenses. El escenario más peligroso, según el ejecutivo, podría ser un modelo entrenado en secreto y entregado exclusivamente al Ejército Popular de Liberación para drones o al Ministerio de Seguridad del Estado para vigilancia.

Amodei señaló que esta preocupación también aparece dentro del Gobierno estadounidense. El vicepresidente Vance advirtió en París el año pasado que los regímenes autoritarios han robado y utilizado IA para fortalecer sus capacidades militares, de inteligencia y vigilancia.

La Evaluación Anual de Amenazas 2026 de la Comunidad de Inteligencia de Estados Unidos concluyó que el progreso de otras potencias globales en IA está desafiando la competitividad económica y las ventajas de seguridad nacional estadounidenses. La referencia refuerza la dimensión geopolítica del debate.

Desde esa perspectiva, una prohibición general para empresas estadounidenses no impediría que un Estado autoritario desarrolle sistemas avanzados. Tampoco resolvería la posibilidad de que esos sistemas se mantengan cerrados y sean utilizados directamente por organismos militares o de seguridad.

Chips y destilación como prioridades

La primera medida que respalda Amodei consiste en impedir la venta de chips avanzados y equipos para fabricarlos a China. También pidió actuar contra el contrabando y contra las rutas alternativas que permiten obtener acceso a ese hardware.

Su razonamiento se basa en las leyes de escalado de la IA. China tendría una capacidad interna de producción limitada y, sin chips estadounidenses, enfrentaría mayores dificultades para entrenar modelos más poderosos que los de Estados Unidos.

El CEO describió las restricciones sobre semiconductores como la vía más eficiente y directa para bloquear la amenaza de una ventaja autoritaria. Además, limitar el entrenamiento de modelos que quedan fuera del alcance de la legislación estadounidense podría reducir indirectamente ciertos riesgos de abuso.

La segunda prioridad es combatir las operaciones de destilación a escala industrial. Este proceso permite utilizar las respuestas o capacidades de un modelo avanzado para entrenar otro sistema con un consumo de cómputo mucho menor que el requerido para comenzar desde cero.

Según Amodei, la destilación puede permitir que China desarrolle modelos mejores de lo que su disponibilidad de chips normalmente permitiría. El resultado no sería necesariamente una equivalencia con la frontera estadounidense, pero sí podría acercar la frontera china a pocos meses de distancia.

El ejecutivo reconoció que varias compañías involucradas en esas operaciones también publican modelos con pesos abiertos. No obstante, sostuvo que el factor más relevante es que las operaciones cuentan con respaldo de un Estado autoritario que busca superar a Estados Unidos en la frontera tecnológica.

Por esa razón, planteó intervenciones políticas y marcos legales o comerciales focalizados para disuadir la destilación industrial. La propuesta no consiste en prohibir todos los modelos abiertos, sino en perseguir conductas específicas relacionadas con la transferencia masiva de capacidades.

Pruebas obligatorias para modelos avanzados

La tercera medida consiste en exigir pruebas de seguridad para todos los modelos suficientemente capaces, sin importar si son abiertos o cerrados. El objetivo sería evaluar directamente los riesgos antes de que los sistemas lleguen al público.

Las evaluaciones deberían cubrir amenazas cibernéticas, biológicas y problemas graves de alineación. La alineación se refiere a la capacidad de un sistema para seguir objetivos compatibles con las intenciones humanas y evitar comportamientos peligrosos.

Amodei consideró alentador que la administración Trump se haya movido en esa dirección durante los últimos meses. También mencionó propuestas recientes de la industria que aplicarían pruebas a los modelos más capaces, sin distinguir entre su país de origen o su modalidad de acceso.

Los modelos menos capaces, incluidos los desarrollados por startups y centros académicos, quedarían completamente exentos bajo esas propuestas. La idea es concentrar las obligaciones en sistemas cuyo potencial represente riesgos suficientemente elevados para justificar una supervisión adicional.

El ejecutivo sostuvo que las pruebas deben determinar empíricamente si los modelos abiertos implican un riesgo mayor y si ese riesgo puede mitigarse. En su opinión, esas conclusiones no deberían establecerse por anticipado únicamente a partir de la arquitectura de distribución.

La empresa también investiga estrategias de entrenamiento modular como una posible vía para mejorar la seguridad de los modelos abiertos. Esta línea busca explorar si ciertos controles pueden conservarse incluso cuando los pesos se distribuyen de forma amplia.

Riesgos biológicos y cooperación internacional

Amodei expresó una preocupación particular por la biología, debido a una posible asimetría entre atacantes y defensores. Un modelo suficientemente capaz podría ayudar a preparar virus con potencial pandémico usando materiales ampliamente disponibles, mientras la defensa exigiría años de trabajo operativo.

El ejecutivo comparó esa diferencia con la experiencia de la Operación Warp Speed. La respuesta defensiva frente a una amenaza biológica puede requerir mucho más tiempo que la acción ofensiva, lo que dificultaría compensar un avance abrupto de las capacidades de IA.

En una evaluación citada por la compañía, la apertura que permite beneficios también elimina controles disponibles para los desarrolladores de sistemas cerrados. Entre ellos figuran la detección de abusos, la actualización de salvaguardas, el control de usuarios y la retirada de modelos.

Una vez publicados los pesos, las copias pueden descargarse, redistribuirse y ejecutarse en sistemas privados fuera del monitoreo. Las salvaguardas también pueden eliminarse, lo que genera un riesgo persistente e irreversible cuando el modelo posee capacidades peligrosas.

Amodei planteó que las pruebas de seguridad deben ser globales para resultar efectivas. Eso implicaría que el Partido Comunista Chino también tendría que participar, aunque el ejecutivo considera posible una cooperación limitada en torno a la prevención de armas biológicas de IA.

Su argumento es que China podría tener incentivos propios para evitar una catástrofe biológica. La cooperación no tendría que abarcar toda la política tecnológica, sino concentrarse en amenazas concretas que también afectarían a los gobiernos autoritarios.

Una disputa que seguirá abierta

La posición presentada por Amodei intenta separar tres debates que suelen aparecer mezclados. El primero trata sobre el acceso económico a la IA; el segundo, sobre la competencia geopolítica; y el tercero, sobre el uso malicioso de sistemas avanzados.

Desde su perspectiva, prohibir los modelos abiertos a empresas estadounidenses podría proteger a los desarrolladores estadounidenses de la competencia. Sin embargo, esa protección comercial no impediría que actores maliciosos o gobiernos extranjeros obtuvieran capacidades similares por otros medios.

La empresa afirma que también aplica medidas propias contra la destilación. Entre ellas se encuentra la identificación y prohibición de cuentas que utilicen sus modelos para operaciones de este tipo a escala industrial.

La detección enfrenta dificultades prácticas, porque las cuentas relevantes pueden identificarse después de que haya ocurrido una destilación sustancial. Además, estas operaciones suelen crear grandes cantidades de cuentas falsas, lo que convierte el problema en un objetivo móvil.

Por ese motivo, Amodei consideró insuficientes las prácticas de una sola compañía. La respuesta, según su planteamiento, requiere políticas públicas y marcos comerciales que actúen sobre las operaciones respaldadas por Estados y no sobre toda la categoría de modelos abiertos.

La conclusión de la firma es clara: no respalda una prohibición general de los pesos abiertos. Su agenda prioriza mantener los chips avanzados fuera del alcance de gobiernos autoritarios, frenar la destilación industrial y exigir pruebas de seguridad para los modelos más capaces, tanto abiertos como cerrados.

El debate seguirá dependiendo de la evolución técnica y de la evidencia disponible. Mientras los modelos abiertos prometen más competencia y control para los usuarios, sus riesgos obligan a discutir controles que no destruyan esos beneficios ni permitan que capacidades peligrosas circulen sin supervisión.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados