Por Canuto  

La Casa Blanca mantiene confidencial el marco voluntario que utiliza para revisar modelos de IA de frontera, mientras Anthropic y antiguos empleados advierten sobre riesgos que podrían superar la capacidad de control humano.
***

  • El marco voluntario para evaluar modelos avanzados terminó en agosto, pero la administración de Donald Trump aún no lo publica ni explica sus estándares.
  • OpenAI envió su modelo Astra a revisión, mientras Anthropic reportó intentos de usar Claude en investigaciones relacionadas con armas biológicas.
  • Empleados y exempleados de empresas de IA reclaman mayor transparencia y advierten sobre riesgos extremos para la humanidad.

Un marco de evaluación que permanece confidencial

La Casa Blanca terminó a principios de agosto un marco voluntario para evaluar modelos de inteligencia artificial de frontera, pero todavía no lo ha publicado oficialmente. El documento surgió después de una orden ejecutiva firmada por el presidente Donald Trump en junio, y la administración no ha ofrecido una fecha para divulgarlo ni una explicación detallada sobre sus criterios.

La confidencialidad impide conocer qué estándares exige el gobierno federal a compañías como Anthropic y OpenAI antes de que presenten sus sistemas más avanzados. Tampoco está claro si las empresas informan todos sus nuevos avances a las autoridades, porque ni la administración ni las compañías tienen la obligación de hacer públicos los resultados de las revisiones.

El diseño voluntario del proceso también deja abierta una pregunta central: si una empresa decide participar, debe siquiera confirmar que entregó un modelo para evaluación. Esa falta de información limita la capacidad de investigadores, legisladores y ciudadanos para comparar los riesgos declarados con las medidas que el gobierno considera suficientes.

La administración ha confirmado que el marco fue completado dentro del plazo previsto, pero no ha indicado que vaya a publicarlo. Yahoo News reportó que la Casa Blanca no respondió a solicitudes reiteradas de comentarios sobre el documento. La ausencia de una respuesta oficial mantiene el debate en manos de declaraciones empresariales, advertencias de empleados y reclamos de organizaciones que piden conocer cómo interpreta Washington sus responsabilidades frente a los sistemas de IA más capaces.

La orden de Trump y la revisión de los modelos

La orden ejecutiva de junio solicitó a empresas de inteligencia artificial como Anthropic y OpenAI que entregaran voluntariamente al gobierno federal acceso a sus modelos más avanzados hasta 30 días antes de su lanzamiento. El objetivo declarado era mejorar la seguridad mediante una revisión previa, aunque el propio Trump había cancelado inicialmente la firma de la orden porque no quería que el gobierno frenara la innovación.

Ese antecedente refleja la tensión que atraviesa la política tecnológica estadounidense: las autoridades buscan identificar capacidades peligrosas antes de que lleguen al público, pero al mismo tiempo quieren evitar controles que reduzcan la velocidad de desarrollo. En la práctica, el marco confidencial intenta resolver esa contradicción mediante cooperación con las empresas, sin imponer un sistema público de certificación o autorización.

El 3 de septiembre, el director ejecutivo de OpenAI, Sam Altman, dijo que la compañía había enviado su nuevo modelo Astra a revisión y describió el proceso como productivo, según Axios. Altman sostuvo que, a medida que los modelos alcancen capacidades significativas, será más importante colaborar estrechamente con institutos de seguridad de Estados Unidos, Reino Unido y otras partes del mundo.

La declaración de Altman ofrece uno de los pocos indicios públicos sobre el funcionamiento del mecanismo, pero no revela qué pruebas superó Astra ni qué hallazgos produjo la evaluación. La falta de resultados publicados significa que el público debe confiar en la caracterización de la empresa y no puede determinar si la revisión identificó limitaciones, exigió cambios o simplemente documentó las capacidades del sistema.

Anthropic eleva las advertencias sobre riesgos extremos

La discusión sobre el marco ocurre mientras Anthropic, desarrolladora de Claude, expone nuevos riesgos asociados con el uso de modelos avanzados. En un informe publicado el jueves, la empresa afirmó que bloqueó múltiples intentos potenciales de investigadores que buscaban utilizar Claude para trabajos biológicos de doble uso que podrían haber contribuido a la creación de armas biológicas.

La compañía presentó esas acciones como parte de sus controles de seguridad y no como evidencia de que se hubiera fabricado un arma. Sin embargo, el episodio muestra por qué las revisiones previas al lanzamiento han ganado relevancia: un modelo capaz de acelerar investigaciones científicas también puede facilitar actividades peligrosas si sus capacidades llegan a usuarios con intenciones maliciosas.

Las advertencias se volvieron aún más contundentes esta semana con la renuncia de Jacob Coxon, investigador de Anthropic y exempleado de OpenAI. En una publicación, Coxon escribió que las personas que construyen la IA creen sinceramente que la tecnología podría matar a todos los humanos antes del final de la década, una afirmación que expone la profundidad de la preocupación dentro de algunos equipos especializados.

Evan Hubinger, investigador vinculado a Anthropic, también afirmó públicamente que quienes trabajan en el sector realmente creen que la IA podría matar a todos los humanos. Estas declaraciones no constituyen una predicción verificable ni representan necesariamente la posición institucional de Anthropic, pero sí ilustran el conflicto entre la carrera por ampliar capacidades y el temor de que los mecanismos de control no avancen al mismo ritmo.

Reclamos por transparencia y presión internacional

El Centro para la Democracia y la Tecnología pidió a la Casa Blanca que publique el marco de revisión de los modelos de frontera. Tim Harper, quien trabaja en asuntos de seguridad electoral para esa organización, argumentó que el público tiene derecho a conocer la interpretación del gobierno sobre la ley y vinculó el caso con una falta de transparencia más amplia en torno a diálogos y discusiones internas de la administración.

El reclamo no exige necesariamente que las empresas revelen secretos comerciales o publiquen todos los detalles técnicos de sus sistemas. Su foco está en conocer las reglas generales, las obligaciones que el gobierno espera de los desarrolladores y la forma en que las autoridades deciden si un modelo presenta riesgos que justifican una intervención adicional.

En julio, más de 1.000 empleados de compañías de inteligencia artificial publicaron una declaración en la que pidieron al gobierno estadounidense respaldar un esfuerzo internacional. La iniciativa busca desarrollar herramientas técnicas y mecanismos de gobernanza que permitan acompasar deliberadamente la frontera del desarrollo automatizado de la IA, en lugar de dejar que la competencia empresarial defina por sí sola el ritmo del sector.

La dimensión internacional resulta especialmente importante porque los modelos se entrenan, distribuyen y utilizan en múltiples jurisdicciones. Una revisión que permanezca limitada a acuerdos privados entre Washington y algunas empresas puede reducir la visibilidad pública, mientras que la coordinación con Reino Unido y otros países, mencionada por Altman, apunta a una respuesta más amplia aunque todavía no exista un estándar común divulgado.

La carrera con China y la desconfianza ciudadana

La Casa Blanca ha continuado respaldando el desarrollo de modelos avanzados y la construcción de centros de datos en Estados Unidos, pese a las advertencias internas y externas relacionadas con la seguridad. La administración sostiene que el país debe alcanzar la dominancia global en inteligencia artificial y superar a China, una prioridad estratégica que ayuda a explicar por qué el crecimiento de la infraestructura recibe apoyo político.

Trump ha defendido con fuerza la expansión de los centros de datos estadounidenses y ha advertido que China no podría estar más satisfecha con la oposición a esa nueva infraestructura. El argumento plantea la competencia tecnológica como una carrera nacional, pero también desplaza parte de la discusión desde la seguridad de los modelos hacia la necesidad de acumular capacidad computacional y evitar que otro país lidere el sector.

Esa estrategia enfrenta una opinión pública preocupada por el impacto económico y social de la automatización. Una encuesta reciente de CBS News encontró que la mayoría de los estadounidenses cree que la IA eliminará empleos en el país, mientras que casi dos tercios consideran probable que la política gubernamental no garantice un uso adecuado de la tecnología.

La combinación de un marco secreto, advertencias sobre armas biológicas y temores sobre una pérdida extrema de control puede aumentar la desconfianza hacia la industria y las autoridades. Para recuperar credibilidad, el gobierno tendrá que explicar qué revisa, qué resultados obtiene y cómo equilibra la innovación con la seguridad, sin limitarse a invocar la competencia con China como respuesta a todas las objeciones.

En última instancia, el debate no depende únicamente de si la Casa Blanca publica un documento, sino de si crea un mecanismo capaz de detectar riesgos antes de que los modelos lleguen al mercado y de rendir cuentas cuando una empresa incumpla sus compromisos. Mientras ese marco siga oculto, el público conocerá las capacidades de la IA principalmente cuando aparezcan incidentes, filtraciones o advertencias de quienes participan en su desarrollo.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados