Por Canuto  

Kamala Harris pidió al Congreso crear una entidad federal que someta a pruebas independientes a los modelos avanzados de IA y propuso negociar un tratado con China sobre los usos peligrosos de esta tecnología.
***

  • Harris solicitó una nueva entidad federal para supervisar y evaluar de forma independiente los modelos frontera.
  • La propuesta de un tratado con China incluiría los usos peligrosos, la velocidad de desarrollo y los estándares globales de pruebas.
  • Obama, Buttigieg y otros demócratas elevaron la seguridad de la IA a un asunto central de la futura disputa política.

Kamala Harris pidió al Congreso de Estados Unidos que apruebe nuevas leyes para controlar el desarrollo de la inteligencia artificial y cree una entidad federal dedicada a supervisar los modelos más avanzados. La propuesta incorpora pruebas independientes de seguridad, una exigencia que podría modificar el reparto de responsabilidades entre las empresas tecnológicas y las agencias públicas que actualmente participan en la discusión regulatoria.

En una declaración difundida el lunes, Harris también solicitó que el presidente impulse un tratado con países como China para abordar los usos peligrosos de la IA, la velocidad de su desarrollo y los estándares internacionales de evaluación. La exfuncionaria describió el avance de los modelos frontera como alarmantemente rápido y sostuvo que Estados Unidos debe desacelerar ese proceso de manera responsable, sin abandonar la competencia tecnológica.

Una agencia para evaluar los modelos frontera

La idea central de Harris consiste en establecer una entidad federal con capacidad para ofrecer supervisión y pruebas independientes sobre los modelos frontera, término utilizado para describir los sistemas de IA más avanzados. Su planteamiento busca que la evaluación de riesgos no dependa exclusivamente de los laboratorios que diseñan, entrenan y comercializan esas herramientas, una preocupación que ha ganado espacio entre investigadores y legisladores.

La idea llega mientras John Thune y Amy Klobuchar negocian un proyecto de ley sobre seguridad de la IA que podría establecer responsabilidades para los desarrolladores y mecanismos para responder ante modelos considerados inseguros. Sin embargo, el debate todavía no define si las compañías deberían realizar las pruebas de seguridad por cuenta propia o si esa función correspondería a agencias federales con autoridad pública.

En ese punto, la iniciativa de Harris va más lejos que el proyecto discutido en el Senado, porque asigna explícitamente las evaluaciones a un organismo independiente. La propuesta se aproxima a la creación de una institución con funciones comparables a las de la Administración Federal de Aviación, una referencia incluida en una carta publicada en julio por empleados de laboratorios de IA que pidieron una supervisión externa.

El conflicto no es solamente administrativo, porque quién controla las pruebas también determina qué riesgos reciben atención y qué modelos pueden llegar al mercado. Una agencia federal podría establecer criterios comunes para distintos desarrolladores, aunque su creación exigiría que el Congreso defina facultades, presupuesto, mecanismos de transparencia y la forma de responder cuando una empresa se niegue a colaborar.

La dimensión internacional y la disputa con China

Harris vinculó la supervisión interna con una estrategia diplomática más amplia al pedir un tratado sobre los usos peligrosos de la IA, el ritmo de desarrollo y los estándares globales de pruebas. La iniciativa incluiría a China, un país que Washington considera competidor tecnológico y cuya participación complicaría cualquier acuerdo sobre límites, verificaciones y consecuencias ante posibles incumplimientos.

La propuesta enfrenta un obstáculo político evidente: en Washington existe la preocupación de que una pausa o una desaceleración pueda entregar a China el liderazgo en inteligencia artificial. Harris, en cambio, argumentó que Estados Unidos puede preservar su ventaja tecnológica y, al mismo tiempo, promover reglas de sentido común para reducir los riesgos de los sistemas más potentes.

El presidente de Estados Unidos, Donald Trump, y Xi Jinping conversaron sobre posibles salvaguardas para la IA en Pekín en mayo, pero ese diálogo no produjo un acuerdo firmado. Trump dijo posteriormente que ambos habían hablado de la posibilidad de trabajar juntos en reglas de protección. Ni Harris ni Barack Obama identificaron un mecanismo concreto para llevar a Pekín a una mesa de negociación, por lo que la propuesta internacional todavía funciona más como una orientación política que como un plan diplomático detallado.

La falta de un mecanismo de implementación también deja abiertas preguntas sobre el alcance de cualquier tratado. No está claro qué organismo verificaría los estándares, cómo se definirían los usos peligrosos ni qué ocurriría si un país acelera el entrenamiento de modelos mientras los demás intentan establecer límites coordinados.

La seguridad de la IA llega a la política

Las declaraciones de Harris se produjeron después de que Barack Obama instara a Washington a actuar de forma proactiva con propuestas concretas, leyes y regulaciones. Obama rechazó tanto la idea de acelerar sin restricciones como el pesimismo absoluto sobre la tecnología, y defendió una posición intermedia al advertir que la IA no puede volver a encerrarse en una caja.

Pete Buttigieg había planteado un día antes la necesidad de contar con un interruptor de emergencia para una IA descontrolada y calificó de peligroso que el Congreso permaneciera inmóvil. La coincidencia entre Harris, Obama y Buttigieg convirtió en cuestión de horas un debate concentrado hasta entonces en los laboratorios y el Capitolio en un asunto con potencial para influir en las primarias demócratas de 2028.

Obama también pidió a los demócratas que evalúan competir por la nominación presidencial que conviertan la IA en una prioridad. Aunque ninguno de los tres ocupa actualmente un cargo con capacidad directa para aprobar esas medidas, sus intervenciones muestran que la regulación tecnológica empieza a ocupar un espacio más visible en la conversación política nacional.

La posición de Donald Trump no equivale a un rechazo absoluto de cualquier salvaguarda: el presidente ha hablado de posibles reglas con China, mientras defiende que Estados Unidos mantenga su liderazgo tecnológico. La disputa política se centra, por tanto, en el alcance de los controles, la velocidad del desarrollo y el papel que debe desempeñar el Gobierno.

Presión desde los laboratorios tecnológicos

El debate político siguió a una semana de llamados públicos procedentes de la propia industria. Dario Amodei publicó un ensayo en el que sostuvo que el sector debe frenar, Sam Altman coincidió con esa postura el mismo día y Elon Musk la respaldó, después de que investigadores de varias compañías reclamaran la intervención del Gobierno.

La presión interna no se limita a los ejecutivos de los laboratorios, ya que empleados e investigadores también han advertido sobre riesgos extremos, incluida la posibilidad de extinción. Esas advertencias no constituyen por sí mismas una política pública, pero han contribuido a que la evaluación de seguridad deje de verse como una responsabilidad exclusivamente voluntaria de las empresas.

El proyecto negociado por Thune y Klobuchar podría convertirse en un marco legislativo importante para distribuir esa responsabilidad, aunque sus detalles todavía están abiertos y las negociaciones afrontan un punto muerto. La discusión deberá resolver si las compañías informan sus propios resultados, si una agencia valida las pruebas antes del lanzamiento o si el Gobierno obtiene autoridad para bloquear modelos después de identificar riesgos.

La propuesta de Harris añade una estructura institucional que no ocupa un lugar claro en el texto conocido del Senado. Su avance dependerá de que el Congreso y la Casa Blanca coincidan en la necesidad de establecer controles, algo que parece difícil mientras persisten las diferencias sobre la competencia con China y el riesgo de que las restricciones ralenticen a los desarrolladores estadounidenses.

Qué puede ocurrir a continuación

El siguiente paso sería convertir las demandas políticas en una propuesta legislativa con funciones precisas, financiación y límites de autoridad. Sin esas definiciones, la idea de una agencia de pruebas independientes corre el riesgo de quedarse en una consigna, especialmente porque el proyecto en negociación contempla mecanismos para responder ante modelos inseguros y un deber de diligencia para los desarrolladores.

También será necesario establecer qué significa frenar responsablemente el ritmo de desarrollo sin impedir usos beneficiosos de la IA. La discusión abarca sistemas empleados en investigación, empresas, defensa y servicios públicos, pero la información disponible no establece una lista concreta de aplicaciones que quedarían prohibidas o sujetas a autorización previa.

En el plano internacional, un tratado con China exigiría resolver primero las diferencias sobre liderazgo tecnológico y seguridad nacional. El antecedente de la conversación entre Trump y Xi muestra que existe espacio para hablar de salvaguardas, aunque la ausencia de un acuerdo firmado y de un mecanismo propuesto por Harris u Obama evidencia la distancia entre el llamado político y una negociación viable.

Por ahora, la iniciativa de Harris amplía el debate sobre quién debe vigilar la inteligencia artificial y bajo qué estándares. La combinación de presión desde los laboratorios, propuestas legislativas en el Senado, advertencias sobre riesgos extremos y diferencias entre los partidos asegura que la seguridad de la IA seguirá siendo un tema de disputa antes de que el Congreso decida si crea una nueva entidad federal.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados