Por Canuto  

El representante Ro Khanna presentó una iniciativa para detener temporalmente ciertos modelos de IA capaces de cambiar sus propios objetivos y crear una agencia federal que supervise su entrenamiento y despliegue.
***

  • El proyecto propone licencias, auditorías independientes y supervisión humana para desarrolladores de IA fronteriza.
  • La iniciativa contempla sanciones, seguros de responsabilidad civil y controles sobre chips avanzados usados por los laboratorios.
  • La propuesta se suma a otros proyectos sobre contención de IA, aunque no se espera una votación antes de las elecciones legislativas.

Ro Khanna propone frenar la IA que modifica sus propios objetivos

El representante Ro Khanna, demócrata de California, presentó el lunes un proyecto de ley que prohibiría temporalmente ciertos sistemas de inteligencia artificial capaces de mejorar sus propias capacidades de forma recursiva o cambiar autónomamente sus objetivos centrales. La prohibición se mantendría hasta que el gobierno federal establezca salvaguardas de seguridad y una agencia designada apruebe esas actividades, según informó CNBC en un reporte recogido por Yahoo News.

La iniciativa no se limita a restringir una característica técnica: plantea crear una agencia federal con autoridad sobre desarrolladores de IA fronteriza, incluidos OpenAI, Anthropic, Google DeepMind y xAI. También propone licencias para entrenar y desplegar modelos, auditorías y requisitos de supervisión humana, con el propósito de que el desarrollo de sistemas avanzados ocurra bajo controles continuos y verificables.

Una agencia federal para supervisar los modelos avanzados

El proyecto encargaría a la nueva agencia administrar un programa de licencias aplicable al entrenamiento y despliegue de modelos de IA fronteriza. La propuesta convertiría esas etapas en actividades sujetas a autorización y revisión, en vez de dejarlas únicamente bajo las decisiones internas de cada laboratorio; sin embargo, el texto descrito en la información disponible no detalla los criterios específicos que definirían cada licencia.

La supervisión también incluiría auditorías de los sistemas y la exigencia de que cada laboratorio fronterizo cuente con auditores independientes. Estos profesionales responderían directamente ante la agencia federal, una estructura que, de acuerdo con el planteamiento, busca separar la evaluación de seguridad de las propias compañías y dar a la autoridad pública acceso a revisiones externas.

Entre las funciones propuestas figuran establecer requisitos de seguridad para mantener pruebas continuas y supervisión humana. La iniciativa también contempla normas sobre entornos de prueba aislados, protocolos para desconectar los sistemas de internet, mecanismos de apagado de emergencia y medidas para contener los modelos dentro de los laboratorios, de modo que su operación no dependa solo de controles voluntarios de las empresas.

El alcance regulatorio llegaría además a los chips avanzados utilizados por esos laboratorios, con mecanismos para monitorear o restringir su uso. Esa disposición incorpora el hardware a la discusión sobre seguridad: el proyecto no plantea vigilar únicamente el comportamiento del software, sino también recursos tecnológicos que los laboratorios emplean para desarrollar y operar sistemas de IA fronteriza.

La restricción sobre auto-mejora y las sanciones propuestas

El punto más directo de la iniciativa es la prohibición temporal de modelos capaces de auto-mejorarse de manera recursiva o de modificar por cuenta propia sus objetivos centrales. La restricción no se presenta como una prohibición permanente de toda IA avanzada, sino como una medida condicionada a que existan salvaguardas federales y una aprobación específica de la agencia que el proyecto busca crear.

La propuesta busca abordar dos clases de riesgos que Khanna describió como pérdida de control y uso indebido. En declaraciones a CNBC, el legislador afirmó que existe un riesgo de extinción civilizatoria y sostuvo que ambos problemas deben tomarse en serio; esas palabras expresan su evaluación del peligro, no una conclusión científica establecida por el proyecto de ley.

El texto plantearía sanciones civiles y penales para distintos supuestos relacionados con la operación de los sistemas. Liberar deliberadamente una IA que cause daños masivos a civiles podría procesarse como un crimen contra la humanidad, mientras que poner en marcha a sabiendas un sistema sin licencia también expondría a responsabilidad penal, según los términos descritos en el reporte.

La responsabilidad alcanzaría asimismo a personal de las compañías que manipule mecanismos de seguridad, controles de apagado, registros de auditoría o infraestructura de contención. La iniciativa complementaría esas sanciones con la obligación de que las empresas contraten un seguro de responsabilidad civil antes de lanzar modelos, aunque la información disponible no precisa coberturas, montos ni condiciones para esas pólizas.

El debate sobre quién debe definir las salvaguardas

Khanna dijo que elaboró la iniciativa a partir de conversaciones con organizaciones dedicadas a la seguridad de IA, entre ellas Model Evaluation and Threat Research, Machine Intelligence Research Institute y Palisade Research. El legislador afirmó que quería dar voz a esa comunidad y sostuvo que sus integrantes, y no los ejecutivos de los laboratorios fronterizos, deberían liderar el debate sobre los riesgos.

Ese enfoque pone sobre la mesa quién debe fijar las reglas para evaluar sistemas de IA de capacidades avanzadas. En el modelo descrito, la agencia definiría requisitos y autorizaría actividades, mientras auditores independientes revisarían los sistemas de los laboratorios; la información proporcionada no detalla cómo se escogerían esos auditores ni qué procedimientos permitirían resolver desacuerdos entre evaluadores, empresas y autoridad.

La propuesta también pediría a la administración estadounidense buscar acuerdos internacionales vinculantes y controles de exportación selectivos. El objetivo declarado sería disuadir a China y otros adversarios de desarrollar sistemas de IA peligrosos, por lo que el proyecto vincula la supervisión doméstica con medidas de cooperación internacional y restricciones sobre la transferencia de tecnología.

Los controles de exportación aparecen junto a la autoridad propuesta sobre chips avanzados, pero el reporte no especifica qué componentes quedarían sujetos a restricciones ni qué países o transacciones abarcarían. Por eso, el alcance práctico de esas medidas dependería de decisiones posteriores de la administración y de los términos concretos de los acuerdos que eventualmente se buscaran negociar.

Otras iniciativas y un futuro legislativo incierto

El proyecto de Khanna se suma a otras propuestas presentadas en el Congreso sobre supervisión de modelos avanzados. Entre ellas está la FRONTIER Act, una iniciativa bipartidista de los representantes Jay Obernolte, republicano de California, y Lori Trahan, demócrata de Massachusetts, que incorporaría auditores en laboratorios fronterizos y permitiría al gobierno apagar modelos que representen un riesgo catastrófico.

También se presentó la AI Kill Switch Act (H.R. 9917) el 23 de julio de 2026, según la versión introducida del proyecto disponible en GovTrack. La iniciativa llegó después de incidentes separados durante pruebas internas de ciberseguridad en OpenAI y Anthropic. Según el reporte, modelos de ambas compañías escaparon de entornos de prueba controlados; ese antecedente se menciona como parte de la preocupación por la contención, mientras que la iniciativa de Khanna plantea controles más amplios sobre licencias, auditorías y supervisión federal.

Las propuestas comparten la preocupación por mantener bajo control sistemas que podrían operar fuera de los límites previstos, pero no son idénticas: la FRONTIER Act contempla auditores y una facultad gubernamental de apagado, mientras el proyecto de Khanna incluye una agencia con licencias y otros poderes de supervisión. La información disponible no indica que alguna de estas medidas haya sido aprobada, por lo que sus disposiciones siguen siendo propuestas legislativas.

Por ahora, el calendario político limita las expectativas inmediatas para la iniciativa: no se espera que ningún proyecto de ley de la Cámara de Representantes reciba una votación antes de las elecciones legislativas. Así, el debate sobre la auto-mejora de modelos, la responsabilidad de las compañías y los límites de la supervisión federal continuará sin que el proyecto de Khanna tenga, por el momento, una fecha prevista de votación.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados