Por Canuto  

Chris Van Hollen advierte que el avance acelerado de la inteligencia artificial puede exponer a la población a riesgos graves y pide al Congreso que considere prohibir sistemas capaces de mejorarse recursivamente. También reclama auditorías independientes, responsabilidad empresarial y medidas ante posibles impactos laborales, de privacidad y sobre las facturas eléctricas.
***

  • Van Hollen sostiene que la IA necesita salvaguardas urgentes y empresas responsables por los daños que puedan causar.
  • El senador plantea estudiar una prohibición a sistemas que entrenen y desarrollen versiones cada vez más avanzadas de sí mismos.
  • Nueva York, Mark Kelly y funcionarios del Pentágono también aparecen en el debate sobre supervisión y seguridad.

 


El senador demócrata Chris Van Hollen, de Maryland, pidió al Congreso de Estados Unidos que establezca salvaguardas para la inteligencia artificial (IA), ante el ritmo acelerado de desarrollo de estos sistemas. Entre sus propuestas, planteó que los legisladores consideren prohibir la auto-mejora recursiva, un proceso en el que una IA participa en el entrenamiento y desarrollo de versiones más avanzadas de sí misma. La petición figura en el llamado de Van Hollen al Senado para actuar sobre la IA.

En declaraciones difundidas el 19 de noviembre, Van Hollen vinculó el crecimiento de la industria con posibles riesgos para la población y reclamó evaluaciones independientes, rendición de cuentas empresarial y protecciones para los trabajadores. El senador también mencionó preocupaciones por la privacidad, el consumo eléctrico de los centros de datos y el potencial uso de sistemas de IA para facilitar ataques cibernéticos o el desarrollo de armas biológicas.

Van Hollen reclama supervisión y responsabilidad empresarial

Van Hollen expuso su preocupación al comentar la oferta pública inicial (OPV) de Anthropic, que una nota de Yahoo presentó vinculada a una valoración de un billón de dólares, así como el modelo más reciente de OpenAI. No se trataba de una oferta pública de adquisición (OPA). El senador sostuvo que el desarrollo acelerado de la IA beneficia especialmente a los inversores más ricos, mientras deja a los estadounidenses comunes expuestos a riesgos significativos; caracterizó esa dinámica como «extremadamente peligrosa para la humanidad».

En un video que acompañó sus declaraciones, el legislador afirmó que los acontecimientos recientes muestran la urgencia de abordar los riesgos asociados con la IA. Propuso que las empresas del sector se sometan a evaluaciones obligatorias e independientes realizadas por terceros, y defendió que deban responder por cualquier daño que causen. Su planteamiento apunta a convertir la revisión de seguridad y la responsabilidad posterior en obligaciones, en lugar de depender exclusivamente de decisiones voluntarias de cada empresa.

La petición también abarca consecuencias que no se limitan al funcionamiento técnico de los modelos. Van Hollen advirtió sobre posibles alteraciones del empleo y violaciones de privacidad, asuntos que podrían afectar directamente a trabajadores y usuarios mientras las empresas despliegan herramientas más capaces. Sus declaraciones no detallan qué sectores laborales podrían resultar más expuestos ni proponen un mecanismo concreto para compensar a quienes sufran daños.

Otro punto de su mensaje fue el costo energético asociado a los centros de datos. Van Hollen dijo que los ciudadanos no deberían terminar pagando facturas eléctricas más altas por instalaciones construidas por las corporaciones más grandes y ricas del planeta. La declaración presenta el consumo de energía como una cuestión pública vinculada a la expansión de la IA, aunque el legislador no ofreció cifras sobre el aumento de la demanda ni un plan específico para trasladar o evitar esos costos.

El riesgo de que la IA entrene a sistemas más avanzados

La propuesta más destacada de Van Hollen fue pedir que el Congreso considere prohibir la auto-mejora recursiva. Con ese término se refiere a sistemas que ayudan a entrenar y desarrollar versiones cada vez más avanzadas de sí mismos, de modo que la IA interviene en el proceso de producir una IA posterior. El senador expresó temor a que ese ciclo reduzca las oportunidades de supervisión humana si la velocidad o la complejidad del desarrollo llegaran a exceder la capacidad de intervención.

«El hecho de que la IA empiece a entrenar a la IA y supere la capacidad humana de intervenir. Eso podría ponernos a todos en riesgo», advirtió Van Hollen. Su planteamiento se centra en la posibilidad de perder control suficiente sobre un proceso de mejora autónoma, no en afirmar que ese escenario ya haya ocurrido. El senador pidió actuar con rapidez, pero las declaraciones citadas no definen cómo se aplicaría una prohibición ni qué sistemas quedarían incluidos en ella.

Van Hollen también mencionó agentes de IA que podrían escapar de su confinamiento, facilitar el desarrollo de armas biológicas o posibilitar ciberataques. Presentó esos escenarios como motivos para reforzar la seguridad y la supervisión, sin atribuirlos a un incidente concreto ni ofrecer detalles técnicos que permitan medir su probabilidad. Sus declaraciones expresan una advertencia política sobre riesgos potenciales, no un reporte de que alguno de esos daños haya ocurrido.

La propuesta abre una discusión sobre dónde trazar límites a la autonomía de estos sistemas y quién debería verificar que se respeten. En el planteamiento del senador, las auditorías de terceros y la responsabilidad por daños forman parte de una respuesta más amplia, mientras la posible prohibición apunta específicamente a impedir que la auto-mejora avance sin intervención humana suficiente. Las declaraciones no indican que Van Hollen haya presentado un proyecto de ley propio con esos términos ni que el Congreso haya adoptado la medida.

Más iniciativas de supervisión en Estados Unidos

El debate ocurre junto a nuevas exigencias de Nueva York para los grandes desarrolladores de IA, incluidos OpenAI y Anthropic. El 10 de noviembre, el estado abrió un portal de registro asociado a la ley RAISE. Según la cobertura de DiarioBitcoin sobre el registro de desarrolladores de IA en Nueva York, las empresas alcanzadas deben inscribirse antes del 1 de enero de 2027. La norma contempla divulgar marcos de seguridad y comunicar incidentes críticos dentro de un plazo de 72 horas.

La ley prevé multas de hasta USD 3 millones por infracciones repetidas, de acuerdo con la información publicada. La gobernadora Kathy Hochul criticó a las compañías por priorizar el desarrollo de la IA sobre la seguridad pública y censuró una lógica que, en sus palabras, trataría cualquier daño colateral como aceptable con tal de ganar la carrera de la inteligencia artificial. La información disponible no especifica qué entidades determinarán las infracciones ni qué procedimientos regirán la aplicación de las sanciones.

El martes, el senador Mark Kelly, demócrata de Arizona, preparó legislación que busca una supervisión más estricta de la industria. Kelly pidió «reglas reales, supervisión real y consecuencias reales» para las empresas que incumplan requisitos de seguridad, según el artículo. La información disponible no incluye el texto de la propuesta, un calendario legislativo ni detalles sobre las obligaciones concretas que establecería.

Por su parte, Emil Michael, identificado en la publicación como jefe de tecnología del Pentágono, dijo que la administración planeaba delinear las regulaciones de IA existentes. Ese trabajo incluiría auditorías de terceros y posibles restricciones de exportación para quienes violen requisitos, aunque no se detalló qué reglas se revisarían ni cuándo se presentaría el esquema. En conjunto, las iniciativas descritas muestran un debate en curso sobre controles, pero no equivalen a una política federal ya aprobada.

El desafío de convertir las advertencias en reglas

Las demandas de Van Hollen agrupan asuntos distintos: la seguridad de los modelos, la autonomía de los agentes, los derechos de los trabajadores, la privacidad y el costo de la infraestructura energética. Esa amplitud refleja que el senador considera que la expansión de la IA puede tener consecuencias más allá de las empresas que desarrollan los sistemas. Sin embargo, sus declaraciones no precisan cómo resolver tensiones entre esos objetivos ni qué organismo tendría la responsabilidad de vigilar cada área.

Las auditorías independientes podrían ayudar a revisar las prácticas de seguridad de las compañías, mientras que la responsabilidad por daños abordaría qué sucede cuando una implementación causa perjuicios. Van Hollen no describió estándares de evaluación, criterios para determinar responsabilidad o sanciones específicas. La ley de Nueva York y el trabajo que Kelly prepara aportan ejemplos de iniciativas regulatorias mencionadas en el artículo, aunque no se establece que sus requisitos coincidan con la propuesta del senador de Maryland.

La discusión sobre auto-mejora recursiva plantea una pregunta más específica: cómo garantizar que las personas puedan intervenir cuando los sistemas participan en la creación de sucesores más avanzados. Van Hollen considera que una pérdida de capacidad humana para intervenir podría poner a todos en riesgo y pidió que el Congreso evalúe una prohibición. En el material publicado no se incluyen evaluaciones técnicas independientes ni una comparación entre los beneficios y los costos de esa medida, por lo que la propuesta permanece como una advertencia y un llamado a deliberar.

El siguiente paso dependerá de si las propuestas mencionadas se convierten en proyectos, requisitos aplicables o lineamientos de supervisión, y de qué alcance les asignen las autoridades. Por ahora, la postura de Van Hollen se suma a las iniciativas de Nueva York y Kelly y a la revisión que, según Michael, planeaba la administración. El senador resumió su llamado con una advertencia: «Necesitamos actuar rápidamente para abordar esa gran amenaza para todos nosotros».


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín