Por Canuto  

Bernie Sanders y Greg Casar anunciaron que presentarán una iniciativa que prohibiría permanentemente la superinteligencia artificial, pausaría el desarrollo de los sistemas más avanzados y crearía un nuevo Departamento de Inteligencia Artificial en Estados Unidos. La propuesta, respaldada por trabajadores del sector, enfrenta un camino difícil en un Congreso controlado por los republicanos y profundiza el choque entre quienes piden salvaguardas y quienes temen perder la carrera tecnológica frente a China.
***

  • La iniciativa prohibiría los sistemas capaces de superar la capacidad cognitiva humana o de planificar la pérdida de control de la humanidad.
  • La propuesta crearía un Departamento de Inteligencia Artificial, exigiría aprobación federal para desplegar sistemas avanzados y contemplaría penas de hasta 20 años de prisión.
  • Trabajadores de OpenAI y Google DeepMind respaldan la propuesta, mientras Donald Trump y líderes tecnológicos discrepan sobre el ritmo de regulación.

Una propuesta para detener la superinteligencia

El senador Bernie Sanders y el representante Greg Casar anunciaron que presentarán una iniciativa legislativa que busca prohibir la superinteligencia artificial y establecer una autoridad federal dedicada a supervisar los sistemas más avanzados. El proyecto también plantearía una pausa temporal al desarrollo de esa tecnología, hasta que existan directrices nacionales de seguridad y mecanismos concretos para controlar sus riesgos. La propuesta llega mientras algunos líderes de la industria tecnológica solicitan salvaguardas, aunque el Congreso estadounidense todavía ha avanzado poco en una regulación amplia de la inteligencia artificial.

La iniciativa define la superinteligencia como un sistema capaz de superar la capacidad cognitiva humana o de planificar y ejecutar acciones destinadas a destruir o arrebatar el poder a la humanidad. Esa definición coloca el debate más allá de los usos actuales de asistentes conversacionales, herramientas de generación de contenido o sistemas automatizados para empresas, porque se concentra en capacidades que podrían permitir una actuación independiente del control humano. Sanders resumió su preocupación al preguntar si Estados Unidos realmente quiere desarrollar una tecnología más inteligente que las personas y con libertad para actuar por su cuenta.

La propuesta establecería de manera permanente la prohibición de desarrollar superinteligencia artificial, mientras que la pausa para otros sistemas avanzados funcionaría como una medida temporal. Durante ese periodo, el nuevo Departamento de Inteligencia Artificial tendría que elaborar reglas federales de seguridad antes de autorizar el despliegue de modelos con capacidades superiores. El esquema propuesto cambiaría la lógica vigente de la industria, en la que muchas empresas lanzan productos después de evaluaciones internas y bajo un marco regulatorio fragmentado.

Las infracciones podrían provocar sanciones severas, incluidas penas de hasta 20 años de prisión en determinados casos. La medida no se limitaría a recomendar buenas prácticas ni a exigir informes de transparencia, sino que otorgaría al Gobierno federal una función directa de aprobación sobre los sistemas de IA más avanzados. Para sus promotores, esa intervención busca evitar que la carrera comercial y geopolítica convierta la seguridad en una consideración secundaria frente a la velocidad de lanzamiento.

Respaldo desde dentro de la industria

Varios empleados actuales de grandes compañías de inteligencia artificial y especialistas en seguridad tecnológica expresaron su respaldo a la iniciativa. Juan Felipe Cerón Uribe, investigador de Safety Systems de OpenAI, sostuvo que la superinteligencia podría producir resultados extremadamente positivos o extremadamente negativos, y advirtió que la humanidad no debería tratar el desafío como un juego. Su declaración refleja una preocupación que también aparece entre investigadores que trabajan precisamente en la evaluación y reducción de riesgos de los modelos avanzados.

Swante Scholz, ingeniero de software de Google DeepMind, también apoyó el proyecto, aunque aclaró que no hablaba en representación de su empleador. Según Scholz, la trayectoria actual del desarrollo tecnológico tendría como resultado más probable una catástrofe existencial para la humanidad, por lo que consideró que una prohibición de la superinteligencia sería un cambio positivo en el futuro previsible. Estas afirmaciones representan una postura particularmente dura dentro de un debate donde incluso quienes apoyan la innovación discrepan sobre el nivel de riesgo aceptable.

El respaldo de trabajadores del sector añade una dimensión política relevante, porque muestra que la oposición a una aceleración sin límites no proviene únicamente de grupos externos a la industria. Las empresas de IA compiten por capital, infraestructura, talento y participación de mercado, pero algunos de sus empleados sostienen que ciertos avances no deberían medirse solo por su potencial económico. La tensión entre los objetivos corporativos y las advertencias de seguridad podría aumentar si los sistemas comienzan a ejecutar tareas más complejas con menor supervisión humana.

La iniciativa, sin embargo, no distingue únicamente entre modelos buenos y malos, sino que propone establecer un umbral institucional para decidir qué sistemas pueden desarrollarse y desplegarse. Esa decisión exigiría criterios técnicos capaces de determinar cuándo una herramienta supera la cognición humana o adquiere capacidades suficientes para amenazar el control social. En la práctica, el futuro Departamento de Inteligencia Artificial tendría que resolver discusiones científicas, legales y económicas que todavía no cuentan con estándares aceptados de forma generalizada.

Un choque político y geopolítico

El proyecto enfrenta probabilidades adversas en un Congreso controlado por los republicanos, donde los legisladores no han logrado consensos incluso sobre propuestas de regulación mucho menos ambiciosas. Aun así, la iniciativa permite observar cómo el ala progresista del Partido Demócrata pretende convertir la seguridad de la IA en un asunto central antes de las elecciones intermedias de noviembre y de la campaña presidencial de 2028. Casar, demócrata de Texas, preside el Caucus Progresista del Congreso y se ha convertido en una de las figuras que impulsan esa agenda.

Otros dirigentes demócratas también han buscado mostrar una posición definida ante el avance de la inteligencia artificial. Wes Moore, gobernador demócrata de Maryland, anunció un plan estatal de regulación, mientras Gavin Newsom, gobernador demócrata de California, firmó una orden ejecutiva para acelerar la aplicación de una ley que exige supervisión independiente sobre empresas de IA. Sanders, quien ha sido candidato presidencial en dos ocasiones y ahora tiene 85 años, intensificó su actividad sobre el tema durante los últimos meses.

En junio, Sanders presentó una propuesta para crear un fondo soberano financiado mediante un impuesto único a las acciones de las mayores empresas de inteligencia artificial. La semana pasada también convocó a colegas a una sesión informativa con expertos y participó en una conferencia sobre la tecnología junto con republicanos, entre ellos el exasesor de la Casa Blanca Steve Bannon. Estos movimientos muestran que la regulación de la IA está modificando alianzas políticas tradicionales, tanto dentro de Washington como entre los votantes estadounidenses.

La preocupación pública tampoco se limita a la posibilidad de que una superinteligencia pierda el control. Una encuesta de The Associated Press-NORC Center for Public Affairs Research y el Energy Policy Institute de la Universidad de Chicago encontró que 53% de los estadounidenses se sienten extremadamente o muy preocupados por los impactos ambientales de la IA, frente a 41% el año anterior. El aumento se relaciona principalmente con inquietudes entre demócratas, aunque también crece la preocupación por el efecto local de los centros de datos que alimentan la IA y la computación en la nube.

Trump, la industria y la carrera con China

Donald Trump ha mostrado poco interés en frenar los riesgos de la inteligencia artificial y, según la información publicada por Fortune, ha presionado en dirección contraria a quienes piden más supervisión gubernamental. Durante una intervención ante la Asamblea General de las Naciones Unidas, Trump afirmó que la inteligencia artificial pasaría a llamarse superinteligencia. Sanders cuestionó esa postura y dijo que el presidente parecía comprender poco el asunto, además de atribuirle una preocupación central por las consecuencias económicas de desacelerar el desarrollo.

La disputa enfrenta a Trump con figuras destacadas de la industria, como Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI. Aunque los tres empresarios representan compañías con intereses distintos, sus advertencias sobre posibles daños catastróficos han contribuido a colocar la seguridad de la IA dentro de la conversación política nacional. El desacuerdo no elimina la competencia comercial, pero sí revela que la industria tampoco mantiene una posición uniforme frente a una eventual regulación federal.

La seguridad de la IA también podría ocupar un lugar importante en las conversaciones entre Trump y el líder chino Xi Jinping en la Casa Blanca. Estados Unidos y China compiten por la supremacía tecnológica, y cualquier pausa unilateral en el desarrollo estadounidense podría ser utilizada por sus críticos como una ventaja estratégica para Beijing. Ese argumento se ha convertido en una de las principales objeciones contra restricciones amplias, porque los legisladores deben equilibrar la prevención de riesgos con la posibilidad de perder liderazgo en una industria considerada decisiva.

Sanders respondió que evitar las formas más peligrosas de la inteligencia artificial requerirá finalmente cooperación entre ambas potencias. El senador comparó el desafío con el control de las armas nucleares durante la Guerra Fría y recordó que Ronald Reagan, pese a su perfil ultraconservador, negoció con Mijaíl Gorbachov un tratado nuclear que buscaba proteger a la humanidad. La comparación apunta a un posible marco internacional, aunque el proyecto presentado por Sanders y Casar se concentra en la jurisdicción estadounidense y todavía debe superar un Congreso profundamente dividido.

El debate apenas comienza, pero la propuesta ya fija una línea de confrontación entre quienes consideran inaceptable desarrollar una inteligencia fuera del control humano y quienes temen que una prohibición debilite la posición económica y estratégica de Estados Unidos. Su viabilidad legislativa es incierta, aunque sus promotores esperan que obligue al Congreso, a las empresas y a los votantes a discutir qué límites no deberían cruzarse antes de que la tecnología los vuelva difíciles de imponer.

La iniciativa aparece en un momento en que la regulación de la IA dejó de ser una cuestión exclusivamente técnica y pasó a involucrar empleo, consumo energético, seguridad nacional y poder corporativo. Si el proyecto logra avanzar, la discusión tendrá que definir no solo qué significa superinteligencia, sino también quién puede medirla, quién autoriza su despliegue y qué responsabilidad asumirán sus desarrolladores ante un daño potencial.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.
Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados