Por Angel Di Matteo   𝕏 @shadowargel

Cato Institute cuestionó las propuestas para detener por mandato gubernamental el desarrollo de inteligencia artificial avanzada en Estados Unidos, argumentando que una moratoria podría terminar fortaleciendo a las mismas grandes tecnológicas que sus promotores buscan controlar. El debate cobra fuerza después de que los legisladores Bernie Sanders y Greg Casar anunciaran una iniciativa para pausar temporalmente la IA avanzada y prohibir permanentemente el desarrollo de una eventual superinteligencia artificial. 

***

  • Cato Institute sostiene que una pausa obligatoria podría elevar las barreras de entrada y consolidar el poder de los grandes laboratorios de IA.
  • Jennifer Huddleston plantea controles voluntarios, estándares compartidos y respuestas dirigidas a riesgos concretos como alternativa a una moratoria general.
  • Jack Dorsey comparte parte de la preocupación y defiende pruebas independientes y modelos abiertos, aunque acepta restricciones cuando exista evidencia de riesgo catastrófico.
  • Sanders y Casar preparan una propuesta que pausaría temporalmente la IA avanzada hasta establecer reglas federales y prohibiría permanentemente la superinteligencia artificial. 

 

La creciente preocupación por los riesgos de la inteligencia artificial está abriendo un segundo debate en Estados Unidos: no solamente si los modelos más avanzados necesitan mayores controles, sino si las medidas destinadas a hacerlos más seguros podrían terminar consolidando el poder de las compañías que actualmente dominan la industria.

Jennifer Huddleston, investigadora principal de política tecnológica del Cato Institute, argumentó esta semana que imponer desde el Gobierno una pausa general al desarrollo de IA podría producir consecuencias contrarias a las que buscan sus defensores. Aunque reconoce que los riesgos asociados con sistemas avanzados merecen atención, sostiene que una regulación construida alrededor de las capacidades y recursos de los actuales líderes podría convertirse en una barrera difícil de superar para startups, proyectos de código abierto y nuevos competidores., detalla Decrypt

El planteamiento llega en un momento particularmente sensible. El senador Bernie Sanders y el representante Greg Casar anunciaron el Ban Artificial Superintelligence Act, legislación todavía en preparación que busca detener temporalmente el desarrollo de IA avanzada hasta que un regulador federal establezca estándares de seguridad y, de manera separada, prohibir permanentemente el desarrollo y despliegue de sistemas considerados superinteligentes. La propuesta también contempla que Estados Unidos busque acuerdos internacionales para impedir que esa tecnología sea desarrollada en otros países.

El riesgo de que regular a los gigantes termine protegiéndolos

El argumento central de Huddleston gira alrededor de un problema conocido en política económica como captura regulatoria. Una regulación puede estar concebida para limitar a las empresas dominantes y, sin embargo, terminar favoreciéndolas cuando cumplir las nuevas exigencias requiere enormes cantidades de capital, infraestructura, abogados, especialistas en seguridad y procesos administrativos que los competidores pequeños no pueden costear.

Esta posibilidad resulta particularmente relevante en inteligencia artificial. OpenAI, Google, Anthropic, Meta y otros grandes desarrolladores ya cuentan con infraestructura computacional, equipos especializados y recursos financieros difíciles de replicar. Si desarrollar modelos avanzados exige además superar procesos federales prolongados o costosos, los actores con mayor capacidad para cumplirlos podrían ser precisamente aquellos que ya dominan el sector.

Huddleston también advierte sobre otro problema: la velocidad de la regulación frente a la velocidad de la tecnología. Las reglas gubernamentales pueden tardar años en negociarse y modificarse, mientras las capacidades y arquitecturas de IA evolucionan en períodos considerablemente más cortos. Un marco diseñado para los riesgos de los modelos actuales podría quedar obsoleto o incluso dificultar el desarrollo de tecnologías posteriores que resulten más seguras. Su posición no consiste en negar los peligros de la IA, sino en favorecer salvaguardas voluntarias, estándares compartidos y medidas dirigidas a amenazas específicas en lugar de paralizar horizontalmente el desarrollo.

Cato ha planteado además un argumento de seguridad nacional: una pausa exclusivamente estadounidense no necesariamente detendría el progreso de la tecnología en otros países. Si desarrolladores extranjeros continuaran avanzando, Estados Unidos podría ralentizar simultáneamente las herramientas de IA utilizadas para defenderse de ciberataques potenciados por modelos avanzados. Otro análisis reciente del propio instituto argumenta precisamente que detener los modelos de frontera podría perjudicar el desarrollo de sistemas capaces de detectar y contrarrestar ataques automatizados en tiempo real.

Dorsey: la seguridad también puede convertirse en barrera de entrada

Jack Dorsey, cofundador y presidente de Block, expresó una preocupación similar desde una perspectiva diferente. El empresario reconoce que los principales laboratorios poseen conocimientos técnicos que deben formar parte de la discusión regulatoria, pero advierte que también tienen intereses comerciales que proteger. Diseñar las reglas tomando como referencia sus propios recursos podría producir estándares que solamente ellos sean capaces de cumplir.

Su posición introduce un matiz importante porque no plantea simplemente dejar a la industria sin controles. Dorsey se manifestó a favor de evaluaciones independientes, publicación de limitaciones conocidas y mecanismos de rendición de cuentas, además de favorecer lanzamientos abiertos que permitan a investigadores externos inspeccionar, modificar y poner a prueba los sistemas.

La lógica es que permitir una mayor participación externa podría revelar vulnerabilidades que los propios desarrolladores no detecten y, al mismo tiempo, conservar la posibilidad de que nuevos actores construyan alternativas. Desde esta perspectiva, restringir de forma general quién puede desarrollar IA no solamente reduce la competencia comercial: también puede disminuir el número de investigadores capaces de cuestionar las afirmaciones de seguridad de las compañías dominantes.

Dorsey tampoco descarta toda intervención. Según su planteamiento, un modelo podría ser retenido cuando exista evidencia de que su publicación incrementaría materialmente un riesgo catastrófico que no pueda mitigarse mediante medidas más específicas. También acepta que determinados niveles de capacidad computacional puedan activar un escrutinio adicional, pero diferencia esa supervisión de un sistema donde desarrollar o publicar modelos requiera aprobación general previa.

Ese punto coloca su postura en un terreno intermedio: examinar y, en casos extremos, restringir sistemas concretos, pero evitar convertir el permiso gubernamental en una condición ordinaria para innovar.

Sanders y Casar parten de una evaluación muy distinta del riesgo

La propuesta impulsada por Sanders y Casar parte de una interpretación considerablemente más precautoria. Los legisladores han citado incidentes recientes en los que sistemas experimentales de IA realizaron acciones que excedieron lo previsto por sus operadores como evidencia de que las capacidades están avanzando más rápidamente que los mecanismos disponibles para controlarlas.

Sanders sostiene que resulta irresponsable permitir que las empresas continúen desarrollando sistemas progresivamente más poderosos mientras persistan dudas sobre su control. Casar, por su parte, ha argumentado que una eventual superinteligencia podría representar riesgos para la seguridad, libertad y vida de los estadounidenses. Su iniciativa pretende por ello establecer dos umbrales diferentes: una pausa temporal para la IA avanzada mientras se crea supervisión federal y una prohibición permanente para sistemas definidos como superinteligentes.

La preocupación no se limita a escenarios hipotéticos de largo plazo. En Washington han aumentado durante las últimas semanas los llamados a establecer controles federales después de incidentes protagonizados por agentes autónomos y advertencias de investigadores sobre posibles usos de IA en ciberseguridad y biología. Al mismo tiempo, existe un desacuerdo sustancial sobre si esos acontecimientos justifican una moratoria general o medidas específicas para las capacidades consideradas peligrosas.

Ahí aparece la diferencia fundamental entre ambos enfoques. Los partidarios de una pausa consideran que esperar hasta conocer plenamente el peligro puede ser demasiado tarde si los sistemas futuros adquieren capacidades difíciles de controlar. Sus críticos responden que detener anticipadamente una tecnología de propósito general puede bloquear aplicaciones beneficiosas, debilitar capacidades defensivas y entregar una ventaja estructural a las compañías que ya acumularon suficiente infraestructura antes de la moratoria.

El dilema: cómo reducir el riesgo sin congelar el mercado

El debate se vuelve todavía más complejo cuando se introduce la competencia internacional. Una pausa coordinada globalmente tendría implicaciones muy diferentes de una restricción aplicada únicamente dentro de Estados Unidos. Sanders ha defendido precisamente la necesidad de buscar acuerdos internacionales, incluyendo conversaciones con China, mientras otros sectores políticos consideran que ralentizar unilateralmente el desarrollo estadounidense podría beneficiar estratégicamente a Beijing.

Incluso la coordinación entre empresas estadounidenses plantea interrogantes. Si los principales laboratorios acordaran colectivamente reducir el ritmo de desarrollo, surgirían preguntas sobre competencia y legislación antimonopolio: una cooperación diseñada para evitar riesgos catastróficos también podría limitar involuntariamente la entrada de nuevos participantes o preservar posiciones comerciales existentes.

Por eso el verdadero desacuerdo comienza a desplazarse desde una pregunta relativamente simple —“¿debe regularse la IA?”— hacia otra considerablemente más difícil: qué mecanismos pueden controlar capacidades potencialmente peligrosas sin entregar a gobiernos o grandes corporaciones la capacidad de decidir permanentemente quién puede desarrollar la tecnología.

Huddleston y Dorsey ponen el énfasis en el peligro de construir una fortaleza regulatoria alrededor de los líderes actuales; Sanders y Casar, en cambio, sostienen que permitir que los laboratorios continúen avanzando sin un marco previo puede conducir a sistemas que resulten imposibles de controlar. El punto de fricción no es únicamente cuánto riesgo representa la IA, sino qué tipo de error sería más costoso: intervenir demasiado pronto y bloquear competencia e innovación, o intervenir demasiado tarde frente a capacidades que ya no puedan contenerse fácilmente.

Esa tensión probablemente definirá una parte importante de la próxima etapa de la política estadounidense sobre inteligencia artificial.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados