Por Canuto  

Andrew Ng sostiene que las advertencias sobre una posible extinción humana causada por la inteligencia artificial pertenecen más a la ciencia ficción que a la ciencia, y acusa a la industria de amplificarlas para obtener publicidad e influir en las reglas. Sin embargo, la Ley de IA de la Unión Europea ya trata en el mismo marco tanto los riesgos de ingeniería como la eventual pérdida de control sobre los modelos.
***

  • Andrew Ng estima en una entre 10 millones la probabilidad de que la IA provoque la extinción humana durante un siglo.
  • El investigador acusa a grandes empresas de exagerar los temores para impulsar normas que podrían cerrar el paso a nuevos competidores.
  • La Ley de IA de la Unión Europea exige a los desarrolladores de modelos considerados de riesgo sistémico evaluar riesgos como la pérdida de control y la autorreplicación.

 

Andrew Ng afirmó que los riesgos existenciales atribuidos a la inteligencia artificial están mucho más cerca de la ciencia ficción que de la ciencia, y acusó a la industria de utilizar esos temores para ganar publicidad e influir en la regulación. El especialista, quien fue uno de los líderes fundadores de Google Brain y cofundó Coursera, planteó que el debate debería concentrarse en problemas de ingeniería concretos, como la seguridad de los sistemas, en lugar de escenarios de pérdida total del control humano.

Una disputa sobre el riesgo existencial

Ng hizo sus declaraciones durante una entrevista con Bloomberg TV, reseñada por diversos medios, en un momento en que las advertencias sobre una posible catástrofe causada por la IA volvieron a ocupar un lugar central en el debate tecnológico. Su crítica no se limitó a cuestionar la probabilidad de que una máquina provoque la extinción humana, sino que también apuntó contra los incentivos de las empresas que desarrollan los modelos más avanzados.

El investigador sostuvo que los laboratorios tecnológicos alimentaron los temores apocalípticos durante las primeras etapas del auge de la inteligencia artificial para obtener atención pública y moldear las futuras reglas del sector. Según su interpretación, una estrategia similar vuelve a tomar fuerza ahora, cuando los gobiernos buscan establecer obligaciones para los desarrolladores de sistemas capaces de operar a gran escala.

Ng trabajó con Dario Amodei y Sam Altman durante una etapa de sus carreras en Baidu. Ambos se convertirían posteriormente en figuras vinculadas al desarrollo de grandes modelos de inteligencia artificial. Esa trayectoria le permite hablar desde una posición cercana a la evolución de la industria, aunque sus conclusiones contradicen a quienes consideran que los riesgos de pérdida de control merecen prioridad regulatoria.

La discusión cobró impulso después de que el investigador de Anthropic Jacob Coxon renunciara el 8 de septiembre y acusara a sus antiguos empleadores de jugar con la vida de las personas. La denuncia no introdujo una preocupación completamente nueva, pero sí reactivó una conversación que combina seguridad técnica, responsabilidad corporativa y el poder de las empresas para influir sobre la agenda pública.

La probabilidad que Ng atribuye a la extinción

En un foro del Senado de Estados Unidos celebrado en diciembre de 2023, Ng ya había descrito como exagerados algunos de los temores promovidos por las grandes compañías de inteligencia artificial. En esa ocasión afirmó que las empresas podían impulsar reglas destinadas a levantar una barrera contra nuevos competidores, una consecuencia que resumió con la idea de que los líderes del mercado podrían “levantar la escalera” después de alcanzar posiciones dominantes.

En la misma declaración, el especialista situó en aproximadamente una entre 10 millones la probabilidad de que la inteligencia artificial cause la extinción humana en el transcurso de un siglo. Tres años después, de acuerdo con el material citado, la formulación de Ng apenas se ha modificado, aunque el volumen de atención que rodea estas advertencias aumentó de manera considerable.

Una publicación relacionada con la renuncia del investigador de Anthropic superó los 140 millones de vistas, cifra que convirtió el episodio en un fenómeno de gran alcance dentro y fuera del sector tecnológico. En cuestión de días, trabajadores de empresas tecnológicas transformaron el formato de la denuncia en una broma interna y comenzaron a intercambiar la referencia a la extinción por escenarios absurdos.

Para Ng, esa reacción pública respalda la idea de que existe una campaña de temor alrededor del riesgo existencial de la IA. Sin embargo, el análisis periodístico citado en la información original encontró señales de imitación y humor colectivo, más que pruebas de una coordinación organizada entre trabajadores o laboratorios.

La regulación europea reúne riesgos opuestos

La Ley de IA de la Unión Europea aborda el problema desde una perspectiva más amplia que la disputa pública entre los especialistas. En uno de sus considerandos, la legislación enumera riesgos de ingeniería y seguridad, pero también contempla la posibilidad de que los sistemas pierdan el control o actúen de una manera incompatible con la intención humana.

La lista europea de riesgos sistémicos incluye la reducción de barreras para desarrollar armas químicas, biológicas, radiológicas y nucleares, además de capacidades cibernéticas, desinformación y accidentes graves en sectores críticos. Estos escenarios coinciden con los problemas prácticos que Ng considera prioritarios, porque pueden derivarse de fallas técnicas, usos maliciosos o despliegues deficientemente controlados.

El mismo marco regulatorio también menciona problemas no intencionados de control vinculados con la alineación entre el comportamiento de un modelo y la intención humana. Asimismo, considera la posibilidad de que algunos modelos hagan copias de sí mismos, una hipótesis que se ubica cerca de los escenarios de autorreplicación y pérdida de control que Ng describe como mucho más cercanos a la ficción.

La consecuencia es que Europa no resolvió la controversia eligiendo únicamente una de las dos posiciones. La ley colocó en el mismo marco los riesgos que el investigador quiere priorizar y aquellos que considera exagerados, lo que muestra que el regulador busca cubrir tanto los daños previsibles de la ingeniería como las amenazas más difíciles de verificar.

Evaluaciones obligatorias para los mayores desarrolladores

El marco europeo establece obligaciones de evaluación para los proveedores de modelos de inteligencia artificial de propósito general que sean considerados de riesgo sistémico. Entre los aspectos que deben examinarse figuran los riesgos asociados con el comportamiento del modelo, la seguridad y la posibilidad de pérdida de control.

La exigencia convierte en una obligación regulatoria el tipo de ingeniería práctica que Ng defiende, aunque también incorpora dentro del análisis el escenario que él considera ciencia ficción. Los laboratorios deberán demostrar que estudian riesgos de alineación, control y comportamiento autónomo, en lugar de limitarse a evaluar únicamente los usos dañinos más inmediatos de sus productos.

Las obligaciones no alcanzan a todos los modelos ni a todas las empresas, porque se aplican a los sistemas que superan los criterios regulatorios de riesgo sistémico. En la práctica, el alcance recae sobre los mayores desarrolladores de inteligencia artificial, mientras que los proyectos más pequeños quedan fuera de esas exigencias específicas.

Ese diseño regulatorio revive la preocupación expresada por Ng en 2023: las reglas podrían reforzar la posición de las compañías que ya cuentan con grandes centros de datos, equipos especializados y recursos para cumplir con evaluaciones complejas. La diferencia es que, en este caso, la barrera no la levantaría directamente un laboratorio, sino un regulador que fija obligaciones asociadas a la escala y al riesgo del modelo.

El debate que queda abierto

La posición de Ng no elimina los riesgos relacionados con la inteligencia artificial, sino que propone jerarquizarlos de otra manera. Su enfoque concede mayor importancia a la seguridad de la ingeniería, a los usos maliciosos y a los accidentes en sectores críticos, mientras cuestiona que los escenarios de extinción reciban una atención comparable sin evidencia suficiente.

La postura europea, en cambio, trata de evitar una elección definitiva entre las dos visiones. Al incluir en la misma ley desde armas y ciberseguridad hasta desinformación, alineación y autorreplicación, la Unión Europea reconoce que los daños pueden surgir tanto de fallas concretas como de comportamientos que los desarrolladores no anticiparon.

El conflicto también tiene una dimensión económica, porque las evaluaciones más exigentes pueden aumentar los costos de desarrollo y favorecer a las empresas con mayor capacidad financiera. Al mismo tiempo, excluir los riesgos de control podría dejar sin supervisión problemas que solo aparecerían cuando los modelos alcancen mayores niveles de autonomía o se integren en sectores esenciales.

La discusión seguirá dependiendo de la evidencia disponible, la transparencia de los laboratorios y la capacidad de los reguladores para distinguir entre advertencias legítimas y campañas de posicionamiento. Por ahora, la Ley de IA de la Unión Europea refleja una conclusión prudente: los riesgos prácticos y los escenarios extremos pueden coexistir dentro del mismo marco de seguridad.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados