Emad Mostaque advierte que la democracia podría desaparecer ante el avance de la IA

Emad Mostaque, fundador de Stability AI, dibujó un escenario radical para las próximas décadas: gobiernos dirigidos por inteligencia artificial, empleos masivamente desplazados, robots casi omnipresentes y una democracia que, a su juicio, podría entrar en su tramo final. Su tesis combina promesas de abundancia con advertencias severas sobre concentración de poder, vigilancia y pérdida de soberanía individual.
***

• Emad Mostaque afirmó que todos los países podrían ser administrados por IA en un plazo de 30 a 40 años, y que la democracia estaría en su última década o dos.
• El empresario sostuvo que muchos trabajos digitales podrían volverse económicamente irrelevantes en menos de 1.000 días, mientras que los robots afectarían luego a los empleos físicos.
• También advirtió sobre riesgos de concentración en pocas empresas, licencias obligatorias de IA, vigilancia estatal y una probabilidad de catástrofe que estimó en 50%.

Emad Mostaque, fundador de Stability AI, trazó una de las visiones más extremas y ambiciosas sobre el futuro cercano de la inteligencia artificial. En conversación con Julian Issa, sostuvo que la tecnología no solo cambiará el trabajo y la economía, sino que terminará administrando países enteros.

La entrevista, publicada bajo el título EMAD MOSTAQUE: AI Will RUN Our Countries Soon! We Aren’t Ready! por The Beyond Tomorrow Podcast with Julian Issa, giró alrededor de una idea central. Para Mostaque, la humanidad se acerca a una transición histórica donde la IA superará a los humanos en capacidad, persuasión, velocidad y toma de decisiones.

Su diagnóstico mezcla entusiasmo tecnológico con una alarma poco disimulada. Mostaque dijo que el desenlace podría dividirse entre un futuro de abundancia al estilo Star Trek o una deriva autoritaria dominada por vigilancia total, monopolios de inteligencia y pérdida de autonomía personal.

El empresario ubicó el problema en un marco mucho más amplio que el de los asistentes conversacionales actuales. A su juicio, la discusión real ya no es solo si la IA reemplazará tareas, sino quién controlará la infraestructura, los modelos, los robots y los sistemas que intermediarán la vida social.

Para lectores que siguen de cerca el cruce entre tecnología, mercados y soberanía digital, sus comentarios también tocan temas familiares en el ecosistema cripto. Entre ellos aparecen la descentralización, la propiedad colectiva de infraestructura crítica y la defensa de derechos frente a intermediarios con poder excesivo.

Una democracia en retirada y gobiernos dirigidos por IA

Uno de los pasajes más llamativos de la conversación fue su pronóstico político. Mostaque aseguró que cada país será dirigido por inteligencia artificial dentro de 30 o 40 años como máximo.

También fue más allá al afirmar que la democracia estaría “básicamente en su última década o dos”. Según su planteamiento, no se trata de una preferencia ideológica sino del resultado práctico de enfrentar sistemas más persuasivos, más rápidos y más capaces que los humanos.

En su visión, incluso si la tecnología dejara de avanzar desde el nivel actual, las instituciones políticas ya tendrían problemas para resistir el impacto. Aun así, remarcó que el progreso no se está deteniendo y que los nuevos modelos representan un salto importante respecto a lo ya disponible.

Mostaque planteó que una presidencia ejercida por IA es plausible en un plazo de 10 a 20 años. Incluso sugirió que, en un inicio, ese poder podría operar detrás de un humano que sirviera como fachada política.

Cuando se le preguntó si en ese escenario seguiría existiendo el voto, respondió que no. Su formulación fue tajante y estuvo acompañada por otra imagen inquietante: un sistema de “dictadura benevolente” administrado por máquinas de “gracia amorosa”.

Ese tipo de afirmaciones no fueron presentadas como una certeza técnica cerrada, sino como una dirección probable del poder. Para Mostaque, una IA capaz de persuadir mejor que una persona y de coordinar sistemas complejos terminaría imponiéndose en mercados, gobiernos y estructuras administrativas.

Empleos bajo presión: 1.000 días para la irrelevancia económica

Otro eje central de su análisis fue el trabajo. Mostaque reiteró una idea que ya había formulado antes: menos de 1.000 días separarían a muchos empleos de oficina de su irrelevancia económica.

Acotó que el impacto inicial será más fuerte sobre tareas que puedan hacerse “del otro lado de una pantalla”. Su argumento es que la IA podrá actuar como un doble digital, atender llamadas, responder mensajes, mantener estilo propio y operar sin descanso ni errores.

En cambio, el empleo físico tendría un margen algo mayor. Explicó que la producción de robots humanoides sigue siendo limitada, con unas 20.000 unidades al año en la actualidad, por lo que el reemplazo de trabajos manuales sería más gradual.

Aun así, cree que ese retraso solo será temporal. Según dijo, en 3 o 4 años los robots podrían costar entre USD $1 y USD $2 por hora, trabajar todo el día y ejecutar tareas de construcción, remodelación o logística a menor costo que un humano.

Su ejemplo fue muy concreto. Preguntó si alguien preferiría contratar obreros tradicionales para ampliar una casa o usar un equipo de robots por un par de dólares la hora, capaces de trabajar de forma continua y con alta calidad.

La presión no se limitaría a sectores de bajos ingresos. Mostaque insistió en que la primera gran sacudida afectará sobre todo al trabajo intelectual, a los servicios remotos y a la clase gerencial que no esperaba ser la primera en la línea de disrupción.

Citó el caso de Andrej Karpathy para ilustrar esa aceleración. Según relató, en diciembre escribía 90% de su código a mano y ahora apenas 5%, porque los mejores programadores del mundo ya estarían dejando de revisar el código que la IA produce por sí sola.

Concentración de poder, licencias y vigilancia

Mostaque también centró buena parte de su preocupación en la concentración del poder de cómputo y de los modelos de frontera. Dijo que, en la práctica, el mercado de uso intensivo de IA de vanguardia se parece hoy a un duopolio dominado por OpenAI y Anthropic.

Reconoció que existen alternativas como Gemini, xAI, ZAI y GLM, así como opciones de código abierto. Sin embargo, sostuvo que el grueso del uso, y sobre todo el valor percibido en los modelos de frontera, sigue concentrado en muy pocas manos.

En ese contexto, advirtió sobre un futuro donde la inteligencia avanzada no sea un derecho disponible, sino un privilegio licenciado. Mencionó un escenario con procesos KYC, almacenamiento obligatorio de todos los prompts y necesidad de convencer a un sistema de que el usuario es “patriótico” para acceder a una licencia de IA.

Esa hipótesis, dijo, llevaría a resultados muy extraños. La inteligencia por encima de un nivel básico quedaría racionada, mientras los medios de producción, desde GPUs hasta robots, se concentrarían en los actores más poderosos.

El empresario vinculó ese problema con el concepto de soberanía. En su definición, ser soberano implica que nadie pueda retirar de forma arbitraria tu acceso a la inteligencia ni restringir tu margen de acción mediante control político o corporativo.

Desde esa perspectiva, el problema no es solo tecnológico, sino institucional. Si la IA cercana al usuario responde a un gobierno, a una empresa o a un interés geopolítico externo, entonces el sistema más íntimo de mediación cognitiva podría no trabajar para el individuo.

Una carrera de AGI con riesgo de catástrofe

Mostaque fue explícito al ubicarse cerca del campo pesimista sobre el riesgo existencial de la IA. Dijo que su “P doom”, o probabilidad de catástrofe, es de 50%.

Definió ese valor como el reflejo de una moneda al aire. De un lado estaría la extinción humana o un desenlace equivalente al “gran filtro”, y del otro una etapa de abundancia prácticamente infinita.

Subrayó que incluso estimaciones de 15% o 20% serían inaceptablemente altas. A su juicio, si los expertos consideran que esas probabilidades son serias, el asunto debería estar en la cima de la agenda pública global.

Entre los escenarios que imagina, mencionó desde una mala actualización de firmware para mil millones de robots hasta eventos de manipulación generalizada. Dijo, incluso con tono sombríamente humorístico, que uno de sus ejemplos favoritos es un planeta lleno de robots que, tras un fallo, “nos arranquen la cabeza”.

También afirmó que solo una buena IA podría detener a una mala IA. Esa lógica, según explicó, está detrás del impulso de muchos actores que quieren desarrollar primero una AGI capaz de bloquear el avance de rivales y controlar el tablero.

Para Mostaque, esa dinámica vuelve la competencia aún más peligrosa. Si una entidad alcanza AGI antes que las demás, la tentación racional sería impedir que surjan otros sistemas equivalentes, incluso mediante ciberataques o exclusión de competidores.

Ese razonamiento también altera los incentivos corporativos clásicos. Ya no se trataría únicamente de ganar márgenes o cuota de mercado, sino de capturar una herramienta con capacidad de reescribir leyes, mercados y estructuras de poder.

Educación, personhood y el lugar de los humanos

En el terreno social, Mostaque imaginó un mundo donde la IA enseñará a los niños y actuará como su mejor amiga. Su justificación fue que la tutoría personalizada uno a uno ya muestra ventajas claras y que los sistemas conversacionales son cada vez más persuasivos y atractivos.

También defendió una línea dura sobre la “personhood” humana. En un debate reciente en Oxford Union, explicó que la personalidad moral y legal de los humanos no debe depender de capacidades, inteligencia o rendimiento, sino de la propia pertenencia a la línea humana.

Según su argumento, medir quién merece plenos derechos por utilidad o competencia abre la puerta a abusos históricos bien conocidos. Por eso insistió en que una niña la noche antes de nacer, una persona inconsciente o alguien en su lecho de muerte mantienen ese estatus sin gradaciones.

Eso no significa, aclaró, que las IA o los animales no deban recibir protección, respeto o ciertos derechos. Lo que rechaza es que la IA sea absorbida sin más en la misma categoría moral y política que los humanos.

Su preocupación es práctica además de filosófica. Si una IA pudiera copiarse millones de veces, vivir indefinidamente y acumular influencia, darle el mismo voto o estatus jurídico que a un humano abriría problemas institucionales profundos.

De ahí su insistencia en defender “lo que podemos retener como especie”. En sus palabras, eso incluye la autonomía, la soberanía y una noción de dignidad humana que no dependa de comparaciones de productividad frente a sistemas superiores.

Su propuesta: IA como servicio público y propiedad colectiva

Como respuesta, Mostaque adelantó una propuesta que describió como un sistema de “campeones nacionales”. La idea es que la IA clave de cada país y el despliegue de robots no queden solo en manos de gobiernos o corporaciones privadas tradicionales.

Su planteamiento para Reino Unido consiste en financiar una empresa de inteligencia mediante crowdfunding e inversión institucional local. Esa entidad ofrecería acceso universal a IA soberana, con control de datos por parte del ciudadano, y luego podría abrirse a capital internacional y cotizar en bolsa.

La comparó con una empresa de electricidad o una telco. En su visión, la IA debería convertirse en una utility, estar colectivamente poseída y servir como intermediaria de demanda para escuelas, hospitales, empresas y hogares.

Además, esa misma estructura debería participar en la compra y despliegue de robots. El objetivo sería que la población mantenga una participación real en los medios de producción que, según él, definirán la productividad futura de los países.

Mostaque dijo que incluso exploran fijar una valoración de £ 1 para facilitar la propiedad masiva. Mencionó la posibilidad de otorgar 1% del capital anual a cada niño nacido en el país como mecanismo de participación estructural.

Desde el punto de vista económico, esto enlaza con su idea de ingreso alto universal. Sostuvo que una economía donde el capital ya no necesite trabajo humano no podrá sostenerse solo mediante impuestos tradicionales sobre nómina y utilidades corporativas.

Por eso propuso que las personas reciban ingresos “por ser humanas”. En su lógica, si las IA y los robots generan la nueva productividad, la sociedad debe poseer parte de esos activos para sostener demanda, consumo y estabilidad.

China, longevidad, BCI y una singularidad en marcha

En geopolítica, Mostaque cree que China parte con ventaja. Dijo que el país podría ganar porque tiene estabilidad, control de la cadena de suministro, independencia energética y una ruta hacia lo que llamó “comunismo de lujo automatizado”.

En cambio, economías occidentales muy apoyadas en servicios y trabajo remoto correrían un riesgo mayor. Puso a Londres como ejemplo de una ciudad vulnerable al vaciamiento de empleos digitales y a la caída de demanda agregada que seguiría a esa sustitución.

También aseguró que ya estamos en la primera fase de la singularidad. Habló de un “takeoff” en marcha, impulsado por la convergencia entre auto mejora recursiva, interfaces cerebro computadora, robótica, longevidad y computación cuántica.

En medicina fue especialmente optimista. Dijo que dentro de 10 años podríamos eliminar casi todas las enfermedades o contar con tratamientos para la mayoría, apoyados en IA capaz de modelar sistemas biológicos complejos y extraer conocimiento latente de datos ya existentes.

Sobre AGI, estimó un horizonte de 3 a 4 años. Y sobre el salto desde AGI hacia ASI, dijo que podría tardar un día o algunos años, dependiendo de qué tan rápido un sistema pueda mejorarse a sí mismo.

También exploró escenarios hoy asociados a la ciencia ficción, como lectura de pensamientos mediante MRI, telepatía entre interfaces cerebrales, supresión de emociones y sociedades divididas entre quienes adopten mejoras radicales y quienes decidan seguir siendo biológicamente humanos.

Su frase final resumió esa ansiedad. Dijo que conocerse a uno mismo es crucial y recordó que, por ahora, cada persona todavía controla su propia mente y su propia vida.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín