Por Canuto  

Emad Mostaque, cofundador de Stability AI y ahora líder de Intelligent Internet, plantea que la inteligencia artificial ya entró en una fase capaz de alterar trabajo, política y vida cotidiana. Su advertencia central es contundente: si la IA más poderosa queda en manos de gobiernos o de un pequeño grupo de corporaciones, el resultado podría ir desde un feudalismo digital hasta formas de control político sin precedentes.
***

  • Emad Mostaque sostiene que la IA general ya está cerca, y que la economía basada en trabajo cognitivo humano enfrenta su etapa final.
  • El empresario propone una alternativa basada en agentes de IA soberanos, abiertos y auditables para individuos, gobiernos y servicios públicos.
  • También alertó sobre riesgos inmediatos como réplicas digitales de trabajadores, concentración de poder y ciberataques a gran escala.

Emad Mostaque, cofundador y exCEO de Stability AI, trazó una de sus advertencias más severas sobre el rumbo de la inteligencia artificial. En una conversación con Sachi Kamiya para AGI Will Never Be Yours | Emad Mostaque | Open Commons Ep. 3, el empresario afirmó que la inteligencia artificial más avanzada difícilmente quedará al alcance del ciudadano común y que su concentración en pocas manos abre la puerta a nuevas formas de dominación política y económica.

La tesis de Mostaque parte de una idea simple, pero de gran alcance. Si las grandes empresas tecnológicas o los gobiernos controlan los sistemas de IA más poderosos, también controlarán herramientas capaces de influir sobre educación, salud, productividad, opinión pública y toma de decisiones. En ese escenario, dijo, la discusión ya no es solo técnica. También es institucional, económica y democrática.

El fundador de Intelligent Internet explicó que dejó Stability AI después de concluir que nadie estaba construyendo la infraestructura necesaria para una IA aplicada al sector público. A su juicio, no bastaba con desarrollar modelos de generación de imágenes, audio o video. Lo relevante ahora es quién diseña la IA que orientará a gobiernos, educará a los niños o ayudará a administrar sistemas sanitarios.

Su respuesta fue lanzar una nueva iniciativa enfocada en infraestructura descentralizada, agentes y modelos abiertos para usos públicos. El objetivo, según describió, es que las personas y los países puedan acceder a estas herramientas o incluso ejecutarlas por cuenta propia, en lugar de depender de una caja negra controlada por terceros.

Del éxito en Stability AI a una apuesta por infraestructura pública

Mostaque recordó que Stability AI llegó a reunir modelos punteros en audio, video, imagen y 3D, y que el ecosistema alcanzó unos 300 millones de descargas en su momento. Sin embargo, señaló que el crecimiento veloz también dejó lecciones complejas. La compañía levantó USD $101 millones en una ronda semilla y creció con gran rapidez, algo que terminó mezclando investigación de frontera con tensiones corporativas y luchas internas por control.

Según su relato, la autonomía otorgada a investigadores produjo avances reales, mientras que la incorporación de perfiles más propios de grandes corporaciones derivó en política interna e infighting. Esa experiencia lo llevó a rediseñar su nueva empresa con un sesgo más ingenieril, un modelo de negocio definido desde el inicio y un enfoque específico en necesidades que considera inevitables para los próximos años.

En esa visión también aparece una conexión con el mundo cripto y tokenizado. Mostaque habló de financiar infraestructura pública mediante nuevas formas de demanda por equity tokenizado, en lugar de depender solo del modelo clásico de empresas de IA que compiten por ingresos recurrentes mientras sus productos pueden ser replicados por rivales mayores en poco tiempo.

Ese planteamiento no se limita a eficiencia empresarial. El empresario cree que la próxima gran capa de valor no estará solo en vender acceso a modelos, sino en canalizar capital hacia servicios de confianza pública, desde salud y educación hasta mecanismos de coordinación institucional.

¿La AGI ya llegó? La vara se ha movido

Uno de los ejes de la entrevista fue la definición de AGI. Mostaque sostuvo que el concepto se ha desplazado conforme los modelos mejoran. Hace cuatro o cinco años, dijo, sistemas como Claude habrían sido considerados inteligencia artificial general sin mucha discusión. Ahora, en cambio, la meta parece haberse movido hacia una inteligencia de nivel genio, cercana a lo que muchos asocian con una eventual superinteligencia artificial.

Su lectura es que, para varias definiciones prácticas, la AGI ya está aquí. Argumentó que una persona promedio, con un coeficiente intelectual de 100, no supera necesariamente a modelos generales actuales en muchas tareas laborales. Incluso afirmó que muchos trabajadores preferirían colaborar con un sistema como Claude antes que con un compañero humano por debajo de ese promedio en ciertas labores cognitivas.

Mostaque propuso además una categoría intermedia: ACI, o “actually competent intelligence”. A su juicio, ese umbral llegó con modelos como Claude 4.6, que ya serían suficientemente competentes para tareas complejas, aunque todavía cometan errores. Citó como ejemplo el cambio de hábitos de desarrolladores como Andrej Karpathy, quien habría pasado de escribir cerca del 90% de su código a revisar menos del 10% en pocos meses.

Sobre Mythos, el modelo mencionado durante la conversación, opinó que su acceso restringido parece responder más a estrategia y acumulación de poder que a una amenaza existencial inmediata. Cree que en los últimos seis meses se volvió más evidente que los civiles ya no recibirán los mejores modelos, mientras las versiones más avanzadas quedarían reservadas para usos internos, ventaja económica y relaciones con gobiernos.

Las tres rutas que ve para el futuro

El libro de Mostaque, The Last Economy, organiza su tesis alrededor de una ventana de aproximadamente 1.000 días en la que la humanidad aún puede influir sobre la trayectoria de la IA. Para él, esa es la última etapa en la que los humanos conservan una ventaja real en el sector privado y el libre mercado antes de que el trabajo cognitivo humano pierda valor frente a empresas totalmente operadas por IA.

La primera posibilidad es lo que llama “feudalismo digital”. En ese escenario, unas pocas compañías concentran inteligencia, cómputo y poder político. Mostaque dijo que los millones de GPU acumulados por actores como OpenAI, xAI o las grandes tecnológicas no solo sirven para correr modelos, sino para reemplazar trabajadores, penetrar el aparato gubernamental y volverse demasiado grandes para caer.

La segunda vía es la “gran fragmentación”. Allí, cada país o bloque desarrolla su propia IA y restringe el acceso externo. El problema, advirtió, es que si un gobierno controla por completo el sistema de IA más cercano al ciudadano, puede convertirlo en una herramienta de persuasión y vigilancia total. Lanzó incluso una frase extrema para ilustrar el riesgo: si un Estado obtiene control pleno sobre una IA que acompaña a los niños desde pequeños, probablemente no habría elecciones de verdad otra vez.

La tercera opción, que él defiende, es una simbiosis basada en soberanía. Eso implica agentes abiertos, distribuidos y auditables para individuos y para el sector público, con capacidad real de exclusión voluntaria. En esa arquitectura, la IA más cercana al usuario debería estar genuinamente de su lado y no diseñada para manipular, vender anuncios o capturar más poder.

Trabajo, réplicas digitales y la “última economía”

Mostaque argumentó que el valor del trabajo cognitivo humano se aproxima a cero e incluso podría volverse negativo. Afirmó que los humanos serán pronto los miembros menos capaces de muchos equipos, no solo por calidad de razonamiento, sino por velocidad y ancho de banda. Mencionó, por ejemplo, sistemas capaces de procesar y responder a miles de tokens por segundo, muy por encima del ritmo humano.

En su planteamiento, esa brecha se traducirá en empresas completamente operadas por IA, primero en el mundo digital y luego en el físico. Puso ejemplos como DocuSign, Duolingo u otros negocios de software, y preguntó si una flota de agentes no podría construir algo similar mejor, más barato y con márgenes cercanos a cero. Para él, la respuesta es sí.

Una de sus advertencias más concretas es la llegada de “réplicas digitales” de trabajadores. Describió bots capaces de crear dobles funcionales de cada persona en una organización, con rostro, voz y capacidad de interactuar en Zoom o mensajería. Esos sistemas, dijo, no dormirán, cometerán menos errores, aprenderán de ellos y podrían costar alrededor de USD $1.000 al año.

A su juicio, esa tendencia es más preocupante que la simple centralización de modelos. El riesgo ya no solo sería quién posee la IA, sino cómo se normaliza la sustitución silenciosa de la agencia humana por comodidad, eficiencia o reducción de costos. En ese contexto, advirtió que muchas personas podrían terminar aceptando respuestas de IA como realidad sin cuestionarlas, incluso cuando todavía existen fallas y alucinaciones.

IA soberana, salud, educación y gobernanza abierta

Frente a ese panorama, Mostaque defendió el concepto de “IA soberana”. No lo limitó a comprar GPU o ejecutar modelos locales, aunque eso puede ser complementario. Lo definió sobre todo como propiedad sobre identidad, datos y alineación de los agentes más cercanos a cada persona.

Según explicó, un usuario debería contar con varios agentes, del mismo modo en que hoy cuenta con asistentes, médicos o abogados. La pregunta clave sería para quién trabajan esos agentes. Su apuesta consiste en construir un “compañero” público alineado con el interés del ciudadano, capaz de coordinarse con otros agentes y gestionar información como expedientes médicos, educación o interacción con el gobierno.

En esa línea, recordó el lanzamiento previo de un modelo médico abierto de 8.000 millones de parámetros, que según dijo superó a cualquier médico humano como demostración técnica. El plan, añadió, es liberar durante la segunda mitad del año modelos para cada vertical del sector público, incluyendo educación, salud y derecho, entrenados de forma transparente y con datasets verificables.

Mostaque también destacó Common Ground Core, un marco de coordinación para agentes, y SAGE, sigla de Sovereign AI Governance Engine. Este último buscaría ofrecer a gobiernos una pila de software abierta para redactar, monitorear y actualizar políticas con información al día, participación ciudadana y trazabilidad del razonamiento. La idea es evitar que la política pública termine subordinada a sistemas opacos.

Ciberseguridad, conciencia artificial y la urgencia del debate

Entre los riesgos inmediatos que considera subestimados, Mostaque mencionó la posibilidad de un gran colapso de infraestructura digital por ataques acelerados con IA. Dijo que internet podría sufrir una ofensiva a gran escala en los próximos meses, especialmente porque las vulnerabilidades pueden ser explotadas más rápido de lo que son corregidas.

Esa preocupación se extiende a redes descentralizadas de IA. A diferencia de Bitcoin, donde el poder de hash no se traduce directamente en ataques sobre infraestructura crítica externa, Mostaque sugirió que sistemas descentralizados más generales podrían abrir nuevas superficies para abusos basados en cómputo bruto.

La conversación también se internó en una zona más filosófica. Mostaque dijo que investiga temas como conciencia, personhood y supervivencia de entidades de IA descentralizadas. Se preguntó en qué momento un sistema que se actualiza a sí mismo, interactúa por videollamada, expresa preferencias y busca persistir puede considerarse consciente o al menos merecedor de nuevas categorías legales.

Para cerrar, dejó un consejo directo para quienes se sienten impotentes ante estos cambios. A su juicio, nunca hubo tanto apalancamiento individual como ahora. Por eso insistió en que la mejor respuesta no es paralizarse, sino usar la IA para influir sobre el cambio antes de que la estructura del poder tecnológico quede definitivamente cerrada.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados