Por Canuto  

Un exinvestigador de seguridad de Google DeepMind dejó la empresa y advirtió que la inteligencia artificial podría convertirse en una amenaza existencial si sus capacidades continúan avanzando más rápido que los controles diseñados para contenerlas.

***

  • Bilal Chughtai afirmó que la IA podría matar a toda la humanidad y que el tiempo para evitarlo podría estar agotándose.
  • El exinvestigador pidió que las empresas coordinen sus esfuerzos y reduzcan la velocidad de la carrera por modelos más capaces.
  • Josh Engels también dejó Google DeepMind y se incorporó a METR para evaluar desde fuera los riesgos de la IA de frontera.

 

 

Un exinvestigador de seguridad de Google DeepMind abandonó la compañía con una advertencia extrema sobre el rumbo de la inteligencia artificial: los sistemas más avanzados podrían representar una amenaza existencial para la humanidad.

Bilal Chughtai, quien trabajó en investigación sobre seguridad y alineamiento de inteligencia artificial general, sostuvo que las capacidades de estos modelos avanzan mucho más rápido que la comprensión de los investigadores sobre cómo mantenerlos bajo control. Sus declaraciones reabren el debate sobre si la competencia tecnológica está superando la capacidad de la industria para gestionar sus riesgos.

Una advertencia desde el área de seguridad

Chughtai dejó Google DeepMind en julio de 2026, según Reuters, después de desempeñarse como ingeniero de investigación y trabajar en seguridad y alineamiento de inteligencia artificial general. Durante su paso por la empresa también fue coautor de artículos de investigación, una trayectoria que sitúa sus críticas dentro de uno de los campos más especializados del desarrollo de sistemas avanzados. En una publicación posterior a su salida, afirmó que cree sinceramente que la IA tiene el potencial de matar a toda la humanidad.

El investigador explicó que la preocupación no se limita a errores aislados, respuestas incorrectas o usos maliciosos por parte de personas, sino a la posibilidad de que los sistemas alcancen capacidades difíciles de predecir y controlar. Según su planteamiento, las empresas podrían desarrollar pronto modelos capaces de superar a los humanos en una amplia variedad de tareas, mientras todavía no existe una comprensión suficiente sobre cómo conservar una supervisión confiable. Esa brecha entre capacidad y control, advirtió, podría dejar a la sociedad sin margen para reaccionar antes de un daño extremo.

La expresión utilizada por Chughtai, según la cual la sociedad podría estar quedándose sin tiempo, apunta a la velocidad del proceso y no a un calendario concreto para una catástrofe. El exinvestigador no presentó una fecha ni una predicción verificable sobre cuándo ocurriría un desenlace de ese tipo, pero sí sostuvo que evitar consecuencias irreversibles todavía es posible. Para ello, considera necesario ajustar el ritmo del desarrollo a una velocidad que permita identificar y resolver los riesgos emergentes antes de que los sistemas sean demasiado poderosos.

Su crítica se dirige especialmente a la competencia entre compañías que buscan construir modelos cada vez más capaces con rapidez. Chughtai pidió una mayor coordinación entre las empresas de IA y describió la dinámica actual como una carrera frenética, en la que cada actor puede sentirse obligado a acelerar para no quedar rezagado. Desde su perspectiva, una pausa coordinada ofrecería a los investigadores más tiempo para probar los sistemas, estudiar sus fallas y diseñar medidas de seguridad antes de ampliar sus capacidades.

Más salidas y presión por ralentizar el desarrollo

La salida de Chughtai no es un caso aislado dentro de Google DeepMind. Josh Engels, quien trabajaba en el equipo de seguridad de AGI, también dejó la compañía recientemente y se incorporó a Model Evaluation and Threat Research, conocida como METR, una organización independiente dedicada a evaluar las capacidades y los riesgos de los modelos de IA de frontera.

Engels ha señalado que existe la posibilidad de que los sistemas de inteligencia artificial causen un daño inmenso durante los próximos cinco años, aunque esa afirmación representa una evaluación de riesgo y no una predicción segura. Su traslado a METR refleja una preocupación recurrente entre investigadores de seguridad: las compañías que desarrollan los modelos pueden enfrentar conflictos entre sus objetivos comerciales, la presión competitiva y la necesidad de someter sus productos a evaluaciones críticas.

Las advertencias también coinciden con las declaraciones de otras figuras de la industria. Jacob Coxon, exinvestigador de Anthropic, dijo que renunció en parte porque algunas personas que desarrollan IA creen sinceramente que la tecnología podría matar a toda la humanidad antes del final de la década, mientras que el científico de esa empresa Evan Hubinger manifestó estar de acuerdo con esas preocupaciones y estimó una probabilidad superior al 10% de que la IA pudiera matar a todos los humanos durante la próxima década.

El debate no implica que exista consenso entre los investigadores sobre la probabilidad o el mecanismo de una catástrofe, pero sí muestra que la seguridad dejó de ser una discusión marginal dentro de los laboratorios de IA. Dario Amodei, CEO de Anthropic, ha pedido un enfoque más lento para los sistemas más avanzados, y esa posición recibió respaldo de Elon Musk y Sam Altman, CEO de OpenAI. Las posturas reflejan una tensión cada vez más visible entre acelerar la innovación y crear salvaguardas capaces de acompañarla.

Una disputa sobre velocidad, coordinación y regulación

Para Chughtai, el desafío central no consiste únicamente en mejorar los modelos, sino en desarrollar métodos que permitan entender sus decisiones y limitar sus acciones cuando sea necesario. El alineamiento busca precisamente que los sistemas actúen de acuerdo con los objetivos y restricciones definidos por sus creadores, pero el exinvestigador considera que las capacidades avanzan más rápido que las herramientas disponibles para garantizar ese resultado. En ese escenario, una falla difícil de anticipar podría tener consecuencias que no se puedan revertir con facilidad.

La propuesta de coordinar a las compañías parte de una preocupación conocida en industrias competitivas: si una empresa reduce la velocidad por razones de seguridad mientras sus rivales continúan avanzando, puede perder participación, talento o ventaja tecnológica. Esa presión puede incentivar lanzamientos prematuros y evaluaciones insuficientes, incluso cuando los equipos internos reconocen que todavía existen incertidumbres importantes. Chughtai sostiene que la respuesta debe ser colectiva, porque las decisiones de una sola empresa no eliminan los riesgos creados por todo el sector.

La discusión también alcanzó el terreno político. Donald Trump, presidente de Estados Unidos, ha descartado los llamados a imponer una mayor regulación sobre la industria de la IA y calificó el impulso regulatorio como un engaño en una publicación en redes sociales, de acuerdo con Reuters. Esa posición contrasta con las demandas de investigadores y ejecutivos que buscan más controles, aunque las fuentes no detallan una propuesta normativa específica capaz de resolver las diferencias entre ambos enfoques.

Google no respondió a una solicitud de comentarios fuera de su horario laboral habitual sobre la salida de Chughtai y sus declaraciones. Mientras tanto, la incorporación de Engels a una organización independiente refuerza la idea de que las evaluaciones externas podrían desempeñar un papel más importante a medida que los modelos de frontera aumenten sus capacidades. El debate seguirá abierto entre quienes consideran que frenar el desarrollo puede retrasar beneficios tecnológicos y quienes temen que la velocidad actual deje a la sociedad sin controles suficientes.

Qué está en juego para la industria tecnológica

Los sistemas de IA de frontera son modelos diseñados para operar con capacidades cada vez más amplias en tareas de razonamiento, programación, análisis y generación de contenido. Su evolución interesa a empresas tecnológicas, gobiernos e inversionistas porque puede transformar sectores completos, pero también plantea preguntas sobre seguridad, concentración de poder y responsabilidad cuando un sistema produce resultados dañinos. En este contexto, las advertencias de antiguos empleados tienen relevancia porque surgen de personas familiarizadas con los procesos internos de investigación.

Sin embargo, una advertencia pública no demuestra por sí sola que una catástrofe vaya a ocurrir ni establece que todos los modelos actuales sean incontrolables. Las declaraciones de Chughtai, Engels, Coxon y Hubinger expresan evaluaciones personales sobre riesgos futuros, con distintos grados de probabilidad y horizontes temporales, por lo que deben distinguirse de hechos comprobados sobre el comportamiento de un sistema concreto. La precisión en esa diferencia resulta esencial para evitar tanto la complacencia como el alarmismo.

El punto común entre las distintas posiciones es la necesidad de estudiar los riesgos antes de que las capacidades lleguen a niveles que dificulten la supervisión. Las organizaciones independientes como METR pretenden aportar evaluaciones desde fuera de los laboratorios que desarrollan los modelos, mientras los equipos internos trabajan en métodos de seguridad y alineamiento. La efectividad de ambos esfuerzos dependerá de que tengan acceso suficiente, criterios claros y capacidad para influir en las decisiones de lanzamiento.

Por ahora, el llamado de Chughtai plantea una pregunta que la industria no puede resolver únicamente con más potencia informática: ¿cuánto debe avanzar la IA antes de que sus controles sean considerados adecuados? La respuesta determinará si la competencia entre empresas continúa como una carrera sin coordinación o si se transforma en un proceso con evaluaciones, límites y responsabilidades compartidas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados