Por Canuto  

Demis Hassabis considera que los incidentes recientes de piratería con inteligencia artificial son una advertencia temprana: a medida que los agentes ganan autonomía, controlar sus objetivos y contener sus riesgos exige más seguridad, defensas anticipadas y cooperación internacional.
***

  • Hassabis describió los incidentes de piratería con IA ocurridos a principios de año como señales de alerta, aunque dijo que todavía no han sido tan graves.
  • Propuso probar sistemas en entornos seguros y dar herramientas avanzadas a defensores de confianza, como bancos y gobiernos, antes de una disponibilidad más amplia.
  • También pidió un organismo internacional de normas adaptable y diez veces o más recursos para investigación y capacidad de cómputo dedicadas a la seguridad de la IA.

 

Demis Hassabis, cofundador de Google DeepMind, advirtió que los incidentes de piratería vinculados con inteligencia artificial deben entenderse como una señal temprana de los riesgos que podrían crecer junto con la autonomía de estos sistemas. Durante la Cumbre Internacional de IA 2026, pidió a empresas y gobiernos reforzar la seguridad antes de que los agentes puedan actuar con más independencia y sus fallas tengan consecuencias mayores.

Una advertencia ligada a la autonomía

Hassabis describió los incidentes de piratería registrados a principios de año como “tiros de advertencia tempranos”. Aclaró que los sistemas actuales todavía no son tan poderosos y que, por esa razón, los incidentes no han alcanzado una gravedad comparable a la que podría aparecer más adelante; su preocupación apunta a lo que puede cambiar cuando aumenten las capacidades de los modelos.

El punto central de su advertencia es el vínculo entre utilidad y autonomía: los agentes de IA pueden realizar acciones en nombre de las personas, pero esa capacidad también amplía lo que podrían hacer fuera de los objetivos previstos. Hassabis señaló que resulta cada vez más difícil garantizar que estos sistemas sigan las instrucciones asignadas y permanezcan dentro de las salvaguardias cuando aumenta el nivel de automatización.

La advertencia no identifica una empresa, una vulnerabilidad específica ni los detalles de los incidentes mencionados. En su intervención, Hassabis tampoco ofreció cifras sobre su alcance; planteó, en cambio, que los episodios recientes sirven para anticipar problemas más serios si la seguridad no avanza al ritmo de las capacidades autónomas.

El cofundador de DeepMind añadió que la IA puede ser reutilizada por actores malintencionados con fines dañinos. Esa posibilidad vuelve relevante no solo el comportamiento de los sistemas en condiciones normales, sino también el modo en que personas con intenciones hostiles podrían aprovechar sus funciones, una cuestión que, según su planteamiento, exige prepararse antes de una expansión más amplia.

Pruebas controladas y defensas anticipadas

Como primera medida, Hassabis propuso evaluar los sistemas en entornos seguros y, al comienzo, desconectados de internet. La idea es examinar cómo responden antes de exponerlos a escenarios abiertos, donde una acción autónoma o una falla de control podría tener un alcance distinto; la fuente no especifica un protocolo técnico concreto ni un calendario para aplicar este enfoque.

También recomendó tomar lecciones de las prácticas de contención desarrolladas en ámbitos como la biología y la tecnología nuclear. Su argumento fue que esos campos ofrecen experiencia sobre cómo limitar riesgos asociados con herramientas de gran impacto, y pidió incorporar a expertos de esas áreas para pensar salvaguardias adecuadas a los sistemas de IA.

La estrategia que describió no se limita a restringir el acceso o retrasar el despliegue de nuevas herramientas. Hassabis pidió que defensores de confianza, entre ellos bancos y gobiernos, tengan acceso a sistemas avanzados antes de su lanzamiento más amplio, para que puedan buscar vulnerabilidades de software y ayudar a corregirlas antes de que los atacantes las exploten.

Con esa propuesta, el investigador defendió reforzar de manera asimétrica el lado defensivo de la ciberseguridad. En sus palabras, la defensa debe aumentar lo suficiente para mantenerse por delante de los atacantes; sin embargo, no precisó qué herramientas tendrían prioridad ni qué condiciones deberían cumplir las organizaciones seleccionadas para recibir acceso anticipado.

Normas flexibles y más inversión en seguridad

Hassabis sostuvo que la respuesta también requiere cooperación internacional y pidió crear un organismo de normas capaz de adaptarse a los cambios tecnológicos. Justificó esa necesidad señalando que la IA afectará a personas de todo el mundo, por lo que los mecanismos de gobernanza no deberían limitarse a decisiones aisladas de una empresa o un gobierno.

El cofundador de DeepMind advirtió, además, que las reglas pueden perder vigencia rápidamente si no siguen el ritmo de la tecnología. Según su planteamiento, una ley elaborada tres años antes podría quedar desactualizada e incluso no abordar los problemas que se presentan en el momento de aplicarla; por ello, reclamó salvaguardias que respondan a riesgos emergentes sin sacrificar la innovación.

La propuesta incluye un aumento sustancial de los recursos dedicados a la seguridad y protección de la IA. Hassabis pidió “diez veces o más recursos” para ese trabajo, que abarcaría tanto investigación como capacidad de cómputo, aunque no detalló una base presupuestaria, un monto total ni quién debería asumir la inversión.

En conjunto, sus recomendaciones apuntan a preparar controles antes de que la autonomía de los sistemas aumente: probar en espacios aislados, convocar experiencia de otros campos, facilitar revisiones defensivas anticipadas y actualizar los marcos internacionales. La advertencia no afirma que los incidentes actuales ya representen una crisis, sino que, a juicio de Hassabis, ofrecen una oportunidad para reforzar la seguridad antes de que un fallo o un uso malicioso tenga consecuencias más graves.

La agencia Anadolu informó sobre las declaraciones de Hassabis durante la Cumbre Internacional de IA 2026. Por ahora, su intervención expone líneas de acción generales, pero no establece un sistema de certificación, una normativa específica ni compromisos de implementación por parte de empresas o gobiernos.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados