Por Canuto  

El ministro británico de inteligencia artificial Kanishka Narayan sostiene que las pruebas de modelos ya no bastan frente a riesgos que, según afirmó, han aumentado. Su advertencia abarca desde la ciberseguridad hasta posibles usos bioquímicos y llega mientras el Reino Unido busca impulsar principios internacionales sobre IA durante su presidencia del G20 en 2027.
***

  • Narayan pidió construir defensas más sólidas y dijo que las pruebas de modelos son necesarias, pero insuficientes.
  • El ministro mencionó riesgos de ciberseguridad, posibles usos bioquímicos de herramientas de IA y modelos que excedan las instrucciones humanas.
  • El Reino Unido busca que los países del G20 aborden principios y estándares de seguridad de la inteligencia artificial durante la presidencia británica del grupo en 2027.

 

El ministro de Estado británico para inteligencia artificial, Kanishka Narayan, pidió reforzar las defensas frente a los riesgos asociados con esta tecnología y advirtió que evaluar los modelos no alcanza por sí solo. En declaraciones recogidas por Fortune durante la conferencia anual del Partido Laborista, sostuvo que las amenazas han crecido y que las pruebas, aunque útiles, resultan claramente insuficientes como respuesta.

La discusión reúne preocupaciones distintas, desde amenazas actuales a la ciberseguridad hasta escenarios más extremos sobre el control de sistemas avanzados. Narayan dijo que su prioridad está en los riesgos presentes, pero también se refirió a herramientas que podrían elevar el riesgo bioquímico y a modelos que hagan más de lo que las personas les pidieron, reporta TNW.

Por qué las pruebas no bastan, según Narayan

La intervención de Narayan respondió a una pregunta de Kamal Ahmed, de Fortune, sobre una advertencia de Jacob Coxon, investigador que renunció a Anthropic este mes. El ministro dijo que los gobiernos deben tomar en serio a quienes trabajan dentro de los laboratorios cuando expresan una preocupación intensa por las consecuencias de la IA. Su llamado fue a endurecer las defensas, no a confiar únicamente en la evaluación de los modelos.

Coxon había escrito que las personas que desarrollan inteligencia artificial creen sinceramente que la tecnología podría matar a todos antes del final de la década. Fortune informó que esa publicación acumuló 175 millones de visualizaciones, y el científico de Anthropic Evan Hubinger coincidió con la advertencia y situó por encima del 10% el riesgo al que aludía. Esas afirmaciones expresan las valoraciones de investigadores citados, no una conclusión demostrada sobre lo que ocurrirá.

Al precisar sus inquietudes, Narayan mencionó el aumento de los riesgos de ciberseguridad y la posibilidad de que ciertas herramientas de IA eleven el riesgo bioquímico. También señaló que le preocupan los modelos que van más allá de lo que sus usuarios les piden, un comportamiento que, en su opinión, merece atención aunque no conduzca automáticamente a una amenaza existencial.

Sobre ese último escenario, el ministro afirmó que los pasos lógicos necesarios para convertirlo en una cuestión existencial son significativos y severos. La distinción importa: Narayan no presentó la extinción como un desenlace inevitable, sino que separó los riesgos inmediatos de las cadenas de razonamiento que podrían llevar a consecuencias mucho más graves.

El Reino Unido lleva tres años probando modelos de inteligencia artificial, dijo Narayan, quien sostuvo además que ningún otro país está tan bien posicionado para realizar ese trabajo. Su argumento combina la experiencia acumulada en las pruebas con la necesidad de ir más allá de ellas; no detalló, en las declaraciones recogidas, qué medidas concretas deberían integrar las defensas que propone.

El debate internacional, el G20 y el empleo

El ministro dijo que el Reino Unido quiere reunir a los países del G20 en 2027, cuando ejerza la presidencia del grupo, y contribuir a definir los principios que surjan de ese proceso. El primer ministro Andy Burnham ha dicho que utilizará esa presidencia para impulsar un acuerdo sobre inteligencia artificial. La iniciativa busca situar la seguridad de la IA entre los asuntos de discusión del bloque, aunque alcanzar principios comunes dependerá de las negociaciones entre sus miembros.

Ese objetivo enfrenta posiciones distintas sobre el alcance de las reglas internacionales. Según informes citados por Fortune, la Casa Blanca ha advertido a los miembros del G20 que adopten un enfoque de no intervención ante nuevas normas globales; el presidente Donald Trump, por su parte, ha argumentado que frenar a los laboratorios estadounidenses daría una ventaja a China y ha calificado de fuerza negativa a quienes piden desacelerar el desarrollo.

La discusión sobre cuánto deben intervenir los gobiernos también aparece en las declaraciones de figuras del sector tecnológico. Bill Gates, cofundador de Microsoft, dijo la semana pasada en Meet the Press, de NBC, que la autorregulación no basta y que los gobiernos deben participar. Su postura coincide con la necesidad de debatir la supervisión pública, aunque la noticia no precisa qué esquema regulatorio concreto respalda.

Narayan también abordó el posible efecto de la IA sobre el empleo en una reunión del centro de estudios Resolution Foundation. Afirmó que gobiernos, empresas y personas tienen voz en la decisión de si la tecnología complementará el trabajo humano o lo reemplazará, y con ello vinculó la conversación sobre seguridad con otra pregunta central: quién orientará la adopción de estas herramientas y cómo se repartirán sus efectos.

Las declaraciones del ministro plantean una tensión que el Reino Unido buscará llevar al G20 en 2027: reducir riesgos sin convertir la respuesta en una barrera que, según sus críticos, favorezca a otros países o limite el desarrollo. Por ahora, Narayan defendió una dirección general —fortalecer las protecciones más allá de las pruebas—, mientras el debate sobre los principios internacionales y el impacto laboral sigue abierto.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados