Por Canuto  

Un informe de Crimson Flare advierte que modelos de IA descargables y modificados podrían orientar a personas con poca experiencia hacia la fabricación de explosivos y armas químicas o biológicas. Expertos citados señalan que la llamada abliteración puede retirar las barreras de seguridad en minutos, mientras la ejecución local dificulta el monitoreo por parte de las autoridades.
***

  • El informe sostiene que modelos de IA de peso libre pueden modificarse para eliminar sus mecanismos de rechazo.
  • La técnica conocida informalmente como abl iteración estaría disponible en internet y requeriría conocimientos básicos de programación.
  • Expertos advierten que ejecutar estos sistemas en computadoras personales puede dificultar la supervisión de su uso.

Modelos de inteligencia artificial descargables y ejecutables en computadoras personales podrían facilitar el acceso de actores maliciosos a conocimientos sobre explosivos y armas químicas o biológicas, según una advertencia del grupo de investigación Crimson Flare. El análisis sostiene que algunos sistemas de peso libre pueden modificarse para retirar sus barreras de seguridad y responder solicitudes que los chatbots comerciales normalmente rechazarían. La preocupación no se centra en que cada modelo entregue instrucciones útiles, sino en que la combinación de capacidad, disponibilidad y anonimato reduzca obstáculos que antes exigían formación especializada.

El informe fue reseñado por Daily Mail, que describió el riesgo potencial para grupos terroristas y otros actores maliciosos con conocimientos básicos de ciencia. Entre los escenarios mencionados aparece la posibilidad de que una IA guíe paso a paso a una persona inexperta en procesos relacionados con explosivos, sustancias químicas o agentes biológicos como el ántrax. Estas afirmaciones representan una evaluación de riesgo, no evidencia de que un ataque concreto haya sido preparado o ejecutado mediante uno de esos modelos.

La abl iteración busca retirar los límites

Los modelos de lenguaje de peso libre son sistemas cuyos archivos pueden descargarse y ejecutarse sin depender necesariamente de la infraestructura en la nube de una empresa. A diferencia de un servicio cerrado, el usuario puede operar el modelo en su propio equipo y, si cuenta con los conocimientos técnicos necesarios, modificar determinados componentes de su comportamiento. Esa característica ofrece ventajas para la investigación y la privacidad, pero también complica la aplicación de controles centralizados.

Crimson Flare identifica como abl iteración a una técnica informal que busca eliminar los mecanismos de rechazo incorporados en ciertos modelos. De acuerdo con el informe, las herramientas para intentar esa modificación circulan ampliamente por internet y pueden utilizarse con conocimientos de programación relativamente básicos. Una vez alterado, el modelo puede presentarse como una versión sin censura y compartirse para que otros usuarios lo descarguen.

La publicación afirma que Daily Mail encontró en pocos minutos varias versiones modificadas de modelos disponibles en línea, incluido Qwen3.8-27b. Uno de los creadores citados promocionaba su sistema como capaz de responder sobre herramientas, química, códigos de explotación, violencia y otros contenidos que el editor original habría restringido, además de advertir que el modelo no decidiría si cumplir una solicitud, porque esa decisión correspondería al usuario.

El reporte no sostiene que todos los modelos alterados posean la misma capacidad ni que sus respuestas sean siempre confiables. Algunos, según la información publicada, solo ofrecen consejos generales o poco útiles, mientras que otros podrían entregar un nivel de detalle suficiente para elevar la preocupación de seguridad nacional. La diferencia entre ambos casos es relevante porque una respuesta incorrecta también puede ser peligrosa, aunque no convierta automáticamente al sistema en una herramienta operativa.

Modelos abiertos y potencia informática

El análisis menciona modelos de peso abierto asociados con empresas conocidas del sector, entre ellos los sistemas Llama de Meta y Qwen3.8-27b, desarrollado por Qwen, un laboratorio de inteligencia artificial vinculado con Alibaba. Estos productos no comparten necesariamente la misma arquitectura que ChatGPT de OpenAI, aunque cumplen una función general semejante al generar respuestas a partir de instrucciones del usuario. Sus restricciones de seguridad suelen impedir solicitudes explícitas sobre la construcción de armas, pero el informe advierte que esas defensas pueden ser objeto de modificaciones.

La ejecución local cambia el equilibrio entre capacidad y supervisión. Cuando una consulta pasa por los servidores de una compañía, el proveedor puede aplicar filtros y conservar registros conforme a sus políticas y obligaciones; cuando el sistema funciona sin conexión en una computadora personal, esas medidas dejan de operar de la misma manera. El informe vincula esa autonomía con una dificultad adicional para que organismos como MI5 y GCHQ, en Reino Unido, detecten patrones de uso sospechosos.

Crimson Flare sostiene que en 2022 pocos hogares contaban con suficiente potencia de cómputo para ejecutar grandes modelos de lenguaje sin conexión. La situación habría cambiado por la mayor eficiencia de los modelos y el aumento de la capacidad disponible en equipos domésticos, hasta el punto de que el informe calcula que 87% de los hogares considerados podría ejecutar estos sistemas localmente con tecnología que ya posee. La cifra describe una capacidad técnica potencial, no una medición de cuántos hogares descargaron o utilizaron modelos modificados.

Para los investigadores, esa expansión vuelve más difícil tratar la IA sin restricciones como un riesgo limitado a laboratorios o centros de datos especializados. Un modelo local no necesita mantener una conexión constante ni depender de una plataforma que pueda retirar el acceso, lo que amplía la resiliencia de quienes intenten utilizarlo con fines ilícitos. Sin embargo, disponer del software no elimina las barreras materiales, legales y científicas que todavía implica obtener sustancias, equipos y condiciones adecuadas.

Expertos señalan una reducción del umbral técnico

El informe reconoce que la probabilidad general de un ataque terrorista con armas químicas o biológicas sigue siendo baja debido a las barreras técnicas para conseguir materiales y producirlos de forma segura. La fabricación de un arma biológica, en particular, suele requerir conocimientos y capacidades asociados con instituciones científicas. Esa limitación ha funcionado históricamente como un obstáculo importante para personas sin entrenamiento especializado.

Alastair Hay, profesor, toxicólogo británico y experto en guerra química, dijo a Daily Mail que la IA puede reducir el umbral técnico necesario para producir sustancias peligrosas. Según su explicación, antes se asumía que la complejidad del conocimiento protegía tanto a la sociedad como a los propios individuos que intentaran iniciar una producción química. La disponibilidad de sistemas capaces de organizar información podría debilitar parcialmente esa barrera, aunque no sustituya la experiencia práctica ni la infraestructura.

Hay describió algunas respuestas revisadas por los investigadores como una receta que incluía concentraciones y alcanzaba un nivel cercano al trabajo de laboratorio universitario. La observación ilustra por qué los expertos consideran preocupante la eliminación de filtros, pero no demuestra por sí sola que un modelo pueda resolver todos los problemas de validación, seguridad y ejecución que plantea un proceso real. Además, reproducir instrucciones generadas por una IA puede producir resultados imprevisibles y exponer al usuario a daños graves.

Zain Ul-Haq, antiguo responsable de la unidad de informática forense de la policía de Lancashire, comparó la IA con una solución integral capaz de realizar distintas tareas desde el hogar. Su comentario apunta a la convergencia entre generación de conocimiento, disponibilidad de software y ejecución en dispositivos personales. En ese escenario, la discusión sobre seguridad deja de limitarse a los contenidos de una respuesta y alcanza también la distribución de modelos, las modificaciones de código y la capacidad de detectar abusos.

El reto de supervisar sistemas locales

La ejecución fuera de la nube dificulta que los proveedores intervengan cuando un usuario intenta obtener información prohibida. Un chatbot comercial puede negarse a responder y actualizar sus políticas de seguridad, mientras que una copia descargada puede continuar funcionando después de que el editor original cambie sus controles. Esta diferencia crea un reto para las autoridades, porque la ausencia de registros centralizados reduce las señales disponibles para identificar un comportamiento potencialmente peligroso.

La advertencia también plantea una tensión entre el desarrollo abierto de la IA y la prevención de usos maliciosos. Los modelos descargables pueden favorecer auditorías independientes, investigación académica y aplicaciones que no conviene delegar a un proveedor externo, pero las mismas propiedades pueden facilitar la eliminación de restricciones. Por eso, el problema no se resuelve únicamente prohibiendo una respuesta concreta, ya que la capacidad puede migrar entre versiones, repositorios y equipos personales.

El reporte de Crimson Flare presenta la abl iteración como un método accesible, pero la información disponible no precisa cuántos modelos han sido modificados con éxito, qué nivel de conocimiento entregan de forma consistente ni cuántos incidentes reales se han relacionado con ellos. Esas preguntas serán determinantes para distinguir una amenaza emergente con impacto comprobado de un escenario extremo basado en capacidades potenciales. La falta de datos públicos no invalida la alerta, aunque sí exige cautela al interpretar sus conclusiones.

La discusión seguirá dependiendo de cómo evolucionen los modelos, de la potencia informática disponible y de las medidas que adopten desarrolladores, distribuidores y autoridades. Mientras tanto, los expertos citados recomiendan entender que la IA puede acelerar la búsqueda y organización de información peligrosa, sin asumir que por sí sola elimina las barreras físicas y científicas. El riesgo central descrito por el informe es la combinación de acceso masivo, sistemas modificables y poca visibilidad sobre su uso.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados