Por Canuto  

Anthropic, OpenAI y Google DeepMind están incorporando controles para que sus sistemas aceleren el descubrimiento de fármacos sin facilitar investigaciones biológicas peligrosas. La estrategia combina filtros en tiempo real, acceso verificado y pruebas de ataque mientras crece la presión por regular el cribado de ADN y ARN sintéticos.
***

  • Los tres laboratorios respaldan requisitos obligatorios de cribado y registro para proveedores de ADN y ARN sintético.
  • Google DeepMind lanzó el 16 de julio una iniciativa de bioresiliencia junto con Isomorphic Labs y orientada a apoyar la prevención, detección y respuesta ante amenazas biológicas.
  • Anthropic informó una reducción cercana al 85% en los bloqueos por falsos positivos en consultas biológicas benignas, pero mantiene controles estrictos para flujos profesionales.

Una carrera por reducir el riesgo biológico

Anthropic, OpenAI y Google DeepMind están incorporando barreras de seguridad a las aplicaciones biológicas de sus modelos de inteligencia artificial, en un momento en que el llamado riesgo de doble uso gana relevancia. Las mismas herramientas capaces de ayudar a descubrir tratamientos y estudiar enfermedades podrían, en teoría, facilitar el diseño de agentes biológicos peligrosos, por lo que los laboratorios buscan establecer controles antes de que esa posibilidad se convierta en una crisis.

Según Cryptobriefing, las medidas abarcan clasificadores de contenido en tiempo real, programas de acceso verificado para investigadores y pruebas extensas de equipo rojo, conocidas como red teaming. El objetivo consiste en permitir la investigación legítima sobre fármacos, enfermedades y preparación ante pandemias, mientras se bloquean solicitudes relacionadas con el desarrollo de armas biológicas.

El desafío no se limita a decidir qué consultas debe responder un modelo, sino también a calibrar la intensidad de sus restricciones. Un filtro demasiado amplio podría frenar avances científicos legítimos, mientras que uno demasiado permisivo dejaría abiertas rutas para aprovechar capacidades que originalmente fueron creadas con fines médicos.

La preocupación refleja una característica particular de la biotecnología impulsada por IA: una capacidad puede tener usos beneficiosos y perjudiciales dependiendo de quién la emplee, con qué información y para qué propósito. Por eso, los tres laboratorios están combinando controles automáticos con verificación de usuarios y evaluaciones diseñadas para encontrar fallas antes de que los sistemas lleguen a escenarios más sensibles.

Una carta pública y nuevas exigencias

En junio de 2026, representantes de Anthropic, OpenAI y Google DeepMind firmaron una carta pública dirigida a legisladores estadounidenses. El documento planteó que los proveedores de ADN y ARN sintético deberían cumplir requisitos obligatorios de cribado y registro, ante los riesgos que puede plantear el uso de sistemas de IA para facilitar el diseño de agentes biológicos peligrosos.

El cribado busca revisar los pedidos de material genético sintético antes de su producción, mientras que el registro permitiría identificar con mayor claridad a los actores que solicitan esos servicios. La combinación de ambos mecanismos aparece en la carta como una respuesta regulatoria frente a una tecnología que puede acelerar el diseño biológico sin que todos los controles avancen al mismo ritmo.

La posición conjunta también marca una línea de responsabilidad para los proveedores de modelos, que ya no solo deben evaluar el rendimiento científico de sus herramientas. En los dominios relacionados con química y biología, la seguridad depende además de impedir que una respuesta aparentemente técnica reduzca las barreras para investigaciones dañinas.

El planteamiento de los tres laboratorios no elimina la tensión entre apertura científica y prevención de abusos. Sin embargo, muestra que las empresas consideran insuficiente depender únicamente de las políticas internas de cada plataforma y ven necesario que los proveedores de materiales biológicos adopten estándares obligatorios.

Los enfoques de Google DeepMind, Anthropic y OpenAI

Google DeepMind anunció el 16 de julio de 2026 una iniciativa de bioresiliencia. El programa busca utilizar modelos de inteligencia artificial para apoyar la prevención, detección y respuesta frente a amenazas biológicas, en colaboración con investigadores y entidades relevantes.

La iniciativa se desarrolla junto con Isomorphic Labs, una empresa dedicada a construir sistemas de inteligencia artificial para el descubrimiento de fármacos. En lugar de concentrarse únicamente en encontrar medicamentos, el programa utiliza ese trabajo como base para contrarrestar riesgos biológicos y reforzar la capacidad de preparación ante posibles amenazas.

Anthropic, por su parte, ha tratado de resolver un problema distinto: cómo impedir consultas peligrosas sin castigar a quienes realizan ciencia legítima. En agosto de 2026, la empresa informó que había reducido aproximadamente 85% los bloqueos por falsos positivos en consultas biológicas benignas, aunque mantuvo restricciones más estrictas para flujos de trabajo profesionales vinculados con el desarrollo de fármacos.

La decisión responde a la evaluación de Anthropic de que las consultas biológicas más sofisticadas pueden presentar un riesgo de doble uso mayor. Su Responsible Scaling Policy establece requisitos de seguridad escalonados a medida que aumentan las capacidades de los modelos, con umbrales CBRN, correspondientes a riesgos químicos, biológicos, radiológicos y nucleares, que activan revisiones adicionales.

OpenAI sigue una ruta paralela mediante su Preparedness Framework, lanzado en 2025. Ese marco incluye iniciativas de biodefensa y herramientas para predecir el éxito de fármacos, con la intención de conservar la utilidad de la IA para la investigación farmacéutica mientras se mantienen barreras frente a usos indebidos.

En conjunto, los tres enfoques combinan prevención, acceso controlado y evaluación continua, aunque cada laboratorio destaca una herramienta diferente. Google DeepMind prioriza la bioresiliencia, Anthropic calibra sus bloqueos y OpenAI integra la biodefensa dentro de un marco más amplio de preparación.

El equilibrio entre ciencia abierta y controles estrictos

La reducción de falsos positivos anunciada por Anthropic ilustra la dificultad de aplicar restricciones en un campo donde muchas preguntas legítimas utilizan vocabulario técnico similar al de solicitudes peligrosas. Para un investigador, un bloqueo injustificado puede retrasar el análisis de una enfermedad o el desarrollo de un tratamiento; para un sistema de seguridad, una consulta avanzada puede requerir un escrutinio adicional aunque su intención declarada parezca benigna.

Los controles diferenciados intentan responder a esa tensión sin tratar todas las interacciones biológicas como si tuvieran el mismo nivel de riesgo. Las consultas generales pueden recibir un tratamiento más flexible, mientras que los flujos profesionales relacionados con el diseño de fármacos permanecen sujetos a medidas más rigurosas porque combinan conocimientos especializados con capacidades de ejecución más avanzadas.

El red teaming cumple una función complementaria al probar si un usuario puede eludir las reglas o combinar respuestas aparentemente inofensivas para obtener instrucciones peligrosas. Estas evaluaciones no sustituyen los clasificadores ni la verificación de identidad, pero permiten identificar patrones de abuso que podrían quedar fuera de una revisión basada únicamente en palabras clave.

La verificación de investigadores apunta a crear distintos niveles de acceso, en lugar de ofrecer las mismas capacidades a cualquier usuario. Ese modelo puede facilitar colaboraciones con instituciones confiables, aunque la historia no detalla los criterios operativos de admisión ni la forma en que las empresas resolverán eventuales disputas sobre el acceso.

La discusión también alcanza a los proveedores de ADN y ARN sintético, cuya función resulta esencial para convertir diseños digitales en materiales físicos. La carta de junio plantea que el cribado y el registro deben ser obligatorios, porque la supervisión de los modelos no basta si el ecosistema de síntesis conserva puntos de entrada sin controles equivalentes.

El siguiente reto será demostrar que las salvaguardas funcionan bajo presión y que pueden actualizarse conforme los modelos mejoren. Anthropic, OpenAI y Google DeepMind están intentando adelantarse a un riesgo que combina inteligencia artificial, biología y seguridad pública, pero sus propios marcos muestran que la protección dependerá de revisiones constantes y de reglas coordinadas entre empresas, investigadores y autoridades.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados