Por Canuto  

Anthropic, OpenAI y Google analizan un organismo común para definir estándares de seguridad de IA, una iniciativa que podría dar más confianza a los usuarios, pero también elevar las barreras de entrada para empresas pequeñas.
***

  • Anthropic, OpenAI y Google habrían discutido crear un organismo colaborativo para establecer estándares de seguridad en modelos avanzados.
  • Demis Hassabis propuso un esquema inspirado en FINRA, mientras Dario Amodei pidió ralentizar el desarrollo fronterizo para que la seguridad alcance a las capacidades.
  • La independencia del regulador, los costos de cumplimiento y la coordinación con Europa aparecen como los principales obstáculos.

Anthropic, OpenAI y Google evalúan un organismo común para fijar estándares de seguridad de inteligencia artificial, en una iniciativa que busca ordenar el desarrollo de modelos fronterizos, pero que también podría reforzar la posición de los laboratorios más grandes. Según un informe citado por Cryptopolitan, las compañías han conversado sobre una organización industrial colaborativa que establecería los criterios con los que se evaluarían sus propios sistemas. Para los usuarios empresariales, contar con referencias comunes reduciría la incertidumbre al adoptar modelos para tareas sensibles, aunque el esquema abre un debate sobre independencia y competencia.

El interés por una coordinación formal aparece mientras aumentan las advertencias sobre los riesgos de sistemas capaces de ejecutar tareas complejas en áreas como ciberseguridad, biología y manipulación. Las empresas que necesitan evaluar esos modelos podrían beneficiarse de pruebas comparables entre proveedores, porque tendrían más elementos para decidir antes de incorporarlos a sus operaciones. Sin embargo, el mismo proceso puede imponer obligaciones costosas que las startups no puedan sostener con la facilidad de los laboratorios que dominan la computación avanzada.

Un estándar común para modelos fronterizos

La propuesta discutida por Anthropic, OpenAI y Google se inscribe en una discusión más amplia sobre quién debe definir los límites de la inteligencia artificial fronteriza. Un organismo compartido permitiría diseñar metodologías, pruebas y evidencias de cumplimiento aplicables a distintos modelos, en vez de dejar que cada compañía publique sus propios criterios. Esa uniformidad podría facilitar las comparaciones para clientes, investigadores y autoridades, siempre que los procedimientos fueran transparentes y suficientemente independientes.

El atractivo comercial del esquema resulta evidente para las compañías que consideran utilizar modelos avanzados en procesos sensibles. Un certificado o evaluación común podría reducir el tiempo dedicado a revisar por separado las capacidades y los riesgos de cada proveedor, además de ofrecer una referencia para los departamentos legales y de seguridad. Aun así, la estandarización no resolvería por sí sola las preguntas sobre qué riesgos deben medirse, con qué frecuencia hacerlo y quién tendría acceso real a los sistemas antes de su lanzamiento.

La Organización para la Cooperación y el Desarrollo Económicos ya ha advertido que los altos costos fijos, la escasez de recursos de computación y la concentración de la infraestructura dificultan la entrada de nuevos competidores en la IA. Si los estándares comunes se convierten en requisitos de cumplimiento, las empresas pequeñas enfrentarían una carga adicional antes de poder comercializar sus modelos. El riesgo, por tanto, consiste en que una política presentada como protección para los usuarios termine consolidando un mercado dominado por pocos actores.

El desafío no implica rechazar las evaluaciones de seguridad, sino diseñarlas de manera proporcional al tamaño y al riesgo de cada sistema. Un marco que exigiera a todos los desarrolladores los mismos recursos, auditorías y plazos podría favorecer a quienes ya cuentan con grandes equipos jurídicos, técnicos y de infraestructura. La discusión entre las empresas deberá determinar si el organismo funcionaría como una plataforma abierta de conocimiento o como una estructura controlada por quienes poseen los modelos más poderosos.

Las propuestas de Hassabis y Amodei

El 14 de julio, Demis Hassabis, director de Google DeepMind, propuso crear un Organismo de Estándares de IA Fronteriza con sede en Estados Unidos y basado en la lógica de la Autoridad Reguladora de la Industria Financiera, conocida como FINRA. Bajo su planteamiento, los laboratorios enviarían voluntariamente sus tecnologías avanzadas a evaluación antes del lanzamiento, con un período de revisión de hasta 30 días. Los examinadores buscarían señales de riesgos cibernéticos, biológicos o relacionados con la manipulación.

La propuesta de Hassabis comenzaría con participación voluntaria, pero contemplaría una transición posterior hacia un requisito para desplegar tecnologías fronterizas en Estados Unidos. El Council on Foreign Relations informó que la Casa Blanca ya analizaba la idea, aunque el material citado no presenta una decisión definitiva sobre su adopción. Ese diseño intenta combinar rapidez empresarial con una revisión previa, pero deja abierta la cuestión de si un plazo de 30 días sería suficiente para modelos cuyas capacidades pueden cambiar rápidamente.

Dario Amodei, director ejecutivo de Anthropic, planteó el problema desde otra perspectiva en su ensayo de septiembre, titulado “We Must Pace the Frontier”. A su juicio, los mecanismos de seguridad necesitan tiempo adicional para alcanzar el ritmo de crecimiento de las capacidades de la IA, por lo que la industria debería moderar las ganancias de los modelos más avanzados. También respaldó la participación prolongada de evaluadores independientes, como METR, dentro de los laboratorios fronterizos.

La propuesta de Amodei apunta a una colaboración entre las principales compañías de IA de los estados democráticos para desarrollar estándares de seguridad comunes. En lugar de limitar la revisión a una ventana previa al lanzamiento, su enfoque daría más espacio a evaluadores externos para observar procesos, pruebas y controles durante períodos extensos. La diferencia es relevante: Hassabis enfatiza una instancia institucional previa al despliegue, mientras Amodei subraya que la supervisión debe crecer al mismo ritmo que las capacidades.

Una industria que ya tiene organismos de coordinación

El posible organismo no sería el primer intento de la industria por coordinar investigaciones y reglas de seguridad. En 2023 se creó el Frontier Model Forum, respaldado por seis grandes empresas de IA, con el objetivo de impulsar un programa independiente de investigación mediante un fondo de seguridad de más de USD $10 millones. Su existencia demuestra que ya hay estructuras sectoriales, aunque el nuevo debate plantea si hace falta una organización con funciones más concretas de evaluación y cumplimiento.

También existen iniciativas orientadas a construir estándares abiertos e infraestructura para agentes de IA. La Agentic AI Foundation fue creada en diciembre de 2025 como parte de la Linux Foundation, y entre los proyectos que la integraron aparecen el Model Context Protocol de Anthropic, goose de Block y AGENTS.md de OpenAI. Estos proyectos se enfocan en herramientas y prácticas para agentes, mientras que el organismo discutido ahora estaría más concentrado en los riesgos y la evaluación de modelos fronterizos.

OpenAI además cooperó en la creación de Appia Foundation, establecida en junio de 2026 con 13 miembros, de acuerdo con la información proporcionada. La fundación busca transformar principios generales de gobernanza de IA en especificaciones, pruebas y evidencias de cumplimiento que puedan utilizarse en toda la cadena de suministro. La coexistencia de estas iniciativas plantea una pregunta práctica: si aparecen demasiados marcos con objetivos parecidos, las empresas podrían enfrentar una superposición de reglas en lugar de una simplificación.

La coordinación también trasciende las organizaciones industriales estadounidenses. Chris Lehane, director de asuntos globales de OpenAI, sostuvo que Estados Unidos y China deberían respaldar un marco global de seguridad para la IA, y comparó esa cooperación con los acuerdos internacionales relacionados con la energía nuclear. La referencia muestra la dimensión geopolítica del debate, porque los estándares de seguridad no solo afectarían a los proveedores privados, sino también a la competencia tecnológica entre las principales potencias.

Independencia, capacidad y competencia

La independencia constituye el principal punto débil de un regulador financiado por las mismas compañías que debe evaluar. El análisis del Council on Foreign Relations advirtió que podrían surgir conflictos similares a los observados antes de la crisis financiera de 2008, cuando existían sistemas de calificación crediticia pagados por los emisores. En el ámbito de la IA, la preocupación se relaciona con quién decide los métodos de prueba, qué información recibe y si puede cuestionar las conclusiones de un laboratorio poderoso.

También permanecen sin respuesta varias preguntas operativas sobre el acceso a los modelos fronterizos y la experiencia de los evaluadores. Una revisión creíble necesitaría examinar no solo demostraciones preparadas para una fecha determinada, sino también controles internos, límites de uso y posibles comportamientos peligrosos que no aparezcan en pruebas convencionales. La seguridad nacional añade otra capa de complejidad, porque algunos resultados podrían involucrar información sensible y restringir la transparencia pública.

La capacidad de supervisión representa otro obstáculo. Una proyección de GovAI estima que entre 14 y 16 modelos durante el período de 2025 a 2028 podrían alcanzar un orden de magnitud comparable al mayor entrenamiento registrado hasta entonces, lo que apunta a la necesidad de revisiones continuas y no únicamente de evaluaciones periódicas. Si los sistemas avanzan más rápido que los equipos de auditoría, cualquier certificación podría quedar desactualizada poco después de emitirse.

El marco estadounidense también tendría que coordinarse con normas que ya existen en Europa. El Código de Prácticas de IA de Propósito General de la Unión Europea, introducido en julio de 2025 como una vía voluntaria para demostrar el cumplimiento de la Ley de IA, ya cuenta con Anthropic, Google, Microsoft y OpenAI entre sus signatarios. Un organismo estadounidense o liderado por la industria entraría así en un panorama de gobernanza saturado, donde la compatibilidad entre pruebas, definiciones y obligaciones será tan importante como la creación de nuevos estándares.

El debate que viene para la industria

La formación de un organismo común podría entregar señales útiles a los mercados y a los clientes que buscan adoptar inteligencia artificial sin asumir riesgos desconocidos. Un conjunto de pruebas comparables permitiría diferenciar entre afirmaciones comerciales y controles verificables, especialmente cuando los modelos se emplean en áreas de alta sensibilidad. No obstante, la credibilidad dependerá de que los evaluadores tengan suficiente autonomía, recursos técnicos y capacidad para publicar resultados comprensibles.

Para las startups, el diseño económico será decisivo. Si las evaluaciones requieren equipos permanentes, infraestructura costosa y ciclos largos de certificación, los nuevos participantes podrían quedar excluidos antes de demostrar que ofrecen una alternativa segura. Cualquier sistema obligatorio necesitaría mecanismos que impidan que el cumplimiento se convierta en una barrera de entrada, sin reducir las exigencias cuando un modelo realmente presente capacidades peligrosas.

La comparación con FINRA ilustra tanto la ambición como las limitaciones de la propuesta. Un organismo con participación de la industria puede acumular conocimiento especializado y reaccionar con mayor rapidez que una agencia pública, pero también puede enfrentar conflictos de interés si sus miembros financian, gobiernan o son evaluados por la misma estructura. La solución dependerá de reglas claras sobre financiación, acceso a los modelos, auditorías externas, publicación de resultados y sanciones ante incumplimientos.

Por ahora, la discusión reúne varias propuestas que no son idénticas: un organismo sectorial común, una revisión previa inspirada en FINRA, evaluaciones independientes prolongadas y una posible coordinación internacional entre Estados Unidos y China. La industria busca reducir la incertidumbre, pero todavía no ha resuelto quién vigilará a los laboratorios, cómo se mantendrán actualizados los estándares ni cómo se protegerá la competencia. El éxito de cualquier iniciativa dependerá de responder esas preguntas antes de convertir la seguridad en una obligación formal.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados