Por Canuto  

Google DeepMind, OpenAI y Anthropic exploran la creación de un organismo independiente que establezca evaluaciones y controles comunes para los modelos de IA más avanzados. Las conversaciones siguen en desarrollo y todavía no han producido una estructura formal, un modelo de financiación ni un calendario definitivo de lanzamiento.
***

  • Las tres empresas mantienen conversaciones desde julio de 2026 para explorar un organismo independiente de estándares de seguridad en IA.
  • El proyecto contempla evaluaciones externas, protocolos compartidos y verificaciones antes de poner modelos frontera a disposición del público.
  • La falta de gobernanza definida y el escrutinio sobre las prácticas de las compañías alimentan dudas sobre la credibilidad e independencia de la iniciativa.

Google DeepMind, OpenAI y Anthropic exploran una propuesta para crear un organismo independiente de estándares de seguridad para la inteligencia artificial, según reportes sobre las conversaciones entre las compañías. El diálogo se habría iniciado en julio de 2026 y contempla una posible puesta en marcha durante 2026 o 2027, aunque todavía no existe una organización formal ni un calendario definitivo de lanzamiento.

OpenAI confirmó en septiembre que mantiene conversaciones con Anthropic y Google sobre seguridad de la IA. La coordinación se centraría en establecer criterios comunes para evaluar modelos frontera, una categoría que reúne a algunos de los sistemas de IA más avanzados y capaces. Entre las ideas planteadas figuran evaluaciones realizadas por terceros, protocolos compartidos y verificaciones previas al lanzamiento, con el objetivo de detectar riesgos antes de que los nuevos modelos lleguen al público.

Un intento por establecer reglas comunes

La iniciativa parte de una preocupación que sus promotores consideran cada vez más urgente: el ritmo de desarrollo de la inteligencia artificial puede superar la capacidad de una empresa individual, e incluso de muchos gobiernos, para anticipar todas sus consecuencias. En ese escenario, los estándares comunes podrían ofrecer un lenguaje compartido para comparar riesgos y definir qué condiciones debería cumplir un modelo antes de desplegarse.

Dario Amodei, CEO de Anthropic, expuso este argumento en un ensayo publicado el 12 de septiembre de 2026, donde defendió un papel central para los evaluadores externos en la seguridad de la IA. Su planteamiento sostiene que las compañías no deberían ser las únicas responsables de revisar sistemas que pueden producir efectos amplios sobre usuarios, empresas y gobiernos.

Sam Altman, CEO de OpenAI, también ha respaldado la idea de contar con estándares y evaluaciones independientes, especialmente ante lo que considera un avance lento de la regulación gubernamental. La propuesta buscaría llenar parcialmente ese espacio mediante criterios técnicos y procedimientos compartidos, aunque no reemplazaría necesariamente las leyes ni la supervisión oficial de cada jurisdicción.

Chris Lehane, jefe de política global de OpenAI, confirmó el 15 de septiembre que la coordinación con Anthropic y Google DeepMind era un foco importante de las conversaciones. La compañía ha descrito el trabajo conjunto como parte de sus esfuerzos para abordar riesgos de seguridad de la IA.

Independencia y credibilidad bajo escrutinio

El proyecto enfrenta una contradicción evidente: las compañías que pretenden impulsar estándares de seguridad para toda la industria también están sometidas a cuestionamientos sobre sus propias prácticas. El Índice de Seguridad en IA de verano de 2026, elaborado por el Future of Life Institute, evaluó a nueve empresas mediante 37 indicadores distribuidos en seis áreas. OpenAI, Anthropic y Google DeepMind figuran entre las compañías analizadas.

La existencia de esas evaluaciones no prueba por sí sola que los modelos de las empresas sean inseguros, pero puede influir en la confianza pública sobre su capacidad para diseñar un sistema realmente independiente. Si el organismo termina bajo una influencia decisiva de sus fundadores, críticos y competidores podrían cuestionar si sus evaluaciones tienen suficiente distancia frente a los intereses comerciales de los laboratorios.

Google, OpenAI y Anthropic ya participaron en una iniciativa colectiva anterior. Las tres empresas cofundaron el Frontier Model Forum en 2023 junto con Microsoft, un proyecto orientado a impulsar la investigación sobre seguridad de la IA y mejores prácticas. La nueva propuesta, si avanza, buscaría una estructura más definida para las evaluaciones y los estándares compartidos.

Cada compañía mantiene además sus propios marcos internos de seguridad. Anthropic utiliza una Política de Escalado Responsable, que vincula el despliegue de modelos más capaces con determinados puntos de referencia, mientras Google DeepMind y OpenAI operan sus propios procesos de evaluación. El organismo propuesto quedaría por encima de esos sistemas particulares mediante parámetros comunes, aunque aún no está claro qué autoridad tendría sobre las empresas participantes.

El impacto potencial para la industria

La ausencia de una estructura de gobierno y de un modelo de financiación definidos después de varios meses de conversaciones plantea dudas sobre la ejecución. A mediados de septiembre de 2026, las empresas no habían anunciado una organización formal, un equipo directivo ni una carta fundacional que explicara cómo se tomarían las decisiones.

La falta de esos elementos resulta especialmente relevante porque la independencia no depende únicamente de la etiqueta utilizada para describir el proyecto. También exige reglas sobre la selección de evaluadores, la publicación de resultados, la financiación de las revisiones y la forma en que las empresas participantes podrían responder ante incumplimientos.

Las compañías de IA más pequeñas tendrían razones para observar el proceso con atención. Un estándar definido por Google, OpenAI y Anthropic podría convertirse de hecho en una referencia para el resto del mercado, aunque sus costos de cumplimiento fueran manejables para laboratorios con grandes presupuestos y más difíciles de asumir para empresas emergentes.

Ese desequilibrio podría acelerar la concentración de una industria que ya está inclinada hacia un grupo reducido de actores dominantes. Las evaluaciones externas y los controles previos al lanzamiento podrían elevar la seguridad general, pero también generar barreras de entrada si los requisitos demandan equipos, infraestructura o procesos que las empresas pequeñas no pueden financiar.

Qué debería definirse a continuación

Para que la iniciativa gane legitimidad, sus impulsores tendrían que aclarar quién controlaría el organismo y qué grado de autonomía tendría frente a las compañías fundadoras. También sería necesario conocer si sus estándares serían voluntarios, si contemplarían consecuencias internas y cómo se resolverían las diferencias cuando una empresa no esté de acuerdo con el resultado de una evaluación.

Otro punto pendiente es la relación entre los marcos privados y las reglas públicas. Un sistema industrial podría avanzar más rápido que los gobiernos en ciertos aspectos técnicos, pero su autoridad seguiría dependiendo de la aceptación del mercado y de la compatibilidad con las normas que adopten los países donde operen los modelos.

La propuesta también abre un debate sobre quién debe definir el umbral de seguridad para los modelos frontera. Si las empresas con mayor capacidad técnica fijan los criterios, podrían aportar conocimientos difíciles de reunir en otros espacios, aunque al mismo tiempo tendrían influencia sobre las condiciones que deben cumplir sus propios productos y los de sus rivales.

Por ahora, el proyecto sigue siendo una coordinación en desarrollo y no una institución operativa. Los reportes citados sitúan una posible puesta en marcha en 2026 o 2027, pero la falta de liderazgo, financiación y carta fundacional significa que la promesa de estándares independientes todavía deberá transformarse en reglas verificables antes de medir su impacto real.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados