Por Canuto  

OpenAI enfrenta acusaciones del Midas Project por presuntas violaciones de la SB 53, luego de que sus fichas de sistema omitieran evaluaciones sobre el riesgo de pérdida de control en GPT-5.6 y GPT-6 Astra.
***

  • El Midas Project sostiene que OpenAI incumplió la SB 53 al menos tres veces durante 2026.
  • Las acusaciones se concentran en la ausencia de evaluaciones de pérdida de control para GPT-5.6 y GPT-6 Astra.
  • OpenAI niega las imputaciones y afirma que cumple estrictamente con la ley californiana.

OpenAI enfrenta acusaciones de haber incumplido varias veces una ley histórica de seguridad de inteligencia artificial en California, incluido el lanzamiento de su modelo más reciente y potente, GPT-6 Astra. Las imputaciones provienen del Midas Project, una organización sin fines de lucro dedicada a vigilar el desarrollo de la IA, y apuntan a una omisión especialmente sensible: la falta de evaluaciones sobre el riesgo de que un sistema opere más allá de la supervisión humana. El caso coloca bajo presión los mecanismos de transparencia de una de las empresas más influyentes del sector tecnológico.

Crypto Briefing reportó que el análisis del Midas Project, fechado el 10 de septiembre de 2026, acusa a OpenAI de no publicar la evaluación de riesgo de pérdida de control exigida para GPT-5.6 y GPT-6 Astra. Ese escenario describe una situación en la que un sistema de IA escapa de los límites establecidos por sus desarrolladores y actúa de forma autónoma y dañina, precisamente uno de los peligros que la industria ha advertido durante años. OpenAI rechazó las acusaciones y aseguró que mantiene un cumplimiento estricto de la normativa.

Qué exige la SB 53

La SB 53, conocida formalmente como la Ley de Transparencia en Inteligencia Artificial de Frontera, fue firmada como ley en septiembre de 2025 y comenzó a regir el 1 de enero de 2026. Su objetivo es obligar a los desarrolladores de sistemas avanzados a publicar marcos de seguridad que contemplen riesgos capaces de producir consecuencias catastróficas. La norma incluye amenazas relacionadas con pérdidas significativas de vidas humanas, daños financieros mayores y episodios en los que una IA pierda el control operativo.

La importancia de la ley no se limita a exigir declaraciones generales sobre seguridad, porque también busca que las empresas expliquen cómo evalúan y reducen los riesgos asociados con sus modelos. En ese esquema, las fichas de sistema funcionan como documentos públicos para describir capacidades, limitaciones y salvaguardas de cada producto cubierto. La transparencia pretendida por California depende, por tanto, de que las compañías incluyan los riesgos relevantes y no solo los resultados favorables de sus pruebas internas.

OpenAI creó su propio Frontier Governance Framework, un marco de gobernanza que la empresa desarrolló en alineación con los requisitos de la SB 53. El documento exige expresamente incluir un nivel de riesgo de pérdida de control en la ficha de sistema de cada modelo alcanzado por sus disposiciones. Según el Midas Project, las fichas publicadas para GPT-5.6 y GPT-6 Astra omiten por completo ese nivel, una ausencia que el grupo considera incompatible con las obligaciones anunciadas por la propia compañía.

La acusación adquiere mayor peso porque no se refiere únicamente a una clasificación secundaria, sino a un riesgo directamente vinculado con la autonomía de los sistemas. Si un modelo puede ejecutar acciones complejas sin una supervisión humana efectiva, la evaluación de sus límites resulta central para determinar si las medidas de seguridad son suficientes. Aun así, el material disponible describe alegaciones de una organización de vigilancia, no una resolución definitiva de las autoridades californianas.

Las presuntas fallas de OpenAI

El Midas Project también señaló un incidente previo ocurrido en febrero de 2026 y relacionado con GPT-5.3-Codex. De acuerdo con el grupo, ese modelo presuntamente no implementó las salvaguardas de desalineación necesarias, es decir, los mecanismos destinados a evitar que el comportamiento del sistema se aparte de los objetivos y restricciones fijados por sus desarrolladores. Al sumar ese episodio con las omisiones atribuidas a GPT-5.6 y GPT-6 Astra, la organización calcula al menos tres presuntas violaciones durante el mismo año.

GPT-6 Astra fue lanzado el 3 de septiembre de 2026 y recibió una clasificación de ciberseguridad denominada “Crítico”, el nivel más alto dentro del marco de OpenAI. La etiqueta indica que el modelo debía activar salvaguardas reforzadas durante su desarrollo, de acuerdo con las reglas internas descritas en la información de origen. Para el Midas Project, esa clasificación hace todavía más difícil justificar la ausencia de una evaluación pública sobre la posibilidad de pérdida de control.

La lógica del grupo de vigilancia parte de una relación directa entre capacidad y exigencia de control: cuanto mayor sea la capacidad de un modelo para actuar en contextos sensibles, más detallada debería ser la documentación sobre sus riesgos. En el caso de GPT-6 Astra, la clasificación crítica en ciberseguridad sugiere que el sistema podía plantear amenazas relevantes en un área con efectos potencialmente amplios. Por esa razón, el Midas Project sostiene que el lanzamiento debió estar acompañado por una evaluación exhaustiva y no solo por las salvaguardas generales del marco corporativo.

La controversia también expone una tensión frecuente en la regulación de IA: las empresas pueden definir marcos internos ambiciosos, pero luego deben demostrar que sus productos cumplen las categorías y procedimientos que esos marcos establecen. Cuando una ficha de sistema omite una categoría completa, el debate deja de centrarse únicamente en el rendimiento del modelo y pasa a la calidad de la gobernanza. Esa diferencia podría resultar decisiva si California examina formalmente las acusaciones y determina si existió un incumplimiento sancionable.

La respuesta de OpenAI y lo que está en juego

OpenAI negó las acusaciones y afirmó que cumple estrictamente con la SB 53. La empresa también expresó confianza en los procesos de pruebas y gobernanza que aplica a sus modelos, aunque, según la información disponible, sus contraargumentos no respondieron punto por punto a cada observación del Midas Project. Esa falta de detalle mantiene abierta la discusión sobre si la compañía interpreta de manera distinta los requisitos de la ley o si considera que sus documentos ya cubren los riesgos señalados.

El Midas Project se presenta como una organización que trabaja para que la inteligencia artificial beneficie a toda la sociedad y no únicamente a las empresas que la desarrollan. Su análisis cita el lenguaje del propio marco de OpenAI y lo compara con las fichas de sistema publicadas para los modelos cuestionados. Ese método ofrece una base más concreta que una crítica política general, aunque las acusaciones todavía tendrían que ser examinadas por las autoridades competentes antes de convertirse en una conclusión legal.

Si las imputaciones prosperan, OpenAI podría enfrentar sanciones civiles bajo la SB 53. La ley fue diseñada con mecanismos de cumplimiento, por lo que un fallo contra la compañía podría establecer un precedente sobre el alcance real de las obligaciones de transparencia para los desarrolladores de IA de frontera. También podría incentivar revisiones más estrictas de las fichas de sistema y de los procedimientos que las empresas utilizan antes de lanzar modelos de alta capacidad.

El resultado tendría implicaciones que irían más allá de OpenAI, porque otras compañías podrían verse obligadas a demostrar con mayor claridad cómo evalúan la autonomía, la desalineación y los riesgos de ciberseguridad. Para los reguladores, el caso representa una prueba temprana de si la SB 53 puede convertir los compromisos voluntarios de seguridad en obligaciones verificables. Para la industria, la disputa muestra que omitir una categoría de riesgo en un documento público puede generar consecuencias legales y reputacionales incluso cuando la empresa sostiene que sus pruebas internas fueron rigurosas.

Por ahora, la información disponible solo permite afirmar que el Midas Project presentó acusaciones específicas y que OpenAI las rechazó, sin que se haya informado una decisión final de las autoridades californianas. La evolución del caso dependerá de si los reguladores revisan las fichas de GPT-5.6, GPT-6 Astra y GPT-5.3-Codex, así como la correspondencia entre esos documentos y el Frontier Governance Framework. El desenlace podría definir cuánto peso tendrán, en la práctica, las promesas de seguridad hechas por las empresas que desarrollan IA avanzada.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados