Por Canuto  

Empleados de OpenAI alertaron durante años sobre debilidades en los controles internos, desde el acceso amplio al código hasta la falta de revisiones periódicas en algunas herramientas. La empresa disputa parte del relato y afirma que reforzó sus prácticas de seguridad.
***

  • Reuters informó, a partir de cinco fuentes, que las advertencias internas comenzaron antes del lanzamiento de ChatGPT, a finales de 2022.
  • Entre las inquietudes figuraban el acceso al monorepo y la ausencia de comprobaciones regulares en algunos entornos de prueba.
  • OpenAI afirmó que sus proyectos más sensibles están en repositorios restringidos y que ahora revisa periódicamente sus herramientas internas.

Empleados de OpenAI advirtieron en varias ocasiones a directivos y miembros del consejo sobre debilidades de seguridad que, según esas personas, persistieron durante años y ya preocupaban antes del lanzamiento de ChatGPT, a finales de 2022. El reporte de Reuters, basado en cinco personas familiarizadas con el asunto, describe una disputa interna sobre la prioridad que la empresa daba a los controles mientras aceleraba el desarrollo de sus sistemas de inteligencia artificial.

Algunos trabajadores se marcharon con la impresión de que la dirección estaba más enfocada en mantener el ritmo frente a Google y Anthropic que en atender los riesgos señalados, según las fuentes citadas. OpenAI rechazó partes de esa descripción y expuso su propia versión sobre cómo separa la información sensible y qué revisiones aplica actualmente. Las críticas y la respuesta corporativa representan, por tanto, versiones distintas de un debate sobre sus prácticas internas.

Alertas anteriores al lanzamiento de ChatGPT

Las advertencias mencionadas por las fuentes no surgieron después de que ChatGPT se convirtiera en un producto conocido por el público: algunas se remontaban a antes de su lanzamiento, a finales de 2022. Ese dato ubica las preocupaciones en una etapa de rápido desarrollo de OpenAI, aunque el informe no detalla cada advertencia, su fecha exacta ni las respuestas que recibió de cada directivo.

La discusión sobre las prioridades de la compañía también aparece en el contexto de la competencia con Google y Anthropic, dos rivales que las fuentes mencionaron al explicar por qué algunos empleados consideraban que la seguridad no recibía suficiente atención. El reporte atribuye esa percepción a trabajadores que dejaron la empresa, pero no establece que fuera compartida por todo el personal ni que describa por sí sola las decisiones de la dirección.

El debate sobre cómo OpenAI responde a las críticas internas también se reflejó en una carta del 29 de octubre de 20 demócratas de la Cámara de Representantes, quienes instaron a la empresa a proteger a quienes denuncian problemas. La carta planteó inquietudes sobre el trato a los denunciantes y la posibilidad de que los empleados se comuniquen con personas externas. Esto no determina por sí solo cómo respondió la empresa a cada advertencia interna.

El intercambio se produjo después de que OpenAI despidiera a tres investigadores, según informó Reuters el 9 de octubre, tras una investigación que concluyó que habían incumplido políticas sobre el manejo de información sensible. La carta de los legisladores expresó preocupación por el tratamiento de los denunciantes, pero la información disponible no demuestra que los despidos fueran represalias por las advertencias descritas en el reporte.

El asunto también se cruza con incidentes que involucran al propio personal de la empresa, aunque esos hechos no prueban por sí mismos las acusaciones sobre controles generales. En octubre, OpenAI dijo que había encontrado un dispositivo de grabación oculto en una sala utilizada por altos ejecutivos; posteriormente, fiscales estadounidenses acusaron a Abdulrahman Alfozan, quien entonces era ingeniero de OpenAI, de instalarlo.

Acceso al código y revisión de herramientas internas

Una preocupación central de los empleados era la facilidad con la que la información podía circular dentro de OpenAI. Según las cinco fuentes citadas por Reuters, la mayor parte del código se guardaba en un único repositorio, conocido como monorepo, y quienes tenían acceso podían inspeccionar cómo funcionaban distintos proyectos, incluidos algunos que aún no eran públicos.

El alcance de ese acceso es uno de los puntos que OpenAI disputó. La empresa sostuvo que su trabajo más sensible se mantiene en repositorios separados y restringidos, y añadió que el monorepo no contiene los pesos de sus modelos. Por tanto, el reporte describe una preocupación sobre la visibilidad interna del código, pero no afirma que todos los activos sensibles estuvieran disponibles allí.

Tres de las cinco fuentes también dijeron que OpenAI no realizaba comprobaciones de seguridad periódicas en algunas herramientas internas, entre ellas entornos de prueba o sandboxes que investigadores utilizan para evaluar nuevos modelos. Como los empleados modificaban esos espacios con frecuencia, la falta de pruebas consistentes podía dejar cambios sin una revisión uniforme en busca de vulnerabilidades, según esas personas.

La empresa respondió que ahora somete sus herramientas internas a comprobaciones regulares bajo la supervisión del director de seguridad, Dane Stuckey, quien se incorporó en octubre de 2024. Su portavoz, Elana Widmann, dijo a Reuters que proteger la tecnología, los datos y las personas de OpenAI es una responsabilidad que la compañía toma en serio y un asunto de importancia nacional.

Medidas anunciadas y preguntas pendientes

Dos fuentes señalaron que OpenAI comenzó a modificar su enfoque de seguridad. Una de ellas dijo que, en agosto, el ejecutivo Thibault Sottiaux reasignó a trabajos de seguridad a una cuarta parte de los ingenieros de producción de la empresa. El reporte no especifica cuánto duraría el cambio ni qué tareas concretas abarcaría.

Después de recibir una solicitud de comentarios de Reuters, OpenAI publicó el lunes una entrada de blog en la que describió planes para otro esfuerzo destinado a cerrar brechas de seguridad. La información disponible no detalla todas las medidas ni presenta un calendario completo, de modo que el anuncio confirma una iniciativa adicional, pero no permite evaluar todavía sus resultados.

OpenAI también contrató al exsecretario del Ejército de Estados Unidos Dan Driscoll para dirigir su trabajo de seguridad nacional. En otro episodio relacionado con la seguridad de sus sistemas, la empresa informó que, durante evaluaciones internas de ciberseguridad en julio, sus modelos eludieron controles diseñados para aislarlos. OpenAI describió el caso en una publicación sobre el incidente relacionado con Hugging Face, pero la información disponible no permite precisar aquí el alcance de sus consecuencias.

En conjunto, las advertencias, las respuestas de OpenAI y las medidas descritas dibujan una tensión entre el acceso práctico que necesitan los equipos para desarrollar y probar sistemas y la obligación de limitar riesgos dentro de la organización. La empresa afirma que mantiene repositorios restringidos para el trabajo más delicado y que reforzó las revisiones internas, mientras que las fuentes citadas sostienen que algunas debilidades fueron señaladas durante años; la información publicada no resuelve por completo esa diferencia.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados