Por Canuto  

OpenAI comunicó que, desde el 29 de noviembre, los datos de sesiones de Daybreak Blue podrán usarse para entrenar sus modelos, incluso bajo una configuración que antes los excluía. Tras las críticas, la empresa anunció una opción de exclusión independiente, mientras las interacciones señaladas en revisiones de seguridad seguirían pudiendo utilizarse con fines de seguridad.
***

  • Un correo a participantes de Trusted Access anunció el cambio en el uso de datos de Daybreak Blue a partir del 29 de noviembre.
  • La opción general para impedir que las interacciones mejoren los modelos no cubría antes estas sesiones; OpenAI prometió una exclusión separada.
  • El anuncio reavivó preocupaciones sobre la confianza de investigadores, tras el antecedente de los borradores de Navier-Stokes cargados en Codex.

OpenAI cambiará el uso de datos de Daybreak Blue y promete una opción para excluirse

Un cambio anunciado a participantes de Trusted Access

OpenAI comunicó a los miembros del programa Trusted Access que, a partir del 29 de noviembre, utilizará datos de sesiones de Daybreak Blue para entrenar sus modelos. El aviso llegó mediante un correo electrónico y puso en discusión una distinción importante para quienes participan en tareas de ciberseguridad: qué información puede servir para mejorar sistemas y qué interacciones quedan fuera de ese propósito.

Hasta ahora, los datos de estas sesiones estaban excluidos del entrenamiento, incluso cuando los usuarios desactivaban la opción «mejorar el modelo para todos». El cambio, por tanto, no solo modifica el tratamiento de esas interacciones, sino que también muestra que la configuración general no equivalía a una prohibición específica para Daybreak Blue.

The Decoder informó sobre el correo enviado a los participantes y señaló que la reacción de los usuarios fue inmediata. La publicación no detalla cuántas personas recibieron el aviso ni cuántas cuestionaron la medida, de modo que la respuesta debe describirse como una reacción reportada, sin atribuirle una escala que la información disponible no establece.

Después de las críticas, OpenAI envió un segundo mensaje y prometió habilitar una opción separada para excluirse del entrenamiento con estos datos. El anuncio aclara la intención de ofrecer un control específico, aunque la información publicada no precisa cómo funcionará, cuándo estará disponible ni si tendrá algún efecto retroactivo sobre sesiones anteriores.

Por qué importa la diferencia entre controles

La controversia se centra en la expectativa que crea una opción de privacidad. Si una persona desactiva un ajuste descrito como una forma de evitar que sus interacciones mejoren los modelos, puede interpretar que esa decisión cubre sus conversaciones en general; el caso de Daybreak Blue muestra que una categoría de sesiones puede tener reglas distintas.

La existencia de una excepción no demuestra por sí misma que OpenAI haya usado indebidamente datos, pero sí hace relevante que el alcance de cada configuración resulte comprensible antes de que un usuario comparta información. En ámbitos de ciberseguridad, donde una sesión puede incluir detalles técnicos sensibles, la claridad sobre el destino de los datos influye directamente en la confianza de quienes participan.

La opción separada prometida por la empresa responde a una preocupación concreta: permitir que los usuarios expresen una preferencia específica para las sesiones de Daybreak Blue, en lugar de depender de un ajuste general. Sin embargo, mientras no se conozcan sus condiciones de uso, no es posible afirmar qué datos abarcará ni qué pasos tendrán que seguir los participantes para ejercer ese control.

También es importante distinguir entre entrenar modelos y utilizar interacciones con fines de seguridad. El correo, según la información reportada, mantiene abierta la posibilidad de que las sesiones marcadas durante revisiones de seguridad se usen para esos fines, incluso si el usuario opta por excluirse del entrenamiento; son propósitos distintos y la compañía no los presenta como equivalentes.

El recuerdo de los borradores de Navier-Stokes

El cambio reavivó entre investigadores la preocupación por el caso de los matemáticos Tristan Buckmaster y Levent Alpöge. Ambos cargaron borradores de sus ecuaciones de Navier-Stokes en Codex, una herramienta de OpenAI, y la empresa presentó poco después su propia demostración relacionada con ese problema matemático.

OpenAI negó haber utilizado los aportes de los investigadores para entrenar sus modelos, según el relato de la noticia. La fuente no presenta pruebas de que la empresa haya incorporado aquellos borradores, por lo que la sospecha debe mantenerse como una inquietud sobre el uso de datos y no transformarse en una afirmación de apropiación o uso confirmado.

El episodio, sin embargo, dejó en evidencia cómo la falta de certeza puede afectar a quienes comparten trabajo inédito con herramientas de inteligencia artificial. Aunque la empresa niegue haber usado esos materiales para entrenar, los investigadores pueden preguntarse qué ocurrió con sus aportes y qué garantías tienen cuando cargan ideas que todavía no han publicado.

La conexión con Daybreak Blue está en la confianza y en las reglas de uso, no en que ambos casos sean idénticos. El primero involucró borradores matemáticos y una negativa de OpenAI sobre el entrenamiento; el segundo plantea un cambio anunciado para datos de sesiones de ciberseguridad que antes estaban excluidos, además de una futura opción de exclusión específica.

Qué deja pendiente el anuncio

La promesa de una opción separada constituye una respuesta a la reacción de los participantes, pero los detalles serán decisivos para entender su alcance. La información divulgada no indica si el control aparecerá antes del 29 de noviembre, si permitirá revisar preferencias anteriores o si tendrá una aplicación uniforme para todos los miembros del programa.

También queda pendiente precisar cómo se gestionarán las sesiones señaladas durante revisiones de seguridad. OpenAI indicó que esas interacciones aún podrían utilizarse con fines de seguridad, una salvedad que plantea una pregunta práctica para los usuarios: cómo distinguirá la empresa ese tratamiento de la incorporación de datos al entrenamiento de modelos.

Para los equipos que trabajan con información técnica delicada, el caso subraya la importancia de revisar las condiciones específicas de cada herramienta y de cada programa, en vez de asumir que una preferencia general cubre todas las categorías de datos. Esa precaución no implica que los usuarios deban dejar de utilizar estos sistemas, pero sí que conviene conocer qué controles existen antes de compartir material sensible.

Por ahora, los hechos centrales son acotados: OpenAI anunció que usará datos de sesiones de Daybreak Blue para entrenar sus modelos desde el 29 de noviembre, recibió críticas y prometió una vía independiente para excluirse. La medida deja abierto el debate sobre transparencia y consentimiento, mientras el antecedente de Buckmaster y Alpöge ayuda a explicar por qué algunos investigadores examinan con cautela las reglas que rigen el material que entregan a herramientas de IA.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados