Por Canuto  

Dos usuarios de California demandaron a OpenAI por presuntamente permitir que contratistas externos revisen conversaciones de ChatGPT sin explicar con claridad ese acceso. El caso pone el foco en Project Lily, el uso de evaluaciones humanas y las medidas que los demandantes quieren imponer.
***

  • Dos usuarios presentaron una demanda colectiva propuesta en California y acusan a OpenAI de no informar adecuadamente que contratistas externos podrían leer chats reales.
  • El caso se enfoca en Project Lily, un programa en el que evaluadores resumen consultas y califican respuestas de ChatGPT en una escala de 1 a 7.
  • Los demandantes piden consentimiento previo, que la opción de mejorar el modelo venga desactivada por defecto y una advertencia visible en la ventana de chat.

 

Dos usuarios de California sostienen que OpenAI permitió a contratistas externos revisar conversaciones reales de ChatGPT sin comunicarlo de forma suficientemente clara. La demanda colectiva propuesta cuestiona el acceso humano a los chats y reclama cambios en la configuración de privacidad y en la manera de pedir consentimiento.

El caso se presentó ante el Tribunal de Distrito de Estados Unidos para el Distrito Norte de California y gira alrededor de Project Lily, un programa interno de evaluación. Según la demanda, trabajadores contratados a través de empresas externas leen consultas y conversaciones, resumen lo que buscaba el usuario y califican respuestas del chatbot.

El acceso de contratistas, eje de la demanda

La demanda sostiene que OpenAI envía conversaciones reales de usuarios a contratistas externos sin explicar de manera adecuada que una persona podría leerlas. La empresa fue notificada el 2 de septiembre y, de acuerdo con la información del caso, tiene hasta el 13 de octubre para responder ante el tribunal; la existencia de la demanda no equivale a una decisión judicial sobre la veracidad de sus alegaciones.

Los demandantes son dos usuarios de California que buscan representar a un grupo más amplio mediante una acción colectiva propuesta. Su reclamo se enfoca en quién puede acceder a los chats, bajo qué condiciones y qué información reciben las personas antes de compartir contenido con ChatGPT, no únicamente en la operación técnica del chatbot.

La iniciativa señalada es Project Lily, sobre la que 404 Media publicó un reporte el 14 de septiembre de 2026. Según la demanda, OpenAI recurre a contratistas contratados mediante empresas de personal para tareas como revisor de datos de IA y evaluador de chatbots, funciones que implican examinar interacciones de usuarios y valorar la calidad de las respuestas.

Decrypt informó que los evaluadores pueden leer consultas concretas y conversaciones completas, resumir la intención del usuario y comparar cuatro respuestas del modelo. Después, califican y critican esas respuestas en una escala de 1 a 7; el procedimiento descrito transforma interacciones cotidianas en material de evaluación para mejorar el funcionamiento del sistema.

Cómo encaja la evaluación humana en el entrenamiento

La revisión descrita forma parte de una práctica conocida en la industria como RLHF, sigla en inglés de aprendizaje por refuerzo a partir de retroalimentación humana. En términos generales, personas comparan o evalúan respuestas de un modelo y sus preferencias pueden ayudar a orientar sistemas para que produzcan contestaciones consideradas más útiles o adecuadas.

La demanda no cuestiona solo que exista evaluación humana, sino que, según sus autores, los usuarios no habrían recibido una explicación suficientemente clara de que sus conversaciones podrían llegar a revisores externos. Esa diferencia es central: el debate legal se relaciona con la información ofrecida y el consentimiento, además del uso de los chats en procesos de evaluación.

OpenAI, según el reporte de Decrypt, ha explicado que estas revisiones buscan reducir dos comportamientos: que el chatbot actúe de forma demasiado humana y que sea excesivamente complaciente. Los investigadores llaman adulación o sycophancy a esa segunda tendencia, en la que un sistema responde de manera que parece decirle al usuario lo que desea escuchar, en lugar de priorizar la precisión.

El caso describe también un filtro automatizado que revisaría las conversaciones antes de que una persona pueda acceder a ellas. Los demandantes alegan que el filtro no siempre detecta toda la información sensible y que algunos datos personales pueden llegar igualmente a los contratistas; por ahora, ese punto forma parte de las acusaciones y no de una conclusión judicial.

Privacidad, memorias y datos personales

La preocupación aumenta porque, según la cobertura de 404 Media citada en el reporte, el panel de trabajo de los revisores incluye un resumen de memorias del usuario. Ese material recopila aspectos de conversaciones anteriores y podría revelar datos como la ubicación general, la profesión o circunstancias de la vida personal, aunque se eliminen los nombres de usuario.

La demanda plantea que los usuarios pueden compartir información de naturaleza delicada al conversar con un asistente de IA. Entre los ejemplos que menciona están síntomas de salud, mensajes sobre rupturas, preguntas de impuestos y problemas legales, temas que una persona podría considerar privados incluso si no incluye su nombre en el chat.

En febrero de 2026, OpenAI anunció que ChatGPT había alcanzado los 900 millones de usuarios activos semanales, según TechCrunch. La cifra no determina por sí misma si hubo una infracción, pero ayuda a dimensionar el alcance potencial de una práctica de revisión que podría involucrar conversaciones de una gran cantidad de personas.

Los demandantes argumentan que la política de privacidad de OpenAI menciona algunas categorías de terceros que pueden acceder a datos, pero no identifica de manera específica a proveedores de anotación de datos o evaluación humana. La disputa, por tanto, se centra en si las explicaciones existentes permiten que los usuarios comprendan que sus conversaciones podrían ser leídas por contratistas durante tareas de evaluación.

Los cambios que piden y los próximos pasos

La demanda incluye ocho reclamos legales, entre ellos presuntas violaciones de la Ley de Competencia Desleal de California y de la Ley de Privacidad del Consumidor de ese estado. También invoca figuras del derecho consuetudinario, incluida la intrusión en la privacidad, que se refiere a interferencias en asuntos privados que una persona razonable podría considerar ofensivas.

Los demandantes solicitan daños, restitución y daños punitivos, además de medidas para modificar la forma en que OpenAI obtiene autorización. En particular, piden que la empresa exija una aceptación expresa antes de enviar conversaciones a revisores externos, en vez de permitir ese acceso sin una decisión afirmativa previa del usuario.

Otra petición busca que la opción «Mejorar el modelo para todos» permanezca desactivada por defecto. Los demandantes también quieren una advertencia clara dentro de la propia ventana de chat, de modo que la información sobre posibles revisiones humanas aparezca en el lugar donde las personas escriben y no dependa únicamente de consultar una política de privacidad.

La solicitud judicial contempla además la posibilidad de eliminar el producto de trabajo asociado con las conversaciones revisadas y volver a entrenar cualquier modelo que lo haya utilizado. Esa medida, al igual que el resto de las peticiones, no ha sido ordenada por el tribunal: forma parte de lo que los demandantes buscan obtener en el litigio.

El plazo indicado para que OpenAI responda vence el 13 de octubre. Hasta entonces, la demanda abre una discusión sobre la transparencia de los procesos de evaluación de inteligencia artificial y el control que tienen los usuarios sobre sus conversaciones, pero sus acusaciones deberán avanzar por el proceso judicial antes de convertirse en determinaciones legales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados