Por Canuto  

Documentos revisados por 404 Media revelan que contratistas humanos leen, resumen y califican conversaciones reales de ChatGPT para mejorar sus respuestas. Aunque OpenAI afirma que elimina identificadores, reconoce que su filtro puede fallar y que la opción para impedir el uso de chats está desactivada por defecto en varias cuentas personales.
***

  • OpenAI emplea contratistas externos para leer prompts reales, resumir la intención del usuario y calificar respuestas de ChatGPT.
  • El filtro automatizado de privacidad puede dejar pasar información personal, mientras algunos paneles incluyen resúmenes de memorias del usuario.
  • Las cuentas gratuitas, Plus y Pro deben desactivar manualmente la opción “Mejorar el modelo para todos” para proteger las conversaciones nuevas.

OpenAI emplea a cientos de contratistas externos para leer, resumir y evaluar conversaciones reales de ChatGPT, según una investigación de 404 Media basada en documentos internos y testimonios de trabajadores. El programa, identificado internamente como Project Lily, busca mejorar la calidad de las respuestas y corregir comportamientos como la adulación excesiva, la antropomorfización y el llamado “habla de IA”. La revelación reabre una pregunta central para los usuarios: hasta qué punto una conversación que parece privada puede terminar frente a ojos humanos.

Los revisores pueden encontrar intercambios completos en los que las personas usan el chatbot como terapeuta, asistente profesional, compañero de programación o confidente. Aunque OpenAI asegura que no entrega los nombres de usuario y aplica un filtro automatizado para retirar datos identificativos, también admite que esa herramienta puede equivocarse. Para quienes comparten información médica, laboral, financiera o familiar con el sistema, la diferencia entre anonimizar una cuenta y proteger realmente el contenido puede resultar decisiva.

Cómo funciona Project Lily

El proceso de evaluación comienza cuando un contratista recibe un prompt real de ChatGPT, que puede formar parte de una conversación más extensa. Primero debe resumir qué cree que el usuario intenta conseguir y, después, revisar cuatro respuestas generadas por el modelo para señalar cuáles cumplen con la intención original. Finalmente, asigna una calificación de uno a siete y redacta una justificación sobre la utilidad, la precisión, el tono y los problemas detectados.

Las instrucciones internas piden que una respuesta excelente comprenda la solicitud, ofrezca asistencia útil y precisa, y mantenga un estilo claro, natural y apropiadamente cálido. Una respuesta puede recibir una nota baja aunque contenga información correcta si resulta demasiado larga, desordenada o poco natural. Los revisores también deben marcar problemas de corrección y penalizar la falta de fuentes en asuntos de alto riesgo, como consultas médicas, legales y financieras.

Parte del entrenamiento busca que ChatGPT deje de presentarse como una persona con experiencias propias. Las guías prohíben expresiones como “Como chef, me gusta” o “Sé cómo te sientes”, aunque permiten fórmulas funcionales en primera persona, como “Voy a echar un vistazo”. El objetivo es conservar una interacción natural sin sugerir que el modelo tiene recuerdos, emociones o una vida personal.

Los documentos también ordenan reducir la adulación y la imitación forzada del estilo del usuario. Los contratistas deben señalar finales diseñados para provocar más interacción, supuestos condescendientes, amplificación de la frustración y emojis innecesarios, aunque el contexto importa: un emoji de árbol podría ser adecuado al hablar del Día del Árbol, mientras que uno de calavera en una conversación sobre la muerte sería inapropiado. El material no identifica qué modelo concreto se entrena bajo el nombre Project Lily.

El límite del anonimato

OpenAI dijo que las conversaciones pasan por una versión de su Privacy Filter antes de llegar a los contratistas. La empresa describe esa herramienta como un sistema capaz de detectar y eliminar información personal, pero reconoce que puede pasar por alto identificadores poco comunes, referencias privadas ambiguas o datos cuyo significado depende de un contexto más amplio. También puede censurar en exceso cuando recibe fragmentos demasiado cortos o poco claros.

La investigación encontró que el panel de trabajo no siempre muestra solo el mensaje aislado del usuario. En ocasiones aparece un resumen de memorias que ofrece contexto sobre usos anteriores del chatbot y puede incluir la ubicación general de la persona, su profesión u otros elementos de su vida. Aunque ese bloque no necesariamente revela una identidad completa, puede hacer que una conversación supuestamente anónima sea mucho más fácil de interpretar.

Algunos prompts revisados incluso pedían a ChatGPT que mantuviera el contenido en privado, una instrucción que no impide el tratamiento interno de los datos. La interfaz de un chatbot crea una sensación de conversación uno a uno, diferente de la expectativa que suele acompañar a una publicación pública en redes sociales. Michal Luria, investigadora principal del Center for Democracy & Technology, advirtió que esa falsa intimidad vuelve especialmente importante explicar quién puede revisar las conversaciones.

Sarah T. Roberts, profesora de UCLA y autora de Behind the Screen: Content Moderation in the Shadows of Social Media, comparó la situación con descubrir al hombre detrás de la cortina en El Mago de Oz. Su observación apunta a una contradicción del desarrollo de la inteligencia artificial: los productos se presentan como automatizados, pero requieren una intervención humana constante para ajustar sus límites, tono y seguridad. Esa labor permanece poco visible para la mayoría de los usuarios.

Qué pueden hacer los usuarios

En las cuentas personales gratuitas, Plus y Pro, la opción “Mejorar el modelo para todos” aparece activada por defecto, de acuerdo con la información proporcionada por OpenAI. Para impedir que las conversaciones nuevas se usen en la mejora de modelos, el usuario debe abrir ChatGPT, entrar en Configuración, seleccionar Controles de datos y desactivar esa función. Las cuentas Enterprise, Business y Edu mantienen la mejora del modelo desactivada por defecto.

La exclusión no funciona de manera retroactiva, por lo que no elimina conversaciones que ya hayan sido desidentificadas y separadas de una cuenta o incorporadas al flujo de entrenamiento. OpenAI también mantiene revisiones automatizadas y, en determinados casos, controles humanos relacionados con violaciones de los términos de servicio o riesgos de seguridad. Desactivar la mejora del modelo, por tanto, no equivale a convertir el servicio en un espacio completamente privado.

La compañía no respondió inicialmente cuando se le preguntó si informaba de forma explícita que contratistas humanos podían leer prompts para mejorar las respuestas. Después de que 404 Media solicitara comentarios, OpenAI actualizó su página de ayuda sobre la configuración y señaló otra página que menciona la revisión humana para mejorar el rendimiento del modelo. Sin embargo, la actualización no explicó con claridad que los revisores pueden analizar conversaciones reales dentro de programas como Project Lily.

La práctica tampoco se limita a OpenAI. Anthropic confirmó que emplea revisión humana para mejorar Claude cuando el usuario activa la opción correspondiente en su configuración de privacidad, y señaló que elimina identificadores de cuenta como las direcciones de correo electrónico. Google muestra en Gemini un aviso según el cual humanos revisan algunos chats guardados para mejorar sus sistemas, una diferencia de comunicación que intensifica el debate sobre el consentimiento y las expectativas razonables de privacidad.

El trabajo humano detrás de la inteligencia artificial

El contratista entrevistado por 404 Media vive en Norteamérica y afirmó que recibe más de USD $50 por hora. Dijo que consiguió el trabajo mediante Crossing Hurdles, una firma que conecta profesionales con tareas de entrenamiento, evaluación e investigación de inteligencia artificial, y que luego fue remitido a Mercor, la empresa que finalmente paga a quienes revisan los prompts de ChatGPT.

Las ofertas de Crossing Hurdles incluían puestos de revisor de datos, anotador y evaluador de chatbots, con tareas de comparación de respuestas y valoración de su personalización, fundamentación e integración. La firma también anunciaba proyectos en los que contratistas se graban realizando labores domésticas, una clase de recolección de datos utilizada para desarrollar robótica impulsada por inteligencia artificial. El trabajador describió la revisión de prompts como un trabajo a veces entretenido, pero en general mecánico y desordenado.

Según su relato, las instrucciones cambian con frecuencia y pueden parecer contradictorias, una dificultad que afecta la consistencia de las evaluaciones. La investigación recordó que los revisores humanos llevan años participando en la moderación de contenido y en el etiquetado de datos para sistemas de inteligencia artificial, incluidos modelos capaces de detectar objetos en transmisiones de cámaras. Una investigación de TIME también había documentado la contratación de trabajadores kenianos para etiquetar fragmentos de texto y reducir la toxicidad de una plataforma de OpenAI.

El pago descrito para este proyecto supera lo que reciben muchos contratistas de moderación y entrenamiento de IA, especialmente quienes trabajan en el extranjero, pero esa diferencia podría no mantenerse. Sarah Roberts señaló que la industria depende de una labor humana que suele considerar menos valiosa y remunerar peor, pese a que esa intervención determina cómo responden los sistemas en situaciones complejas. Mientras los chatbots buscan parecer más naturales, la conversación sobre quién los entrena y quién puede leer a los usuarios apenas comienza.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados