Por Canuto  

Una evaluación de Common Sense Media sostiene que ChatGPT para adolescentes no ofrece protecciones confiables ante situaciones de crisis. OpenAI cuestiona las pruebas y afirma que algunas pudieron comenzar antes de que se activaran por completo los controles parentales.
***

  • Common Sense Media afirma que las alertas a padres fallan, la ayuda en crisis resulta insuficiente y el sistema todavía puede hacer tareas escolares.
  • OpenAI discute la metodología y advierte que la evaluación pudo coincidir con el periodo de activación de los controles parentales.
  • La organización responde que verificó la disponibilidad de algunas funciones antes de las pruebas y que ciertas cuentas tampoco recibieron avisos tras esperar más tiempo.

Common Sense Media cuestiona la seguridad de ChatGPT para adolescentes

Una evaluación pone a prueba las protecciones

Common Sense Media calificó ChatGPT para adolescentes como un «riesgo inaceptable» y sostuvo que las protecciones de la herramienta no cumplen lo que OpenAI prometió. La organización publicó sus conclusiones el 7 de octubre de 2026. Su revisión se centra en la experiencia presentada para adolescentes, que OpenAI introdujo en agosto con barreras diseñadas para ese público y herramientas orientadas al aprendizaje.

Entre los principales problemas señalados, Common Sense Media afirma que ChatGPT no alerta a los padres cuando debería hacerlo y que no ofrece la ayuda adecuada durante situaciones de crisis. También concluye que el sistema todavía puede hacer la tarea de los estudiantes, una crítica que pone en cuestión el equilibrio entre apoyar el aprendizaje y resolver directamente el trabajo escolar. Estas conclusiones describen los resultados de sus pruebas y no constituyen una verificación universal de cada interacción.

Tom Siegel advirtió que las protecciones y alertas podrían generar una falsa confianza entre los padres si no funcionan de manera consistente. Como ejemplo, dijo que un adolescente podría pasar una hora hablando sobre autolesiones sin que sus padres recibieran una alerta. A partir de ese riesgo, Siegel sostuvo que ChatGPT debería ser solo para adultos hasta que OpenAI corrija las deficiencias y demuestre, mediante pruebas independientes, que sus salvaguardas funcionan.

La preocupación principal no se limita a que una herramienta entregue una respuesta inadecuada en una conversación aislada. Las alertas parentales forman parte del mecanismo que, según el diseño descrito por OpenAI, debería ayudar a los adultos a conocer interacciones preocupantes, por lo que una notificación ausente puede impedir que intervengan a tiempo. La evaluación también trata por separado la ayuda durante una crisis y el uso académico: son aspectos diferentes, pero todos afectan la promesa de ofrecer una versión más segura y útil para adolescentes.

El debate importa porque el nombre «para adolescentes» puede sugerir a las familias que la experiencia incorpora protecciones suficientes para ese grupo, aunque una etiqueta de producto no demuestra por sí misma su eficacia. La cuestión práctica es si los controles se activan cuando corresponde, si detectan circunstancias delicadas y si las respuestas ayudan sin sustituir el acompañamiento humano. Common Sense Media recomienda restringir el uso a adultos mientras persistan las dudas, pero presenta esa postura como su conclusión a partir de la evaluación, no como una orden regulatoria.

OpenAI cuestiona el momento de las pruebas

OpenAI rechazó los resultados y defendió su compromiso con la seguridad de los adolescentes, el desarrollo de salvaguardas y la entrega de herramientas para que los padres orienten el uso de IA por parte de sus hijos. Su portavoz, Eric Porterfield, dijo que la empresa da la bienvenida a evaluaciones independientes rigurosas, pero que no considera que las pruebas de Common Sense Media reflejen con precisión el funcionamiento de las protecciones ni las perspectivas de expertos sobre el posible apoyo de la IA a los jóvenes. La empresa no aceptó, por tanto, la interpretación general de la evaluación.

La objeción concreta de OpenAI se refiere a la activación de los controles parentales en cuentas recién vinculadas. Porterfield señaló que, según la revisión interna de la metodología, gran parte de las pruebas pudo empezar y terminar antes de que esos controles estuvieran plenamente activos. Si las cuentas aún se encontraban en ese periodo, argumentó la empresa, los resultados no permitirían establecer si las notificaciones parentales funcionan como fueron diseñadas; por eso calificó las conclusiones como inexactas.

Siegel respondió que Common Sense Media respalda tanto su metodología como sus resultados y que confirmó con OpenAI, antes de comenzar las pruebas, que las funciones del modo Adolescente ya estaban disponibles. Entre las características que menciona figuran las notificaciones relacionadas con trastornos alimentarios y el modo de estudio. La respuesta distingue esas funciones del sistema de alertas parentales: según la organización, OpenAI explicó después de las pruebas que ese componente puede tardar varias horas en activarse en cuentas recién vinculadas.

La organización reconoció que algunas cuentas de prueba se vincularon dentro de ese intervalo de activación, pero agregó que otras permanecieron vinculadas durante mucho más tiempo y tampoco generaron notificaciones. Para Siegel, ese contraste no cambia la conclusión de que las alertas parentales no son confiables en situaciones de crisis. La diferencia entre ambas versiones está en cómo interpretan el posible efecto del retraso: OpenAI dice que puede invalidar parte de las pruebas, mientras Common Sense Media sostiene que no explica todos los casos observados.

Siegel añadió que la organización compartió sus resultados con OpenAI antes de publicarlos y de buena fe, con el objetivo de dar a la empresa la oportunidad de mejorar el producto. También pidió que la compañía responda al contenido de los hallazgos en lugar de sembrar dudas sobre la metodología, y defendió la necesidad de evaluaciones independientes rigurosas para proteger a los menores. OpenAI, por su parte, afirmó que seguirá trabajando con expertos para que sus productos ofrezcan oportunidades de aprender y crear, además de brindar confianza a los padres.

La disputa deja una pregunta abierta sobre cómo medir protecciones que pueden depender del estado de una cuenta y del tiempo transcurrido desde que un adulto la vincula. Para despejarla, serían relevantes pruebas que documenten cuándo se activan los controles y si las alertas llegan bajo distintas condiciones, aunque la información disponible no establece que ambas partes hayan acordado un nuevo protocolo. Por ahora, Common Sense Media mantiene su advertencia y OpenAI sostiene que la evaluación no representa de manera precisa el funcionamiento práctico de ChatGPT para adolescentes.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados