Por Canuto  

Dos senadores de Estados Unidos exigieron explicaciones a TikTok por probar una versión de su algoritmo sin una salvaguarda de seguridad para 15 millones de usuarios, incluidos menores. La investigación busca determinar quién conocía el experimento y por qué la empresa permitió que adolescentes formaran parte del grupo de control.
***

  • TikTok desactivó intencionalmente una salvaguarda algorítmica para 10% de sus usuarios estadounidenses, según un reporte citado por la fuente.
  • La protección buscaba evitar que los usuarios recibieran una cantidad excesiva de contenido dañino; entre los afectados estuvo Chase Nasca, de 16 años.
  • Los senadores Marsha Blackburn y Richard Blumenthal enviaron 13 preguntas a TikTok y fijaron el 1 de septiembre como fecha límite para responder.

Dos senadores estadounidenses exigieron respuestas a TikTok por un experimento en el que la plataforma habría retirado una función de seguridad para 15 millones de usuarios del país. La prueba incluyó a menores y alcanzó a Chase Nasca, un adolescente de 16 años que posteriormente murió por suicidio, según la información citada en la investigación. La controversia gira en torno a la decisión de medir el atractivo de la aplicación mientras se mantenía desactivada una barrera diseñada para limitar la exposición a material dañino.

La senadora Marsha Blackburn, republicana de Tennessee, y el senador Richard Blumenthal, demócrata de Connecticut, enviaron una carta al director ejecutivo de TikTok, Shou Chew, y a Adam Presser, director ejecutivo del negocio estadounidense de la compañía. En el documento calificaron de “depravada” la decisión de llevar adelante el experimento y reclamaron detalles sobre sus responsables, alcance y criterios de seguridad. TikTok recibió como plazo el 1 de septiembre para contestar las preguntas.

La salvaguarda que TikTok puso a prueba

De acuerdo con un reporte de Bloomberg citado por TechCrunch, TikTok desactivó intencionalmente una salvaguarda algorítmica para 10% de sus usuarios estadounidenses, lo que equivale a unos 15 millones de personas. La compañía habría creado así un grupo de control para observar si la protección hacía que la aplicación resultara menos atractiva o redujera el tiempo y el interés de uso. La medida convirtió una función de seguridad en una variable de evaluación comercial dentro de una prueba aplicada a usuarios reales.

La salvaguarda estaba diseñada para evitar que las personas quedaran abrumadas por contenido dañino, una función especialmente sensible en una plataforma cuyo sistema de recomendaciones selecciona videos de manera continua. Al retirarla, TikTok pudo comparar el comportamiento de quienes conservaban la protección con el de quienes recibían recomendaciones sin ese filtro. La información disponible no detalla cuánto duró la prueba ni qué criterios utilizó la empresa para seleccionar a los participantes.

El caso adquiere una dimensión más grave porque, según la noticia, el grupo de control no estuvo limitado a adultos. Los senadores quieren saber por qué TikTok permitió que menores formaran parte del experimento y qué evaluaciones de riesgo realizó antes de desactivar la salvaguarda. También buscan establecer si existían mecanismos para detectar rápidamente una exposición peligrosa y retirar a un usuario de la prueba.

La pregunta de fondo no se limita al rendimiento de un algoritmo, sino a los límites de experimentar con sistemas que influyen en el estado emocional y las decisiones de millones de personas. Cuando una plataforma modifica una protección, incluso con fines de investigación interna, altera las condiciones bajo las cuales los usuarios consumen información. La inclusión de adolescentes eleva el nivel de escrutinio porque agrega una población considerada particularmente vulnerable a determinados patrones de recomendación.

El caso de Chase Nasca

Chase Nasca, de 16 años, figuraba entre las personas incluidas en el grupo de control, según la información difundida sobre el experimento. La noticia sostiene que el algoritmo le mostró miles de videos relacionados con tristeza, suicidio y soledad antes de que muriera por suicidio. Esa secuencia forma parte de los elementos que los senadores buscan examinar, aunque la información publicada no establece por sí sola una conclusión legal definitiva sobre la responsabilidad de TikTok.

El caso plantea interrogantes sobre la forma en que la plataforma identificaba y administraba los llamados ciclos de recomendación, en los que un usuario recibe repetidamente contenidos vinculados con un mismo estado emocional o tema. La salvaguarda retirada supuestamente debía impedir que las personas quedaran abrumadas por material dañino, pero la prueba habría permitido observar precisamente qué ocurría cuando ese límite desaparecía. Para los legisladores, la exposición de un menor a esa dinámica exige conocer las decisiones internas que precedieron al experimento.

La carta no atribuye automáticamente cada video mostrado a una intención específica de la empresa, pero sí cuestiona la elección de retirar una protección conocida. Los senadores quieren determinar si los responsables comprendían que la prueba podía aumentar el contacto con publicaciones sobre suicidio, tristeza y soledad, y si recibieron advertencias antes de autorizarla. También buscan identificar las medidas que TikTok adoptó, o no adoptó, cuando aparecieron señales de posible daño.

La investigación legislativa llega en un momento en que las plataformas digitales enfrentan una presión creciente para explicar cómo funcionan sus sistemas de recomendación. En este caso, el interés no se concentra únicamente en el contenido individual, sino en la decisión deliberada de cambiar una barrera algorítmica para comparar resultados de interacción. La muerte de Nasca convierte esa discusión técnica en una cuestión pública sobre responsabilidad, supervisión y protección de menores.

Las 13 preguntas de los senadores

Blackburn y Blumenthal solicitaron los nombres de todos los empleados que conocían el experimento, una petición destinada a reconstruir la cadena de información dentro de TikTok. También preguntaron por qué la empresa permitió que menores integraran el grupo de control y qué fundamentos utilizó para considerar aceptable esa participación. Esas respuestas podrían mostrar si la decisión surgió de un equipo aislado o si involucró a directivos y áreas de seguridad.

Los senadores además quieren una lista de todos los experimentos algorítmicos realizados en Estados Unidos en los que TikTok desactivó o retrasó una función de seguridad. El pedido amplía el alcance de la investigación más allá de la prueba que involucró la salvaguarda contra contenido dañino. Si la empresa identifica otros casos, el Congreso podría evaluar si se trató de un episodio excepcional o de una práctica más extendida.

El conjunto de 13 preguntas también busca precisar cómo se diseñó el experimento, quién lo aprobó y qué controles se aplicaron a los usuarios expuestos. La información proporcionada no incluye el texto completo de cada interrogante, por lo que no es posible detallar todos sus requerimientos sin añadir datos que no aparecen en la noticia. Sí queda claro que los legisladores pretenden obtener una explicación documentada sobre la lógica, el alcance y las consecuencias de la prueba.

El plazo fijado para el 1 de septiembre da a TikTok un periodo concreto para responder a las solicitudes de los legisladores. Una contestación incompleta podría mantener abierta la presión política y alimentar nuevas preguntas sobre la gobernanza de sus sistemas automatizados. La compañía no respondió de inmediato a la solicitud de comentarios realizada por TechCrunch, según informó ese medio.

El debate sobre los experimentos en plataformas

Las empresas tecnológicas suelen probar cambios en sus productos mediante grupos de usuarios para medir interacciones, retención y otros resultados. Sin embargo, una prueba que elimina una protección de seguridad no equivale a un simple cambio de diseño, porque puede modificar el nivel de riesgo al que queda expuesta la audiencia. En el caso de TikTok, los senadores sostienen que la empresa priorizó conocer si la aplicación era más atractiva por encima de mantener activa una barrera frente al contenido dañino.

La controversia también muestra la dificultad de auditar sistemas cuyos efectos dependen de miles de recomendaciones personalizadas. Un mismo cambio puede producir resultados diferentes entre usuarios, y el impacto puede intensificarse cuando el algoritmo responde a señales de tristeza, aislamiento o interés en temas relacionados con el suicidio. Por eso, la investigación busca conocer no solo el objetivo comercial del experimento, sino también los mecanismos de supervisión y respuesta disponibles durante su ejecución.

La participación de menores añade otra capa de responsabilidad, ya que los senadores cuestionan expresamente la decisión de incluirlos. La noticia no menciona qué consentimiento, revisión ética o aviso recibieron los usuarios, de modo que esos aspectos permanecen entre las cuestiones que TikTok deberá aclarar. Cualquier explicación tendrá que distinguir entre la operación general de la plataforma y las decisiones específicas tomadas para conformar el grupo de control.

Por ahora, el hecho confirmado es que dos senadores solicitaron información detallada y fijaron una fecha límite, mientras que TikTok aún no había respondido públicamente al requerimiento periodístico. Las respuestas de la compañía podrían aportar elementos para determinar cómo se autorizó la prueba y si existieron otros experimentos con salvaguardas desactivadas o retrasadas. Hasta que esos datos se conozcan, las acusaciones sobre el alcance exacto de la responsabilidad deben mantenerse diferenciadas de los hechos descritos en la investigación.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados