Por Angel Di Matteo   𝕏 @shadowargel

La creciente automatización de los sistemas de moderación de Meta ha provocado que usuarios, pequeñas empresas y organizaciones denuncien suspensiones injustificadas de sus cuentas en Facebook e Instagram. Mientras la empresa asegura que la inteligencia artificial comete menos errores que los revisores humanos, numerosos afectados afirman que resulta casi imposible conseguir una revisión realizada por personas.

***

  • Meta aumentó el uso de IA para suspender cuentas y revisar apelaciones.
  • Miles de usuarios denuncian bloqueos erróneos y falta de revisión humana.
  • Algunos perfiles fueron restaurados solo después de una investigación periodística.

 

Para millones de personas, una cuenta en Facebook o Instagram ya no representa únicamente un espacio para compartir fotografías o comunicarse con amigos. También constituye una herramienta de trabajo, un canal comercial y, en muchos casos, el principal punto de contacto con clientes y comunidades.

Ese fue precisamente el problema que enfrentaron Camille y Calvin Hanson, una pareja que administra un negocio dedicado a enseñar inglés a personas cuya lengua materna no es ese idioma. Entre ambas plataformas habían reunido cerca de un millón de seguidores, detalla un informe publicado por The New York Times.

Una noche de marzo, Camille Hanson recibió una notificación indicando que sus cuentas habían sido marcadas para eliminación permanente por supuestamente infringir las normas comunitarias relacionadas con fraude y engaño.

La profesora aseguró que la acusación no tenía sentido para ella. Según relató, lo primero que pensó fue qué podía haber hecho mal si simplemente impartía clases de inglés mediante redes sociales.

Meta le permitió presentar una apelación, pero aproximadamente una semana después recibió una nueva notificación indicando que la solicitud había sido rechazada y que no podría solicitar otra revisión antes de que toda la información fuera eliminada permanentemente.

Cuando un algoritmo decide el futuro de un negocio

Calvin Hanson comparó la situación con llegar un día al negocio físico de una empresa y descubrir que alguien simplemente cerró el local sin ofrecer explicaciones suficientes ni mecanismos efectivos para recuperarlo.

El caso refleja uno de los desafíos que acompañan la creciente adopción de inteligencia artificial para moderar plataformas digitales de gran escala. Los sistemas automatizados ya no solo identifican publicaciones potencialmente problemáticas, sino que también participan en las decisiones sobre suspensiones y apelaciones.

En marzo, Meta anunció que otorgaría más responsabilidades a sistemas de inteligencia artificial para determinar qué cuentas deben ser suspendidas y qué contenido debe eliminarse por incumplir sus políticas.

Meses después, la compañía despidió a miles de empleados, incluidos trabajadores que anteriormente realizaban tareas relacionadas con la moderación de contenido.

La combinación de una mayor automatización y una reducción de personal ha generado preocupación entre numerosos usuarios que aseguran no encontrar canales efectivos para contactar a un representante humano cuando consideran que una decisión fue equivocada.

Las quejas aumentan mientras Meta defiende su tecnología

La inconformidad ha impulsado la creación de comunidades de usuarios afectadas por estas decisiones. Más de 60.000 personas firmaron recientemente una petición en línea solicitando mayor transparencia sobre los bloqueos y la posibilidad de que las apelaciones sean revisadas por personas.

Foros de discusión y comunidades en Reddit también han recibido una gran cantidad de publicaciones de usuarios que afirman haber perdido cuentas personales, perfiles comerciales y páginas de organizaciones sin comprender el motivo exacto.

Daniel Roberts, portavoz de Meta, rechazó la idea de que la inteligencia artificial sea menos eficaz que los moderadores humanos.

Según Roberts, las nuevas herramientas automatizadas cometen un 13% menos de errores que los empleados encargados de esas tareas y además detectan un 10% más de infracciones a las normas comunitarias.

El portavoz también indicó que las cinco cuentas cuya situación fue consultada posteriormente fueron suspendidas utilizando herramientas anteriores de moderación automatizada y no los sistemas más recientes implementados por la empresa, según explicó la compañía.

Errores, hackeos y restauraciones inesperadas

Los problemas relacionados con inteligencia artificial no se limitan únicamente a la moderación de contenido. Durante mayo, atacantes aprovecharon vulnerabilidades del chatbot de atención al cliente impulsado por IA para comprometer aproximadamente 34.000 cuentas de Instagram, incluida una antigua cuenta vinculada al expresidente Barack Obama.

Ese mismo mes también surgieron protestas internas cuando empleados manifestaron su rechazo a un programa destinado a registrar movimientos del teclado con el objetivo de entrenar modelos de inteligencia artificial. La empresa terminó pausando esa iniciativa.

Además, la semana pasada un grupo de 26 antiguos empleados presentó una demanda alegando que fueron despedidos mediante un algoritmo de inteligencia artificial que habría seleccionado a trabajadores con discapacidades.

Meta respondió que las decisiones relacionadas con la administración de la fuerza laboral y la organización continúan siendo tomadas por personas y no por sistemas automatizados.

Estos episodios han intensificado el debate sobre hasta qué punto resulta conveniente delegar decisiones sensibles en algoritmos cuando los errores pueden afectar empleos, empresas y reputaciones construidas durante años.

Las consecuencias para usuarios y organizaciones

Entre los casos citados aparece Athenia Rodney, responsable de JuneteenthNY, una organización dedicada a conmemorar el fin de la esclavitud en Estados Unidos.

Meta suspendió todas sus cuentas personales y profesionales argumentando que su tecnología había detectado actividades que incumplían las normas de la plataforma. Rodney afirmó no comprender la decisión porque el contenido publicado por su organización era apto para toda la familia.

Poco antes de la suspensión, la organización había recibido alertas sobre intentos de acceso desde Seattle y Singapur, aunque Rodney reside en Atlanta. Tras cambiar sus contraseñas, seis cuentas vinculadas a distintas actividades igualmente terminaron suspendidas.

Para intentar recuperarlas presentó documentos de identidad, acudió al Better Business Bureau, presentó reclamaciones ante la Federal Trade Commission, contactó oficinas estatales de protección al consumidor e incluso buscó empleados de Meta mediante LinkedIn. Ninguna de esas acciones produjo resultados inmediatos.

La pérdida de presencia en redes sociales terminó afectando la credibilidad de JuneteenthNY ante patrocinadores que utilizaban sus perfiles para comprobar que la organización llevaba cerca de dos décadas desarrollando sus actividades.

Posteriormente, después de que varios casos fueran consultados directamente por The New York Times, Meta revisó nuevamente algunas suspensiones.

La empresa concluyó que dos cuentas habían sido comprometidas por atacantes y fueron suspendidas correctamente debido a las actividades realizadas por los hackers, quienes infringieron políticas relacionadas con la protección infantil. Esas cuentas fueron restauradas posteriormente.

Meta también reconoció que dos de las cinco cuentas consultadas habían sido bloqueadas por error, incluyendo las pertenecientes a Camille y Calvin Hanson.

Otro caso fue el del creador de contenido Roberto Suarez, quien había construido una audiencia superior a 500.000 seguidores antes de perder su cuenta.

Tras una primera restauración, Meta devolvió sus fotografías, seguidores y mensajes. Sin embargo, pocas semanas después volvió a suspender el perfil alegando supuestas infracciones de derechos de autor, acusación que Suarez rechazó.

Después de una nueva consulta periodística, la plataforma volvió a restaurar su cuenta. Camille Hanson también recibió un mensaje indicando que Meta había revisado nuevamente el caso y determinado que su actividad sí cumplía las normas comunitarias sobre fraude y engaño.

La empresa concluyó su comunicación con una disculpa directa: reconoció que la decisión inicial había sido un error.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados