Por Canuto  

La Junta de Supervisión de Meta recomendó nueve cambios para enfrentar deepfakes sexuales, desinformación generada por IA e interferencia electoral, mientras la empresa evalúa si adoptará las medidas.
***

  • La Junta pidió que las suplantaciones generadas por IA se consideren no consentidas por defecto.
  • El organismo recomendó crear un estándar comunitario específico para el contenido generado por IA.
  • Meta no está legalmente obligada a aplicar las propuestas y todavía debe responder si las acepta, rechaza o modifica.

La Junta de Supervisión de Meta presentó nueve recomendaciones destinadas a reformar la moderación de deepfakes, reforzar la protección frente a la interferencia electoral y crear reglas específicas para la inteligencia artificial generativa. El paquete surge después de dos casos que dejaron al descubierto vacíos en las políticas vigentes de la compañía. Uno de los expedientes involucró un video sexualizado generado por IA que suplantaba a una persona no pública en Instagram, mientras el otro examinó contenido engañoso difundido durante el conflicto entre Israel e Irán de 2025.

La propuesta central busca cambiar el punto de partida con el que la plataforma analiza las suplantaciones sintéticas. En lugar de exigir que una víctima se presente primero para demostrar el daño o solicitar el retiro del material, la Junta quiere que este tipo de contenido se clasifique como no consentido por defecto. La modificación tendría especial impacto en casos que afectan a mujeres y niños, grupos que el organismo identifica como objetivos frecuentes del abuso de deepfakes.

El caso de Instagram que expuso la falla

El 23 de junio, la Junta de Supervisión anunció un caso relacionado con un video sexualizado creado con inteligencia artificial y publicado en Instagram. El material representaba a una persona privada, por lo que el conflicto no se limitaba a una discusión abstracta sobre libertad de expresión o sátira digital. El expediente sirvió de base para reclamar una respuesta más firme frente a las suplantaciones sexuales no consentidas.

La Junta sostuvo que las suplantaciones generadas por IA pueden provocar daños reputacionales y sociales graves, incluso cuando la persona representada no tenga notoriedad pública. La facilidad con la que estas piezas pueden producirse, compartirse y replicarse multiplica las consecuencias para la víctima antes de que exista una respuesta formal de la plataforma. Por eso, el organismo considera que Meta debería presumir la falta de consentimiento desde el inicio y actuar sin esperar una denuncia individual.

Ese enfoque también pretende reducir una carga que hoy puede recaer sobre quienes aparecen falsamente en imágenes o videos de carácter sexual. Si la política exige que la persona afectada se identifique y solicite la eliminación, el material puede circular durante un periodo prolongado antes de que la empresa intervenga. La Junta planteó que una clasificación automática como contenido no consentido permitiría priorizar la protección de la víctima, aunque la aplicación práctica dependería de las herramientas de detección y revisión de Meta.

El expediente de Instagram funciona así como una prueba de los límites del marco actual, más que como un incidente aislado. La Junta presentó la recomendación como una regla general para una categoría de suplantaciones que puede afectar a personas privadas, mujeres y menores. Meta todavía no se ha comprometido a adoptar este punto ni ninguno de los otros ocho incluidos en el paquete.

Un nuevo marco para el contenido sintético

El segundo caso analizado por la Junta se relacionó con contenido de IA engañoso que apareció durante el conflicto entre Israel e Irán de 2025. El material sintético se utilizaba para fabricar acontecimientos y manipular narrativas, un contexto en el que la velocidad de propagación puede complicar la verificación de hechos. El organismo examinó el expediente el 10 de marzo y concluyó que las reglas existentes no estaban diseñadas para enfrentar la producción de contenido generado por IA a gran escala.

Como respuesta, la Junta pidió un estándar comunitario dedicado al contenido generado por IA, separado de la política tradicional de desinformación. La distinción busca que Meta no trate todas las piezas sintéticas bajo reglas heredadas de un entorno en el que la manipulación audiovisual era más costosa y menos accesible. Un marco independiente también permitiría definir con mayor precisión cuándo corresponde eliminar una publicación, reducir su distribución o advertir al usuario sobre su posible origen.

Entre las medidas técnicas recomendadas aparece la creación de etiquetas de «Alto Riesgo» para publicaciones posiblemente generadas por IA. La Junta también propuso que Meta incorpore metadatos de procedencia en los resultados producidos por sus propias herramientas de inteligencia artificial, de modo que el contenido conserve información sobre su origen. Ninguna de estas medidas equivale por sí misma a una garantía de autenticidad, pero ambas apuntan a ofrecer señales adicionales para usuarios y moderadores.

El organismo extendió además su propuesta al terreno electoral y pidió aplicar globalmente las protecciones contra la interferencia en elecciones. La recomendación plantea estándares consistentes en todos los lugares donde opera Meta, en vez de limitar las salvaguardas a determinados mercados o periodos políticos. La Junta vinculó la expansión con la necesidad de contener campañas coordinadas y narrativas sintéticas capaces de influir en procesos democráticos.

Lo que falta para que las medidas entren en vigor

Las recomendaciones de la Junta de Supervisión tienen influencia institucional, pero Meta no está legalmente obligada a cumplirlas. La empresa debe evaluar las propuestas y responder si las acepta, rechaza o modifica antes de cualquier implementación. En este caso, las recomendaciones relacionadas con inteligencia artificial continúan en evaluación y todavía no existe un compromiso público de adoptar los nueve puntos.

La discusión ocurre en un momento en que la moderación debe resolver dos problemas distintos con herramientas relacionadas. Por un lado, una suplantación sexualizada puede causar un daño directo a una persona privada aunque no busque influir en una elección; por otro, un video falso sobre un conflicto puede alterar la comprensión pública de un acontecimiento sin dirigirse a una víctima individual. La Junta propone un marco que diferencie esos riesgos, pero que también reconozca la capacidad de la IA generativa para amplificar ambos tipos de abuso.

La respuesta de Meta será decisiva para saber si estas recomendaciones se convierten en reglas operativas o permanecen como una hoja de ruta. La empresa tendrá que valorar cómo definir el consentimiento, detectar contenido sintético, preservar metadatos y aplicar controles electorales de manera uniforme en sus plataformas y mercados. Mientras ese proceso continúa, los dos casos examinados por la Junta dejan una conclusión clara: las políticas diseñadas antes de la expansión de la IA generativa ya no cubren por sí solas todos los riesgos que enfrenta la moderación digital.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados