Por Canuto  

A poco más de un mes de las elecciones del 4 de octubre, el Tribunal Superior Electoral de Brasil tiene previsto examinar si una representación de Jair Bolsonaro generada por IA puede violar las reglas de campaña aunque se identifique claramente como una simulación. La decisión podría ampliar las obligaciones de etiquetado, restringir los sistemas de recomendación política y crear un período de silencio para el contenido sintético.
***

  • El TSE estudia reglas que irían más allá de prohibir deepfakes engañosos e incluirían etiquetas obligatorias para material electoral generado por IA.
  • El avatar de Jair Bolsonaro, divulgado como una simulación en el lanzamiento de la campaña de su hijo, enfrenta una impugnación de la coalición de Lula.
  • La aplicación de un posible silencio electoral será especialmente compleja en grupos privados de mensajería, en un país con más de 150 millones de votantes.

Brasil se encamina a las elecciones del 4 de octubre con una discusión que combina inteligencia artificial, libertad de expresión y límites a la propaganda política. A poco más de un mes de la votación, el Tribunal Superior Electoral (TSE) analiza qué debe entenderse exactamente por deepfake y si una pieza sintética puede ser sancionada incluso cuando advierte al público sobre su origen artificial.

La controversia adquirió una dimensión concreta en julio, cuando Jair Bolsonaro apareció como un avatar generado por IA durante el lanzamiento de la campaña de su hijo, Flávio Bolsonaro. La representación se identificaba de manera explícita como una simulación, pero la coalición del presidente Luiz Inácio Lula da Silva presentó una petición ante el TSE al considerar que el video todavía podía infringir las reglas sobre contenido sintético utilizado para influir en los votantes.

El caso que desafía la definición de deepfake

Las normas electorales brasileñas ya apuntan contra el contenido fabricado capaz de engañar a los electores, una formulación que coloca el engaño en el centro de la evaluación. Sin embargo, un avatar que informa abiertamente que no es una imagen real de Bolsonaro no encaja con facilidad en esa categoría, porque el espectador recibe una advertencia sobre la naturaleza artificial de la representación.

La campaña de Flávio Bolsonaro sostiene que una simulación claramente etiquetada no debería recibir el mismo tratamiento que un deepfake diseñado para suplantar a una persona sin aviso. Ese argumento resulta difícil de descartar si el criterio principal consiste en determinar si la audiencia fue inducida a creer que estaba viendo o escuchando al político real.

El problema, no obstante, no desaparece con una etiqueta. Un político que tiene prohibido comunicarse públicamente puede no estar presente físicamente frente a una multitud, pero una representación generada por IA todavía puede transmitir su mensaje a los votantes con una eficacia política parecida a la de una aparición personal.

En este caso también pesa la situación jurídica de Bolsonaro, quien está bajo arresto domiciliario y tiene prohibido comunicarse públicamente. El juez del Supremo Tribunal Federal Alexandre de Moraes advirtió que el uso de esa tecnología podría violar las restricciones impuestas al exmandatario y contribuir, además, a la desinformación electoral.

Las reglas que estudia el tribunal electoral

El TSE tiene previsto examinar el 1 de septiembre restricciones más amplias para el material de campaña producido con IA, según la información disponible sobre el proceso. Las propuestas no se limitarían a prohibir deepfakes engañosos, sino que exigirían identificar el contenido electoral generado artificialmente y establecerían obligaciones adicionales para campañas y plataformas.

Entre las medidas analizadas figura la prohibición de sistemas que recomienden candidatos, una disposición que trasladaría la discusión desde el contenido hacia los mecanismos de distribución. También se plantea un período de silencio durante el cual no podrían publicarse ni promoverse nuevos contenidos políticos sintéticos inmediatamente antes y después de la votación.

El presidente del TSE, Kassio Nunes Marques, ha sugerido que el material de campaña generado con IA podría ser permitido cuando no cause daño. Moraes, en cambio, ha advertido sobre los riesgos de que la misma tecnología permita sortear las restricciones de Bolsonaro y amplifique mensajes capaces de distorsionar la decisión del electorado.

Brasil no parte de cero en esta materia. Antes de las elecciones municipales de 2024, el TSE introdujo requisitos que incluían la divulgación del contenido sintético, lo que ayuda a explicar por qué el avatar utilizado en el acto de campaña fue presentado como una simulación y no como un intento oculto de suplantación.

El reto de aplicar las restricciones

Definir la regla puede ser más sencillo que hacerla cumplir durante una campaña activa. Un período de silencio sobre contenido político sintético solo tendrá eficacia si las autoridades, las plataformas y las campañas consiguen identificar rápidamente las piezas generadas o manipuladas con IA, antes de que alcancen una circulación amplia.

La tarea se complica porque una parte importante de la comunicación política brasileña ocurre en aplicaciones de mensajería y grupos privados. Los reguladores no pueden vigilar esas conversaciones de la misma manera que las publicaciones abiertas en redes sociales, por lo que detectar una infracción y frenar su propagación exigirá respuestas particularmente rápidas.

La prohibición de recomendaciones algorítmicas plantea un desafío distinto, ya que obligaría a examinar la mecánica ordinaria de las plataformas. Determinar si un sistema favoreció a un candidato o impulsó material político sintético puede resultar considerablemente más difícil que comprobar si un video incluye una declaración visible sobre el uso de IA.

El calendario aumenta la presión sobre todos los participantes. Con poco más de un mes hasta el 4 de octubre, las campañas, las plataformas y los reguladores tendrían poco margen para interpretar el nuevo marco, adaptar sus procedimientos y descubrir en la práctica qué conductas quedarían dentro o fuera de la norma.

Un experimento con interés internacional

El dilema brasileño también interesa a los reguladores fuera de sus fronteras. Las reglas de transparencia que se desarrollan bajo la Ley de IA de la Unión Europea parten, en buena medida, de la idea de que informar a las personas sobre la generación o manipulación artificial puede reducir el potencial de engaño.

El episodio de Bolsonaro somete esa premisa a presión porque el contenido puede ser completamente transparente sobre su origen y, aun así, conservar una gran capacidad de persuasión política. La etiqueta comunica que la imagen es sintética, pero no necesariamente neutraliza el efecto emocional de escuchar al político o verlo participar simbólicamente en una campaña.

La propuesta brasileña de establecer un período de calma específico para contenidos políticos generados con IA también va más allá del enfoque europeo, que suele concentrarse en la transparencia y en las circunstancias en que el material sintético puede resultar engañoso. Por esa razón, la experiencia del TSE podría ofrecer a otros países un caso práctico sobre los costos y las dificultades de separar la divulgación del impacto político.

La escala del electorado vuelve más exigente cualquier estrategia de supervisión. Más de 150 millones de personas están habilitadas para votar en Brasil, y el papel central de la mensajería privada significa que una norma aprobada a semanas de los comicios deberá probarse en un entorno donde la visibilidad de los reguladores es necesariamente limitada.

Brasil intenta establecer los límites mientras la campaña ya está en marcha y mientras los actores políticos afectados tienen un interés directo en la forma final de esas reglas. Mantener la indefinición podría facilitar abusos, pero aprobar obligaciones complejas con tan poco tiempo también deja a las autoridades, las plataformas y los candidatos aprendiendo sobre la marcha, justo cuando el contenido sintético puede alcanzar a millones de votantes.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados