Por Canuto  

Un informe del Consejo de Supervisión, creado por Meta, señala que diez modelos líderes de inteligencia artificial respondieron de forma desigual a solicitudes sobre protesta, sátira y crítica política. El grupo advierte sobre una posible censura transfronteriza y busca que las empresas publiquen sus políticas frente a exigencias gubernamentales.
***

  • El Consejo de Supervisión interrogó a diez modelos de IA de empresas como OpenAI, Meta, Google, Anthropic y xAI.
  • Las respuestas cambiaron según las leyes de libertad de expresión asociadas con los gobiernos mencionados en las consultas.
  • El grupo pidió mayor transparencia sobre las solicitudes gubernamentales que afectan a los modelos durante todo su ciclo de vida.

 

El Consejo de Supervisión, una organización independiente de moderación de contenido creada por Meta, publicó un informe sobre el impacto de los modelos de inteligencia artificial en la libertad de expresión. El documento representa el primer estudio propio del grupo sobre un asunto que no se relaciona directamente con la moderación en redes sociales.

La investigación examinó las respuestas de diez modelos de IA ante consultas vinculadas con la crítica política. Las preguntas incluyeron solicitudes para crear materiales de protesta y contenidos satíricos sobre violencia política relacionada con gobiernos y líderes específicos, reseña Engadget.

El Consejo de Supervisión sostiene que encontró diferencias significativas en las respuestas, dependiendo de si las consultas mencionaban gobiernos con leyes de libertad de expresión consideradas permisivas o restrictivas. El grupo interpreta ese patrón como una señal de riesgo para la capacidad de los usuarios de expresarse.

Las pruebas se realizaron en Australia, un país que, según el informe, no cuenta con las leyes locales citadas por varios modelos como motivo para negarse a cumplir algunas solicitudes. Para el consejo, esa referencia plantea preguntas sobre la manera en que las restricciones pueden trasladarse entre jurisdicciones.

El estudio también forma parte de un esfuerzo más amplio del Consejo de Supervisión para ampliar su influencia más allá de Meta. Aunque ninguna otra compañía ha expresado públicamente interés en trabajar con la organización, el grupo continúa presentando sus conocimientos como una herramienta útil para la industria de la IA.

Pruebas sobre protesta y crítica política

El Consejo de Supervisión interrogó a diez modelos diferentes pertenecientes a empresas como OpenAI, Meta, Google, Anthropic y xAI, que ahora opera bajo el nombre SpaceXAI. Uno de los modelos incluidos fue Llama, de Meta.

Las consultas buscaron observar cómo los sistemas manejaban temas relacionados con la oposición política y la libertad de expresión. Entre ellas figuraron solicitudes para producir materiales de protesta contra gobiernos determinados.

Los investigadores también pidieron contenidos que satirizaran la violencia política en relación con gobiernos específicos y sus líderes. El objetivo consistía en comparar las respuestas ante escenarios políticos similares, pero asociados con marcos legales distintos.

Según los hallazgos, los modelos evaluados mostraron una mayor disposición a decir que los usuarios debían apoyar a gobiernos que permiten la libertad de expresión. En contraste, fueron más propensos a afirmar que los usuarios no debían protestar contra gobiernos que restringen ese derecho.

El Consejo de Supervisión describió esas diferencias como estadísticamente significativas. La organización considera que el comportamiento puede afectar la forma en que las personas reciben ayuda para organizar protestas, formular críticas o crear expresiones satíricas.

El grupo no presentó el resultado como una prueba de que todos los modelos aplican una política idéntica. Sin embargo, señaló que la variación observada merece una revisión pública, especialmente cuando los sistemas ofrecen explicaciones basadas en leyes que no corresponden al lugar donde se realizó la consulta.

La advertencia sobre una posible censura transfronteriza

Varios modelos citaron leyes locales para explicar por qué no cumplirían determinadas solicitudes. El problema, según el consejo, es que las preguntas se hicieron en Australia, donde no existían las normas mencionadas como fundamento para restringir las respuestas.

Paolo Carozza, copresidente del Consejo de Supervisión, dijo a Engadget que el grupo observa una situación que parece constituir una censura extendida por poder a través de las fronteras. También afirmó que el fenómeno le resulta sorprendente y preocupante.

La expresión “censura por poder” apunta a un posible mecanismo mediante el cual las decisiones o exigencias asociadas con un gobierno terminan influyendo en las respuestas ofrecidas a usuarios ubicados en otros países. El informe no establece que esa coordinación ocurra de forma intencional.

Para los lectores nuevos en la materia, los modelos de lenguaje no responden únicamente con base en la pregunta inmediata. Sus resultados dependen del entrenamiento, el ajuste fino, las revisiones de seguridad previas al lanzamiento y los cambios aplicados después de su despliegue.

Por esa razón, una restricción incorporada durante cualquiera de esas etapas puede afectar consultas realizadas en lugares con normas diferentes. El Consejo de Supervisión considera que las empresas deben explicar cómo toman esas decisiones y qué papel tienen las solicitudes gubernamentales.

El informe también recuerda que los modelos de IA enfrentan un desafío distinto al de las redes sociales, aunque ambos sectores pueden limitar la expresión de los usuarios. En las plataformas sociales, la decisión suele involucrar publicaciones visibles, mientras que en la IA puede afectar la generación de textos, imágenes o argumentos.

Transparencia y límites de la influencia del consejo

El Consejo de Supervisión recomendó que las empresas de IA divulguen y expliquen públicamente sus respuestas a solicitudes gubernamentales que afecten la producción de los modelos. La propuesta abarca el entrenamiento, el ajuste fino, la revisión previa al despliegue y las evaluaciones posteriores de manera recurrente.

La organización también pidió que las compañías establezcan y publiquen políticas sobre cómo responderán a demandas gubernamentales de restricciones de contenido incompatibles con el derecho internacional de los derechos humanos. El objetivo sería ofrecer criterios visibles antes de que surjan casos controvertidos.

El documento no incluye el mismo nivel de recomendaciones detalladas que el consejo suele entregar a Meta en asuntos de moderación. Aun así, plantea principios dirigidos a empresas que desarrollan modelos de IA de propósito general.

La participación de Llama en las pruebas generó una cuestión adicional sobre la independencia del estudio. El informe aclara que Meta no tuvo ningún papel en la investigación, aunque la compañía financia al Consejo de Supervisión.

La organización tampoco dispone de una estructura formal para influir directamente en las políticas de las empresas cuyos modelos examinó. Por ahora, su capacidad depende de la atención pública que genere el informe y de la disposición voluntaria de las compañías para adoptar sus propuestas.

El consejo reconoce que investigadores externos ya habían señalado posibles sesgos y riesgos similares en la industria. También advierte que los desarrolladores de IA podrían repetir errores cometidos anteriormente por las plataformas de redes sociales.

Carozza afirmó que las redes sociales ofrecen lecciones para los creadores de modelos avanzados. Según explicó, las tecnologías pueden afectar de manera importante la capacidad de las personas para expresarse o comunicarse, incluso cuando ese efecto no resulta intencional ni directo.

La principal incógnita ahora es si el informe producirá cambios verificables en las políticas de los modelos evaluados. Sin una relación institucional con esas empresas, el Consejo de Supervisión tendrá que convertir sus advertencias en presión pública, debate regulatorio o compromisos voluntarios.

La investigación no concluye que toda negativa de un modelo sea ilegítima. Su preocupación se concentra en la consistencia de las respuestas, la transparencia sobre sus fundamentos y el riesgo de que las restricciones de un gobierno terminen afectando a usuarios ubicados en otros territorios.

El caso también muestra por qué la libertad de expresión se ha convertido en un asunto central para la gobernanza de la inteligencia artificial. A medida que estos sistemas participan en la creación de mensajes políticos, sus reglas internas pueden influir en conversaciones públicas que antes dependían de medios y plataformas tradicionales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados