Por Canuto  

La organización GLAAD alertó que los sistemas de inteligencia artificial podrían reforzar prejuicios, desinformación y prácticas discriminatorias contra personas LGBTQ+ si son entrenados con datos sesgados o insuficientes. El informe plantea que la inclusión y la seguridad de estas comunidades deben convertirse en un requisito central para el desarrollo responsable de la IA.

***

  • GLAAD asegura que la IA ya influye en decisiones relacionadas con salud, empleo, vivienda y privacidad.
  • La organización advierte que modelos entrenados con información incompleta pueden reforzar estereotipos y excluir a personas LGBTQ+.
  • El reporte pide mayores controles, supervisión humana y participación de grupos de defensa de derechos civiles en el desarrollo de sistemas de IA.

 

La organización de defensa LGBTQ+, GLAAD publicó esta semana un informe titulado Build for Everyone: A Framework for LGBTQ Representation and Safety in AI, reseñado por Decrypt, en el que sostiene que la inteligencia artificial puede amplificar sesgos existentes y generar nuevas formas de discriminación si no se incorporan medidas específicas de protección e inclusión durante su desarrollo.

Según el documento, los riesgos van mucho más allá de los chatbots o los generadores de imágenes. La organización argumenta que la creciente presencia de sistemas de IA en sectores como salud, empleo, crédito, vivienda y servicios públicos podría traducirse en consecuencias reales para millones de personas si los modelos reproducen prejuicios presentes en los datos con los que fueron entrenados.

“La inteligencia artificial es un asunto de derechos civiles”, afirmó Sarah Kate Ellis, presidenta y directora ejecutiva de GLAAD. A su juicio, las empresas tecnológicas ya no pueden asumir una posición neutral y deben adoptar prácticas deliberadas para garantizar que sus productos sean seguros e inclusivos.

Riesgos de desinformación, estereotipos y decisiones discriminatorias

El informe identifica varias áreas de preocupación. Entre ellas figuran los conjuntos de datos sesgados, la difusión de desinformación relacionada con comunidades LGBTQ+, los fallos en sistemas automatizados de moderación de contenidos y la posibilidad de que herramientas predictivas tomen decisiones discriminatorias.

GLAAD sostiene que cuando los modelos son entrenados con información incompleta o incorrecta sobre personas LGBTQ+, pueden terminar reproduciendo estereotipos o generando respuestas que invisibilicen o distorsionen la realidad de estas comunidades.

La organización también advierte sobre riesgos relacionados con la privacidad, especialmente en contextos donde sistemas automatizados podrían inferir incorrectamente la orientación sexual o identidad de género de los usuarios, o exponer información sensible sin el debido consentimiento.

Un mercado creciente que las empresas no pueden ignorar

Además de la dimensión ética, GLAAD argumenta que la inclusión es también una cuestión estratégica para las compañías tecnológicas.

El informe destaca que más del 20% de los integrantes de la Generación Z se identifican como parte de la comunidad LGBTQ+, convirtiéndose en una población cada vez más relevante tanto como consumidores como futuros trabajadores del sector tecnológico.

La organización cita datos de la firma LGBT Capital, según los cuales el poder adquisitivo global de las personas LGBTQ+ alcanzó USD $4,7 billones en 2023 y podría ascender a USD $33 billones para 2030.

“Si fuéramos un país, seríamos la cuarta economía más grande del mundo”, escribió Ellis en el informe.

El debate sobre los sesgos en IA continúa creciendo

La publicación llega en medio de una discusión cada vez más intensa sobre la presencia de sesgos en los principales modelos de inteligencia artificial.

En mayo, investigadores académicos encontraron que varios sistemas de IA mostraban respuestas más favorables hacia el catolicismo que hacia grupos como los Testigos de Jehová, personas ateas o agnósticas. Más recientemente, un exingeniero de xAI demandó a la compañía de Elon Musk alegando haber sido despedido tras advertir internamente sobre riesgos relacionados con desinformación y sesgos en Grok.

GLAAD considera que estos ejemplos ilustran un problema más amplio. El reporte señala que las denominadas “alucinaciones” de los modelos, así como ciertos comportamientos diseñados para complacer al usuario, pueden contribuir a difundir información incorrecta sobre temas sensibles, incluyendo salud pública, procesos electorales o derechos civiles.

La preocupación aumenta con la llegada de agentes autónomos

Uno de los apartados más relevantes del documento se centra en los llamados agentes de IA, sistemas capaces de ejecutar tareas con niveles crecientes de autonomía.

Según GLAAD, si estos agentes heredan sesgos presentes en modelos previos, podrían automatizar decisiones discriminatorias a gran escala. Entre los ejemplos citados figuran la exclusión de proveedores médicos que ofrecen atención afirmativa a personas LGBTQ+ o la realización de suposiciones erróneas sobre la identidad de los usuarios durante procesos automatizados.

Para reducir estos riesgos, la organización propone mejorar la representación LGBTQ+ dentro de los datos de entrenamiento, fortalecer los mecanismos de privacidad, mantener supervisión humana en procesos críticos y establecer una colaboración más estrecha entre desarrolladores de IA y organizaciones especializadas en derechos civiles.

GLAAD también reclama una mayor rendición de cuentas por parte de la industria tecnológica y una supervisión regulatoria más robusta, argumentando que ignorar estas cuestiones no solo puede perjudicar a comunidades vulnerables, sino también generar productos menos precisos, menos confiables y con menor aceptación por parte de los usuarios.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados