Por Canuto  

Una investigación de la Universidad de Washington encontró que algunos modelos avanzados de IA calificaron de manera distinta a hablantes que leyeron los mismos guiones: los acentos de EE.UU. y Reino Unido recibieron mejores notas, mientras que los acentos chino y nigeriano quedaron en los niveles más bajos.
***

  • Los modelos transcribieron con precisión los guiones leídos por hablantes con distintos acentos.
  • Pese a ello, calificaron de manera diferente a quienes pronunciaron las mismas palabras.
  • El hallazgo plantea posibles riesgos para evaluaciones de empleo, educación y exámenes de inmigración.

 


La precisión al transcribir no evitó diferencias en las notas

Algunos modelos de inteligencia artificial evaluaron de manera distinta a personas que pronunciaron las mismas palabras con diferentes acentos, según una investigación de la Universidad de Washington. En las pruebas, los hablantes leyeron guiones idénticos y los sistemas transcribieron correctamente el habla acentuada, pero esa precisión no se tradujo en calificaciones equivalentes.

El estudio encontró diferencias en las evaluaciones: los modelos generalmente dieron las calificaciones más altas a los acentos de Estados Unidos y Reino Unido, ubicaron los acentos indios en un punto intermedio y dejaron los acentos chino y nigeriano en los niveles más bajos, según el artículo “Leading AI models are biased against certain accents when scoring”, publicado por la Universidad de Washington. La información difundida por South China Morning Post, a partir de un despacho de Tribune News Service, no identifica los modelos concretos ni detalla las puntuaciones asignadas.

La comparación entre transcripción y calificación es central para interpretar el hallazgo. Que los sistemas escribieran correctamente las palabras indica que, durante esas pruebas, pudieron procesar el contenido verbal de los participantes; aun así, la diferencia en las notas sugiere que la evaluación no dependió únicamente de lo que dijeron.

La investigación no implica que todos los sistemas de IA discriminen de la misma manera ni que el resultado demuestre por sí solo una intención de favorecer determinados acentos. Sí documenta que, en las pruebas descritas, los modelos evaluaron de modo desigual guiones iguales, una diferencia relevante cuando una herramienta automatizada convierte una respuesta oral en una calificación.

Posibles consecuencias en entrevistas y exámenes

Los autores señalaron que el hallazgo tiene implicaciones para el uso de IA en procesos de contratación, educación y exámenes de inmigración. En esos contextos, un sistema puede participar en la valoración de una entrevista o de respuestas habladas; si el acento influye en la nota, personas que expresan el mismo contenido podrían recibir resultados distintos.

En una entrevista laboral, por ejemplo, una evaluación automática podría influir en cómo se compara a los candidatos, aunque el material reportado no afirma que una empresa concreta haya aplicado estos modelos ni que alguien haya perdido una oportunidad por su acento. La preocupación planteada es prospectiva: el sesgo observado en pruebas controladas podría adquirir importancia si estas herramientas se incorporan a decisiones reales.

En educación y en exámenes de inmigración, la calificación oral puede tener consecuencias para quienes buscan demostrar conocimientos o responder a una evaluación. El estudio no ofrece cifras sobre el alcance de esos posibles efectos ni analiza casos de uso específicos, por lo que sus resultados apuntan a un riesgo que merece atención, más que a una medición de daños ya ocurridos.

La diferencia también subraya que la capacidad de reconocer palabras no basta para establecer que una IA evalúa de forma justa. Un sistema puede producir una transcripción correcta y, sin embargo, asignar notas distintas a respuestas equivalentes, por lo que la precisión técnica y la imparcialidad de una calificación son aspectos separados.

La investigación de la Universidad de Washington pone así el foco en una etapa menos visible que la transcripción: el criterio con el que un modelo juzga una respuesta oral. La información disponible no detalla cómo se diseñaron las puntuaciones ni qué mecanismos explican las diferencias, pero el resultado reportado plantea una pregunta concreta para cualquier institución que use IA para evaluar personas: si las palabras son las mismas, ¿por qué cambia la nota?


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín