En los últimos años las tecnológicas se han enfocado en el desarrollo de asistentes inteligentes que actúan a través del reconocimiento por voz, Alexa de Amazon, Siri de Apple, entre otros son muy utilizados actualmente, sin embargo, estudios recientes demuestran que estos sistemas no son del todo eficientes puesto que presentan un sesgo de error, principalmente para distinguir las voces de personas blancas de las negras.
El estudio titulado “Disparidades raciales en el reconocimiento automático del habla”, realizado por la Universidad de Stanford, sugiere que estos sistemas de reconocimiento por voz presentan un considerable sesgo racial, con disparidades entre voces de personas blancas y personas afroamericanas.
Nuestros resultados apuntan a los obstáculos a los que se enfrentan los afroamericanos en el uso de herramientas cada vez más extendidas impulsadas por la tecnología de reconocimiento de voz.
Sistemas de Amazon, Apple, Google, IBM y Microsoft
Tal parece que toda la tecnología, los sistemas de aprendizaje automático y los complejos algoritmos utilizados por los gigantes tecnológicos no han sido suficientes para corregir el sesgo racial que existe en los sistemas de reconocimiento por voz, pues los investigadores los sometieron a pruebas que no resultaron alentadoras.
Los estudios se realizaron un grupo de personas blancas y negras, los resultados señalan disparidades notables que van de 19% de error en el reconocimiento de voces de personas blancas, contra un 35% de error en el reconocimiento de voz de personas afroamericanas:
Aquí, examinamos la capacidad de cinco sistemas ASR de última generación -desarrollados por Amazon, Apple, Google, IBM y Microsoft- para transcribir entrevistas estructuradas realizadas con 42 hablantes blancos y 73 hablantes negros.
Encontramos que los cinco sistemas ASR exhibían disparidades raciales sustanciales, con una tasa de error de palabra (WER) promedio de 0,35 para los hablantes negros en comparación con 0,19 para los hablantes blancos.
El preocupante sesgo racial en diferentes tecnologías
Si bien, los gigantes tecnológicas han desarrollado grandes tecnologías para tratar de facilitar el día a día, como sistemas de reconocimiento facial, asistentes virtuales y estos sistemas de reconocimiento por voz, es preocupante que actualmente las personas afroamericanas se vean afectadas por la poca precisión de estas herramientas no solo para reconocer rasgos físicos, sino también sus voces.
“Rastreamos estas disparidades a los modelos acústicos subyacentes usados por los sistemas ASR ya que la brecha racial era igualmente grande en un subconjunto de frases idénticas habladas por individuos negros y blancos en nuestro corpus”.
En el estudio, los científicos manifiestan su preocupación porque “los sistemas de reconocimiento del habla sufran de prejuicios raciales”, como ha surgido en otras apps de aprendizaje automático.
Asimismo, solicitan que se expanda la fuente de datos de los sistemas de reconocimiento por voz, “como un conjuntos de datos de formación más diversos que incluyan el inglés nativo afroamericano” con el fin de garantizar una “tecnología inclusiva”.
El estudio muestra otro de los obstáculos a los que se enfrentan los ciudadanos afroamericanos al utilizar o ser expuestos a estas tecnologías en las que no se manejan o entrenan para reconocer datos de personas de raza negra.
Los investigadores solicitaron la necesidad de “auditar los sistemas de aprendizaje automático”, con el fin de garantizar que estos incluyan un amplio conjunto de datos inclusivo.