Uber, ha estado utilizando un sistema de reconocimiento facial para verificar, cada cierto tiempo y de manera aleatoria, que sus conductores son quienes dicen ser cuando inician sesión. Pero, tal parece que la inteligencia artificial implementada no es del todo eficiente. Esto, ha generado –una vez mas– muchas polémicas, y es que en un control de rutina, este sistema de reconocimiento facial llamado, SNAFU, ha impedido el acceso a uno de sus trabajadores.

Se trata del conductor de Uber, Janey Webb, quién durante un proceso de rutina, notó que el acceso a su cuenta estaba bloqueado, pero, no por que Webb haya realizado algún tipo de violación a las políticas de la compañía, sino porque el aspecto de este conductor ha cambiado desde la última revisión, y es que, Webb es una mujer transgénero.

El “error” generado por SNAFU, se debe a que su sistema de reconocimiento no es apto para detectar ni personas negras, y ahora se ha comprobado que tampoco detecta los cambios en personas transgénero, aun cuando un pequeño porcentaje de conductores de Uber ha pasado por un proceso de cambio muy parecido.

Según el reporte de la CNBC, el software de Uber que se ejecuta bajo los Servicios Cognitivos de Microsoft, no está preparado para analizar este cambio en las facciones.

WhatsApp para iOS permitirá bloquear tus chats mediante FaceID y TouchID

Debido a la transición, los cambios faciales de Webb son muy notables en los últimos meses, por lo que el algoritmo de reconocimiento de patrones utilizado, no puede mantener una comparación entre su aspecto actual y el anterior.

Si bien, este sistema representa un avance tecnológico muy grande, también representa una enorme preocupación.

En la actualidad, se han probado varios sistemas de reconocimiento facial no funcionan de manera correcta, de hecho, muchos afirman que trabajan con fines de exclusión y racismo.

Para muestra, solo debemos recordar como fue revelado en un estudio realizado por la ACLU, donde un número desproporcionado de congresistas negros fueron identificados erróneamente como delincuentes por Rekognition —el sistema de reconocimiento facial de Amazon. Algo sumamente preocupante porque sin dudas pone en riesgo a muchas personas solo por no contar con características similares a la de la mayoría.

Esta es una muestra, de que aun queda mucho camino que recorrer y corregir, en el campo de la inteligencia artificial, pero sobretodo, aun falta mucho por aprender por parte de, no solo los responsables del desarrollo de las nuevas tecnologías, sino de quienes la implementan.

Más en TekCrispy