Una vez más Rekognition, el software de reconocimiento facial desarrollado por Amazon se encuentra en el ojo crítico, ya que un grupo de legisladores aseguran que la empresa “ha fallado en proporcionar respuestas suficientes”.

El senador Edward Markey, los representantes del Congreso John Lewis y Judy Chu, y cinco legisladores más, emitieron una carta pública a Jeff Bezos, CEO de Amazon, solicitando que explique la tecnología detrás de Amazon Rekognition, así como los casos donde se aplica.

De acuerdo con el documento, los legisladores quieren que Amazon explique cómo realiza las pruebas del sistema de reconocimiento facial y cómo evalúa los sesgos de error. Esto motivado por su preocupación en que el sistema podría llevar un sesgo racial, que podría violentar los derechos de los ciudadanos.

Esto fallo de precisión fue comprobado hace algunos meses, cuando se probó Rekognition entre varios congresistas y el sistema identificó a un grupo como delincuentes, la característica en común de los ejecutivos era su color de piel.

“Sin embargo, en este momento, nos preocupa seriamente que este tipo de producto tenga problemas de precisión significativos, imponga cargas desproporcionadas a las comunidades de color y podría sofocar la voluntad de los estadounidenses de ejercer sus derechos de la Primera Enmienda en público“, dice la carta.

Asimismo, la solicitud de los legisladores se produce después que la compañía ofreciera los servicios de Rekognition a entes gubernamentales, entre los que figuran el Servicio de Inmigración y Aduanas de los EE. UU.

De igual manera, la Policía de Orlando Florida, también generó polémicas al implementar Amazon Rekognition para el sistema de vigilancia en las calles, algunos ciudadanos manifestaron que sentían que violaban su privacidad.

Hay mayor preocupación debido a los informes recientes de que Amazon está comercializando activamente su tecnología biométrica para el Servicio de Inmigración y Aduanas de los EE. UU., Así como otros informes de programas piloto que carecen de capacitación práctica de Amazon para los oficiales de la ley participantes. 

Este software de reconocimiento generó preocupación incluso en los empleados de la compañía, quienes emitieron una solicitud a Jeff Bezos para que desisitiera de implementarlo de forma independiente en instituciones de EE.UU. No obstante, sus ruegos no fueron escuchados.

Por su parte, Amazon tiene un plazo de dos semanas para responder la solicitud de los legisladores, pero hasta el momento no se ha manifestado.