Una vez más, Rekognition, la tecnología de reconocimiento facial implementada por Amazon, es objeto de críticas y no necesariamente constructivas. Recordemos que esta tecnología está siendo implementada en diferentes organismos de seguridad del gobierno de EEUU con el fin de encontrar criminales, como prófugos de justicia o personas con antecedentes penales. A pesar de que puede resultar de mucha utilidad para estos entes oficiales, hay organizaciones que lo consideran una invasión a la privacidad. Y ahora, tienen muchas más razones para estar en contra de esta, pues según una prueba realizada, Amazon Rekognition no es tan eficaz como todos pensamos.
La Unión Americana de Libertades Civiles (ACLU), es una de las organizaciones que ha manifestado públicamente su descontento con el uso del reconocimiento facial, y han sido los responsables de “desenmascar” la poca efectividad de Rekognition. Y es que según una prueba realizada, el sistema confundió a 28 miembros del congreso estadounidense con delincuentes potenciales.
Nuestra prueba utilizó AmazonRekognition para comparar imágenes de miembros del Congreso con una base de datos de mugshots. Los resultados incluyeron 28 coincidencias incorrectas.
La organización publicó los resultados de una prueba en su sitio web, para realizarla, ACLU descargó 25.000 fotografías del sitio mencionado y publicaron fotos oficiales de los 535 miembros del Congreso estadounidense a través de Rekognition. Al pedirle al sistema que hiciera el reconocimiento, este encontró 28 coincidencias, es decir 28 congresistas que según el sistema de inteligencia artificial, han sido arrestados por cometer un crimen.
Los miembros del Congreso que fueron falsamente emparejados con la base de datos de las fotografías que utilizamos en la prueba incluyen republicanos y demócratas, hombres y mujeres, y legisladores de todas las edades, de todo el país.
Pero ahí no termina la preocupación de la ACLU, y es que además detectaron que el sistema manejan patrones arbitrarios a la hora de identificar delincuentes, ya que los congresistas identificados son personas de color, incluidos seis miembros del Congressional Black Caucus, entre ellos la leyenda de los derechos civiles, el representante John Lewis (D-Ga.)
Desde el punto de vista de la organización, el uso de esta tecnología pone en riesgo la seguridad de las personas de color, pero estos no son los únicos en mostrar su preocupación. Recordemos que hace poco más de un mes, los empleados de la compañía de Jeff Bezos, emitieron una solicitud para que se dejara de implementar para fines bélicos.
Por su parte, Amazon manifestó su postura ante el uso de sus servicios, argumentando que es responsabilidad del cliente hacer cumplir las leyes, así lo explicaron en un comunicado emitido el pasado mes de mayo:
Amazon requiere que los clientes cumplan con la ley y sean responsables cuando usan los servicios de AWS. Cuando descubrimos que existe abuso por parte de algún cliente de los servicios de AWS, suspendemos el derecho del cliente a utilizar nuestros servicios (…)
Nuestra calidad de vida sería mucho peor hoy si se nos prohibiese las nuevas tecnologías tan solo por el hecho que algunas personas podrían optar por abusar de su tecnología. Imagínese si los clientes no pueden comprar una computadora porque es posible usar esa misma computadora para fines ilegales. Al igual que cualquiera de nuestros servicios de AWS, exigimos a nuestros clientes que cumplan con la ley y sean responsables cuando utilicen Amazon Rekognition.