Un grupo de reconocidos expertos en Inteligencia Artificial (IA) ha solicitado a Amazon que deje de vender su herramienta de reconocimiento facial a la policía hasta que se cree una regulación apropiada para esta tecnología.
A través de una carta abierta publicada hoy, los investigadores de Facebook, Microsoft y Google señalaron los algoritmos del sistema de reconocimiento facial de Amazon presentan fallas, con tasas de error superiores para rostros femeninos y de piel oscura.
En este sentido, los expertos advierten que si las autoridades policiales adoptan la tecnología, la discriminación racial aumentará al igual que los casos de identidad falsa. Asimismo, consideran que la herramienta puede contribuir a mayores casos de intrusión y vigilancia invasiva contra personas marginadas.
Klaus Scheuerman, un experto en IA y estudiante de doctorado de la Universidad de Colorado Boulder, dijo a The Verge que las tecnologías defectuosas de reconocimiento facial estaban afianzando los prejuicios de las personas. Scheuerman, quien también firmó la carta junto a otros 25 expertos, asegura que herramientas como la de Amazon pueden utilizarse con fines maliciosos de los cuales las compañías no tienen ni siquiera conocimiento.
Los investigadores esperan que la misiva pueda abrir un debate público sobre cómo puede ser evaluada la tecnología de reconocimiento facial desde el punto de vista técnico, ya que esta es la única forma de crear un marco legal apropiado.
Esta no es la primera vez que los algoritmos de Amazon están bajo tela de juicio por sus fallas de identificación. Un estudio publicado a principios de este año demostró cómo el software tiene problemas para identificar hombres y mujeres de piel oscura, mientras que una investigación realizada por la Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés), determinó que la herramienta Rekognition identificó erradamente 28 imágenes de miembros del Congreso de EE.UU.
A pesar de que Amazon ha defendido abiertamente su tecnología, la carta publicada hoy refuta punto por punto cada aseveración de la compañía y ofrece argumentos sólidos sobre su fallido reconocimiento.