Ia Racismo Discriminacion

El uso de la Inteligencia Artificial (IA) en el sector militar para el desarrollo de robots asesinos no es la única preocupación en la actualidad con respecto de esta tecnología, sino que además se ha planteado la idea de que algunos algoritmos de IA pueden llegar a ser discriminatorios y racistas.

En este sentido, un grupo de organizaciones de derechos humanos han solicitado a la industria tecnológica establecer directrices para proteger a las personas de los algoritmos discriminatorios.

A través de un documento formal llamado Declaración de Toronto, organizaciones como Amnistía Internacional, Human Rights Watch, Access Now, The Wikimedia Foundation, entre otros, solicitaron a los gobiernos y empresas de tecnología adoptar principios de fabricación para que su IA no incurra en este tipo de violaciones a los derechos humanos.

El documento fue firmado como parte de un simposio llevado a cabo en la ciudad de Toronto, Estados Unidos, llamado RightsCon Toronto, donde las organizaciones se reunieron para discutir este tema y exigir la revisión de los algoritmos de IA actuales para promover la transparencia y la igualdad. En este sentido, la declaración asegura:

Si bien esta declaración se centra en las tecnologías de aprendizaje automático, muchas de las normas y principios incluidos son igualmente aplicables a la Inteligencia Artificial en general, así como a los sistemas de datos relacionados (…) El aprendizaje automático, y la Inteligencia Artificial en su sentido más amplio, impactan una gama más diversa de derechos humano, como el derecho a la privacidad, el derecho a la libertad de expresión, la participación en la vida cultural, el derecho a la reparación y el derecho a la vida.

Según el grupo de organizaciones, estas afirmaciones se basan en las leyes internacionales de derechos humanos que protegen a las personas de la discriminación, y han sido el argumento para asegurar que las tecnologías de aprendizaje automático actuales deben ser analizadas, reparadas y dispuestas para una mejor calidad de vida.

A pesar de que esta declaración es un gran paso para lograr la igualdad y la inclusión entre las personas, lo cierto es que no es un documento legalmente vinculante, sobre todo en un mundo tecnológico manejado en su mayoría por personas económicamente poderosas y cuyo favoritismo por su color de piel puede influir en la forma como funcionan sus productos.

Esta no es la primera advertencia sobre el hecho de que la IA discrimina a las personas por su color de piel. Maxine Mackintosh, un investigador especializado en el tema, reveló en agosto pasado que la IA utilizada para evaluar el perfil de las personas, con el fin de aprobar o rechazar créditos bancarios o cupos universitarios, es discriminatoria contra las mujeres y personas no blancas.

Mackintosh afirmó en su informe que estas tecnologías son entrenadas con datos históricos de la humanidad en relación a la aprobación o rechazo de cierto tipo de personas, algo que a su juicio, no debe ocurrir así, ya que estos datos están cargados de discriminación.

Más en TekCrispy