En una carta pública, Arvind Krishna CEO de IBM, se dirige al Congreso de Estados Unidos, donde detalla sus nuevas políticas para promover la igualdad racial y además anuncia el retiro de sus productos de reconocimiento facial del mercado.
Arvind Krishna, indicó al Congreso de Estados Unidos que IBM retirará sus productos con software de reconocimiento facial de uso general, debido a que “la tecnología no debe promover la discriminación ni la injusticia social”.
En el fragmento de la carta enviada por IBM se puede leer:
IBM ya no ofrece el software de análisis o reconocimiento facial IBM de uso general. IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestros valores y principios de confianza y transparencia.
Asimismo, IBM indicó en su reforma de justicia racial, que no apoyaba la aplicación del reconocimiento facial para la vigilancia masiva e instó a los organismos a abordar el uso responsable de esta tecnología por parte de la policía.
Estimados senadores Booker y Harris, y los representantes Bass, Jeffries y Nadler:
En septiembre de 1953, más de una década antes de la aprobación de la Ley de Derechos Civiles, IBM tomó una posición audaz a favor de la igualdad de oportunidades. Thomas J. Watson, Jr., entonces presidente de IBM, escribió a todos los empleados:
“. . .Cada uno de los ciudadanos de este país tiene el mismo derecho a vivir y trabajar en Estados Unidos. La política de esta organización es contratar personas que tengan la personalidad, el talento y los antecedentes necesarios para desempeñar un trabajo determinado, independientemente de su raza, color o credo”.
Retiro de tecnología de reconocimiento facial de IBM
En el documento, IBM afirma que no seguirá investigando ni desarrollando nuevas tecnologías vinculadas al reconocimiento facial, aunque la inteligencia artificial es arma poderosa, asegurando que puede mantener seguros a sus ciudadanos, estos deben ser responsables acerca de los sesgos presentes en esta tecnología.
De esta forma, el gigante de fabricación de hardware, marca una posición firme ante la situación actual generada tras el asesinato de un ciudadano estadounidense a manos de un ejecutivo policial en Minneapolis.
Sin duda un gran paso por parte de IBM, quien es líder en el desarrollo de soluciones tecnológicas a nivel mundial. Como se puede leer en el documento, el ejecutivo argumenta razones netamente éticas para el retiro de sus productos de reconocimiento facial.
Sin embargo, un reporte reciente de CNBC, cita a una persona que señala que la compañía no ha contado con los mayores ingresos significativos debido a su tecnología de reconocimiento facial, por lo que probablemente retirar el software de reconocimiento facial desarrollado por la empresa no afecte notablemente los ingresos de la misma.
No obstante, este es un gran paso por parte de una de las tecnológicas con mayor influencia en el mercado, por lo que podría esperarse que esta posición repercuta en otros gigantes que comercializan software de reconocimiento facial como Amazon Rekognition, uno de los más criticados no solo porque está siendo utilizado por organismos policiales, sino por los sesgos raciales que han sido demostrados varias veces.
IBM también indicó que le gustaría trabajar con el Congreso en pro de la justicia y la equidad racial, con el “enfoque en tres áreas de políticas clave: reforma policial, uso responsable de la tecnología y ampliación de habilidades y oportunidades educativas”.
Varios estudios han demostrado que el uso de la tecnología de inteligencia artificial presenta claros sesgos raciales, que dejan entrever grandes prejuicios raciales y de género. Por lo que se hace necesario alfabetizar a la inteligencia artificial a través de soluciones de big data para hacerla más accesibles y seguras a los consumidores.