Twitter ha dado a conocer que está trabajando en una nueva herramienta que permitirá corregir el fallo presentado en su plataforma, en la que se antepone a una persona de piel clara por encima de la negra.
Esto se origina tras la fuerte ola de críticas recibidas el pasado mes de septiembre cuando un usuario al intentar enviar un capture de la conversación que mantenía a través de la plataforma zoom notó que la aplicación no consideraba a la persona de color en su recorte.
Dicha situación se esparció como pólvora por la red social, y muchas personas pudieron comprobar por su propia mano que efectivamente la app tiene esta particularidad racista.
A lo que Twitter respondió con una disculpa y expresó que esta había sido probada antes de su lanzamiento, pero que se comprometía a realizar las pruebas pertinentes hasta hallar al por qué del fallo. Y, efectivamente así fue, encontró errores en su algoritmo y ahora quiere corregirlos. Dantley Davis, director de diseño de la red social, expresó:
Si bien nuestros análisis hasta la fecha no han mostrado prejuicios raciales o de género, reconocemos que la forma en que recortamos automáticamente las fotos significa que existe un potencial de daño.
El sistema de recorte de imágenes se basa en la prominencia, que predice dónde las personas pueden mirar primero. Para nuestro análisis de sesgo inicial, probamos la preferencia por pares entre dos grupos demográficos (blanco-negro, blanco-indio, blanco-asiático y hombre-mujer).En cada ensayo, combinamos dos caras en la misma imagen, con su orden aleatorio, luego calculamos el mapa de prominencia sobre la imagen combinada. Luego, ubicamos el máximo del mapa de prominencia y registramos en qué categoría demográfica se detenía. Repetimos esto 200 veces para cada par de categorías demográficas y evaluamos la frecuencia de preferir una sobre la otra.
De esta manera queda en evidencia que la red social está buscando las maneras de reivindicarse con sus usuarios, no quiere que este fallo sea motivo de protestas, y mucho menos que se vincule a racismo, pues, en lo que va de año se han registrado muchas en Estados Unidos.