Así como las aplicaciones sociales generan cada vez más dinero, también son las que están constantemente en el medio de la controversia. Facebook ha tenido que pedir disculpas otra vez, ahora se deba a un mal funcionamiento de su inteligencia artificial.
Como es costumbre, Facebook no revela cómo funciona su algoritmo, solo se excusa por su mal funcionamiento. Esta vez ha etiquetado a un grupo de personas de raza negra como “primates” y “monos” en algunos idiomas.
Implicaciones raciales
El reporte vino de parte de Darci Groves, ex diseñadora de Facebook, que comentó que descubrió la etiqueta en un video de hace al menos un año. En este video se pueden ver a un grupo de afroamericanos en un conflicto con policías en 2020. Al terminar el video se puede ver un mensaje que dice “¿Seguir viendo videos de primates?”.
El tema es claramente delicado ya que llamar “monos” a las personas de raza negra es un signo de racismo en muchos países de Europa. Es una situación que muchos jugadores y artistas han sufrido en lugares que reúnen a muchas personas como partidos de fútbol o espectáculos. Por lo que este error del algoritmo es bastante desafortunado.
Un portavoz de Facebook declaró lo siguiente a NY Times:
Como hemos dicho, aunque hemos realizado mejoras en nuestra inteligencia artificial, sabemos que no es perfecto y tenemos más avances que hacer. Pedimos disculpas a todos los que hayan visto estas recomendaciones ofensivas.
No es la primera vez que el algoritmo de una empresa social se equivoca de esta manera. Google tuvo el mismo problema en 2015 cuando Google Photos catalogaba a un grupo de personas negras como “gorilas”. Además, de acuerdo con PCMag, Amazon y Twitter han enfrentado problemas similares con tecnologías reconocimiento facial que favorecen a un género (mujeres) y a una raza específica (blanca).
Ciertamente la mala etiqueta es solo un error y no hay intención racial detrás del algoritmo. No obstante, la raza perjudicada en estos problemas casi siempre es la negra o afroamericana, por lo que es entendible que se espere un mayor acto de responsabilidad por parte de Facebook.