Muchos anunciantes creen que el sistema de anuncios de Facebook es efectivo y fácil de usar. Que solo deben cargar sus anuncios y los algoritmos se encargarán del resto. Pero lo que no saben es que el funcionamiento interno de este sistema es opaco. De acuerdo a un estudio publicado el martes en la revista de la Biblioteca Digital de la Association for Computer Machinery, Facebook usa un software que segmenta sus anuncios de acuerdo a raza, género y edad de las personas que aparecen en los anuncios. Y que la determinación juega un papel muy importante en quién ve la publicidad.

De hecho, los investigadores hallaron que se muestran más anuncios con mujeres jóvenes a hombres mayores de 55 años. Por otro lado, las mujeres ven más anuncios con niños y las personas negras se topan con más anuncios con negros en ellos.

¿Qué más hallaron los investigadores sobre Facebook y su método para segmentar anuncios?

Para avanzar en el estudio, los investigadores crearon anuncios para ofertas de trabajo con fotografías de personas. En algunos anuncios, utilizaron fotos de archivo, pero en otros usaron IA para generar imágenes sintéticas. Después de ello, los investigadores gastaron decenas de miles de dólares publicando los anuncios en Facebook. A partir de ese momento, hicieron un seguimiento de qué anuncios se mostraban a qué usuarios.

Los resultados fueron impresionantes. Aquí se los compartimos:

  • La audiencia que vio las fotos sintéticas de personas negras fue 81% negra. Pero, cuando se trataba de una foto de una persona blanca, la audiencia promedio era solo 50% negra.
  • El público que vio fotos de adolescentes fue 57% masculina.
  •  Las fotos de mujeres mayores llegaron a un público compuesto por un 58% de mujeres.
  • Hallaron que las imágenes de archivo funcionaron de manera idéntica a las imágenes de rostros artificiales. Esto demuestra que es solo la demografía, no otros factores, los que determinan el resultado.

¿Todo ello podría no ser problemático cuando se estén considerando anuncios de productos? Esto es lo que Piotr Sapiezynski, coautor del estudio, dijo al respecto: “Cuando hablamos de publicidad para oportunidades como trabajos, vivienda, crédito, incluso educación, podemos ver que las cosas que podrían haber funcionado bastante bien para vender productos pueden conducir a resultados socialmente problemáticos».

En respuesta a una solicitud de comentarios, una portavoz de Meta señaló que la investigación destaca una preocupación de toda la industria: “Estamos creando tecnología diseñada para ayudar a abordar estos problemas. Hemos hecho esfuerzos significativos para prevenir la discriminación en nuestra plataforma de anuncios y continuaremos involucrando a grupos clave de derechos civiles, académicos y reguladores en este trabajo”.

persona inteligencia artificial
Vía Screenshot: Thomas Germain

¿Segmentar anuncios beneficia a los anunciantes?

Es probable que la idea de Facebook de segmentar anuncios por raza y edad tampoco sea lo mejor para los anunciantes. Las empresas suelen elegir a las personas en sus anuncios para demostrar que valoran la diversidad. Ellos no desean que menos personas blancas vean sus anuncios solo porque eligieron una foto de una persona negra. Aunque Facebook sepa que es más probable que los hombres mayores vean anuncios que representan a mujeres jóvenes, ello no significa que estén más interesados ​​en los productos. Sin embargo, hay mayores cosas en juego que solo esto.

Sapiezynski señala al respecto: “Aprendizaje automático, aprendizaje profundo, todas estas tecnologías son conservadoras en principio”. También agregó que los sistemas como el de Facebook optimizan los sistemas observando lo que funcionó en el pasado. Esto significa que asumen que así es como deberían verse las cosas en el futuro. Por lo tanto, los algoritmos podrían reforzar los estereotipos y consagrar la discriminación.

El estudio también encontró que el algoritmo de Facebook podría estar discriminando en función de las imágenes que colocan en sus anuncios. Eso es un problema si los reguladores quieren forzar un cambio.

Settle, vocera de Meta, señala que Meta ha invertido en nueva tecnología para abordar su problema de discriminación en la vivienda. Y que la empresa extenderá esas soluciones a los anuncios relacionados con el crédito y el empleo. La compañía tendrá más para compartir en los próximos meses, agregó.

Sapiezynski dijo que incluso si eso es cierto, no es una justificación razonable. La investigación demuestra que el sistema de anuncios de las plataformas no es tan sofisticado como se cree. ¿Te sorprende todo esto? ¿Ya no confiarás en las promesas de Facebook?

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *