El periódico The Guardian publicó una serie de manuales que revelan los procedimientos que sigue Facebook para moderar las publicaciones de los usuarios. La publicación afirma haber visto más de 100 manuales de entrenamiento, diagramas de flujo y hojas de cálculo que describen en detalle la manera en que la red social maneja toda clase de temas, en especial aquellos temas espinosos, como violencia, pornografía, canibalismo, racismo, lenguaje de odio, terrorismo y auto-agresión.
Uno de los detalles que sorprende es la relativamente pequeña cantidad de moderadores humanos (7500, de acuerdo con los últimos datos), para manejar un universo que ronda los dos mil millones de usuarios. Este personal enfrenta un trabajo abrumador, intentando manejar un contenido que se renueva con una velocidad pasmosa. Es por eso que los humanos hacen un trabajo más bien de soporte a los algoritmos de Inteligencia Artificial que determinan la pertinencia de ciertos contenidos, manejando las denuncias sobre contenido inapropiado que envían los usuarios.
Los manuales se parecen mucho a los que usan las casas editoriales, lo cual contrasta con las reiteradas alegaciones que el portal hace, acerca de que no es una casa editorial.
El recorrido a lo largo del material “permitido” y “prohibido” muestra que se pueden mostrar fotos de abuso animal, si se usan para crear conciencia del problema. Pero vídeos del mismo tipo de abuso no se permiten.
Uno de los procedimientos más curiosos tiene que ver con el manejo de los vídeos de auto-agresión en vivo: Facebook tiene la política de no detener la transmisión de vídeos en directo donde una persona se auto-agrede o intenta suicidarse, y su argumento se basa en no censurar a personas en riesgo, ya que la transmisión puede representar una oportunidad valiosa de ofrecer ayuda.
Los manuales revelan, entre otras cosas, que Facebook no permite amenazas contra figuras públicas o la negación del Holocausto. Pero permite vídeos de sobre muertes violentas, que sirvan para crear conciencia sobre el tema, y desnudos artísticos.
Este manual da un panorama más completo sobre el manejo de la información en un portal que también debe lidiar con el problema de las noticias falsas publicadas por usuarios, el spam y el clickbait (pesca de clics), además de la propaganda.
