La cantidad de cuentas falsas y contenido “basura” que existe en Facebook es tan grande, que es prácticamente imposible para la compañía de redes sociales mantenerse al día con la eliminación de las publicaciones y perfiles que infringen sus políticas.
En su informe anual sobre discursos de odio y cuentas falsas, el vicepresidente de operaciones globales de Facebook, Justin Osofsky, reveló que una de las políticas más complicadas de hacer cumplir es el discurso de odio, ya que un término que representa un insulto en diversos contextos, también puede ser una simple broma referencial sobre el fanatismo que se refleja en la plataforma.
Además, el ejecutivo reveló un fuerte aumento en la cantidad de cuentas falsas creadas de Facebook en los últimos 6 meses. De hecho, la compañía ha logrado eliminar 3 mil millones de cuentas falsas desde octubre hasta marzo, evidenciando que los ataques automatizados para la creación de perfiles en la red social representan una realidad difícil de controlar.
Inteligencia Artificial más efectiva
A pesar de que se evidenció un aumento en la cantidad de perfiles falsos creados en Facebook, también es cierto que la compañía de Menlo Park realizó un seguimiento aceptable para abrirse camino y eliminar con éxito el contenido inapropiado. En este sentido, Facebook aplicó un seguimiento de las métricas mediante sus políticas de acoso, desnudos infantiles, violencia, contenido terrorista, entre otras.
De acuerdo con Osofsky, el aprendizaje automático y sus algoritmos de Inteligencia Artificial (IA) contribuyeron en la reducción de las publicaciones prohibidas. En al menos 6 de las 9 áreas reveladas en el informe de Facebook, las herramientas de IA detectaron el 96.8% del contenido antes que sus revisores humanos.
En el caso del discurso de odio, la compañía afirma que, de los 4 millones de publicaciones de discurso de odio eliminadas de la red social cada trimestre, su IA identifica el 65 por ciento de este contenido. Estas y otras optimizaciones, han contribuido a la disminución del contenido ilícito en Facebook.