A pesar de que una compañía con el prestigio de Facebook puede darse el lujo de contratar a todos los moderadores humanos que considere necesarios para evitar la propagación de contenido inapropiado a través de su red social, sobre todo en una época donde las noticias falsas están a la orden del día, lo cierto es que es prácticamente imposible que estos especialistas puedan ver todas las imágenes publicadas en Facebook.
En este sentido, la compañía ha anunciado hoy un nuevo sistema basado en Inteligencia Artificial (IA) llamado Rosetta, que puede identificar texto en las imágenes y los videos publicados en Facebook, y posteriormente lo transcribe para que una máquina lo lea. La compañía de Mark Zuckerberg afirma que esta herramienta es de gran utilidad para transcribir texto de imágenes de memes.
A pesar de que los sistemas de reconocimiento de texto en imágenes no son nuevos, Facebook está en la necesidad de recurrir a herramientas mucho más efectivas para detectar el contenido indebido en su plataforma. La compañía ha asegurado que Rosetta está activa en este momento, recopilando texto de millones de imágenes no sólo en Facebook sino también en Instagram.
Debido a los escándalos de privacidad que recientemente han manchado la reputación de Facebook como red social y como empresa, no es descabellado dudar de lo que la empresa está haciendo con los datos que recopila a través de Rosetta. Por ejemplo, Facebook pudiera utilizar la información recopilada de las imágenes que comparten sus usuarios para definir mejor qué contenidos priorizar en su feed de noticias, y más allá de los memes tontos, seccionar mejor su publicidad, como ya lo ha hecho antes.
A pesar de ello, Facebook dice que esta herramienta busca detectar de forma automática el contenido que vaya en contra de la política de la compañía en relación al odio y el lenguaje ofensivo en varios idiomas. Teniendo en cuenta la falta de eficiencia de Facebook en este sentido, el uso de esta herramienta podría ser de gran ayuda.
