Facebook ha mencionado a través de su blog, que se encuentra implementando nuevas herramientas de detección de pornografía vengativa que utilizan el aprendizaje automático y la Inteligencia Artificial (IA) para encontrar las imágenes que son compartidas sin el consentimiento del usuario, y un centro de recursos en línea para brindar apoyo a los usuarios afectados por este tema.
Esta herramienta esta siendo desarrollado de acuerdo a los comentarios de los usuarios, discusiones con víctimas, defensores, académicos y organizaciones sin fines de lucro del Reino Unido, Kenia, Dinamarca y EE. UU., Pakistán, Brasil y Corea del Sur respectivamente, con la finalidad de mejorar sus sistemas de detección.
¿Cómo funciona?
Según destaca la fuente, esta herramienta implementará el aprendizaje automático para detectar las imágenes y videos donde se aprecien desnudos, incluso antes de que sean reportados, y que luego de recibir una notificación sobre un caso de pornografía vengativa, con la ayuda de un moderador humano se revisará el contenido marcado y se procederá a eliminar de la plataforma, desde luego si incurre en algunos de los estándares de la comunidad.
Encontrar estas imágenes va más allá de detectar desnudos en nuestras plataformas. Al utilizar el aprendizaje automático y la inteligencia artificial, ahora podemos detectar proactivamente imágenes o videos casi desnudos que se comparten sin permiso en Facebook e Instagram.
Asimismo, la red social propiedad de Mark Zuckerberg ha mencionado que existirán medidas en contra de la cuenta que generó el contenido, y es que esta será eliminada de la plataforma, sin embargo, también ofrecerá una opción para aquellas denuncias incorrectas a través de un proceso de apelación.
Si la imagen o video viola nuestras Normas de la Comunidad, lo eliminaremos y, en la mayoría de los casos, también inhabilitaremos una cuenta para compartir contenido íntimo sin permiso. Ofrecemos un proceso de apelación si alguien cree que hemos cometido un error.
Medidas de apoyo
Esta nueva herramienta estará disponible para Facebook e Instagram, y llegará para complementar su programa piloto que brinda a los usuarios una opción de emergencia para enviar una foto a Facebook de forma segura y proactiva, desde la cual se crea una una huella digital para evitar que dicho contenido continué distribuyéndose en la plataforma.
Finalmente, se conoció que Facebook proveerá a los usuarios información sobre los grupos de apoyo locales y una guía sobre cómo informar sobre este tipo de contenido dentro del Centro de seguridad de Facebook.