Los recientes tiroteos masivos que se han dado en todo el mundo han dejado en evidencia la poca preparación que tienen los algoritmos de Facebook para lidiar con estas situaciones. Por ello, la compañía ha decidido ponerse manos a la obra para comenzar a hacer cambios en su sistema.
Uno de los más notorios es que harán que su inteligencia artificial aprenda a reconocer con mucha más facilidad los contenidos violentos. De este modo, este tipo de videos o fotografías ni siquiera contarán con la posibilidad de completar el proceso de publicación en la página y serán eliminados de inmediato.
El ataque de Christchurch dejó huella
En la actualidad, tenemos claro que los tiroteos masivos en Estados Unidos se están volviendo un asunto aterradoramente frecuente. Sin embargo, hemos prestado un poco menos de atención a las situaciones similares que se han presentado en otros países.
Por lo general, el público estadounidense ya parece estar condicionado y tiene una reacción más rápida a este tipo de acontecimientos. Sin embargo, otras nacionalidades no parecen compartir todavía esa presteza en su accionar.
Debido a esto, durante el ataque de Christchurch en Nueva Zelanda, nadie pareció dar noticia de que este se transmitía en vivo por Facebook hasta que el video concluyó. Asimismo, los algoritmos de Facebook fallaron en identificarlo ya que –según la compañía– este no poseía suficiente información sobre ataques en primera persona como para poder reconocerlo como un contenido inapropiado.
Fue debido a este último y lamentable hecho que la reconocida red social decidió tomar cartas en el asunto. Por este motivo, hasta la fecha se encuentran trabajando arduamente para mejorar las restricciones de su sistema y por borrar definitivamente de su plataformas los rastros de este evento.
Las fuerzas policiales bretonas se unen Facebook
Para poder entrenar a una IA, es necesario que la alimentes con datos. Sin embargo, está claro que esta no puede esperar a que se presenten más contenidos violentos en su plataforma para ir aprendiendo de ellos poco a poco. Esto se trataría de una política tan pasiva como poco ética.
Por este motivo, la compañía ha optado por un enfoque muchos más proactivo. En este, lograrán llevar datos nuevos a sus algoritmos antes de que se presenten actos violentos.
¿Cómo lo harán? Fácil, a través de una nueva alianza con la policía de Inglaterra. Esta le ofrecerá al portal la posibilidad de acceder a sus videos de entrenamiento con armas de fuego.
De este modo, la inteligencia artificial contará con mucha más información con la que realizar los análisis en el futuro. Mucho de este nuevo método utilizado por la compañía, ha surgido como una respuesta de las obvias brechas por las que se han colado este tipo de sistemas en el pasado.
¿Por qué las fuerzas policiales?
Además del obvio motivo de que son una fuente de información segura de la que pueden conseguir datos que no necesariamente provengan de hechos violentos, también se eligió a las fuerzas de la ley por otro motivo. Los funcionarios policiales llevarían las cámaras como parte de su indumentaria. Por esto, gran parte de los videos obtenidos contendrían elementos filmados en primera persona.
De este modo, la red social no solo estaría robusteciendo la base de datos con la que ya cuenta. También creará una totalmente nueva para que situaciones como la de Christchurch no vuelvan a ocurrir. Así como lo está haciendo Facebook, otros espacios web también están intentando mejorar sus políticas contra contenidos violentos.
Por ello, los videos otorgados gratuitamente por la policía Metropolitana de Inglaterra a Facebook, también llegarán a manos del Departamento de Hogar del país bretón para que puedan ser distribuidos con cualquier firma tecnológica que quiera hacer más fuertes sus defensas para evitar ser utilizada como plataforma de transmisión de odio o violencia.