El pasado 14 de marzo, un hombre armado de 49 años ingresó a dos mezquitas de Christchurch, Nueva Zelanda, y mató a 49 personas e hirió a otras 20. Por si fuera poco, el asesino llevaba una cámara GoPro en su cabeza y transmitió en vivo todo el ataque a través de Facebook Live.

Este incidente, es la prueba más reciente de cómo las empresas de redes sociales todavía no tienen la capacidad de controlar totalmente el contenido extremista e inapropiado de sus plataformas. Tras el tiroteo de Christchurch, Facebook reconoció que, pese a haber eliminado millones de videos sobre el ataque, su Inteligencia Artificial (IA) no es suficiente para moderar este y otros contenidos similares.

Para Facebook, el hecho de que no existan suficientes videos sobre tiroteos y matanzas en su plataforma, impide que la IA pueda entrenarse de manera correcta para eliminar estas publicaciones. Los moderadores humanos tampoco han sido totalmente eficaces en esta tarea, por lo que otras empresas, incluyendo Google y Twitter, han mezclado el aprendizaje automático con sus trabajadores para evitar la divulgación de material que afecte la sensibilidad de otras personas. Sin embargo, los esfuerzos siguen sin ofrecer resultados satisfactorios dentro del sector tecnológico.

El presidente de Microsoft, a través de una publicación en el blog de la empresa, emitió ayer su opinión con respecto a esta realidad y, al igual que una gran cantidad de legisladores de países como EE.UU y el Reino Unido, considera que un plan de moderación para la industria tecnológica podría ser una solución efectiva al problema. En este sentido, Brad Smith dijo:

En última instancia, necesitamos desarrollar un enfoque en toda la industria que se basará en principios, integral y eficaz (…) La mejor manera de perseguir esto es dar pasos nuevos y concretos rápidamente de manera que se basen en lo que ya existe.

Smith señaló además que las personas están utilizando las plataformas de Internet para destacar el lado más oscuro de la humanidad, por lo que considera que es imperativo realizar nuevas inversiones en tecnología para moderar contenido. Según el ejecutivo, esta tecnología se debe compartir dentro de la industria con un ‘espíritu de comunidad’.

El presidente de la empresa dijo además que la tecnología no cumplirá esta labor en solitario, por lo que se requiere la colaboración de todas las compañías que hacen vida en el sector para crear un ´centro de comando virtual conjunto’ para coordinar respuestas efectivas tras cada incidente.