Las herramientas para combatir el abuso sexual infantil en Internet impulsadas por Inteligencia Artificial (IA) han demostrado gran efectividad en países como EE.UU, donde tan sólo en 2017, la policía logró analizar al menos 53,000 dispositivos diferentes que pertenecían a sospechosos de pedofilia y violación, gracias a un software de reconocimiento de imágenes.
En el caso de las plataformas de contenido multimedia, YouTube ha hecho lo propio eliminando una gran cantidad de canales que promueven el abuso sexual infantil, y gobiernos como el de España han utilizado toda la fuerza de sus departamentos de informática para acabar con redes de pornografía infantil que operan a través de aplicaciones como Skype.
Ahora, el gigante tecnológico Google busca erradicar la difusión de material de abuso infantil, y ha lanzado una nueva herramienta gratuita basada en IA para ayudar a los moderadores en Internet en este sentido.
Según el comunicado oficial de la empresa, las soluciones existentes hasta el momento que utilizan IA para identificar imágenes o videos con material abusivo, se basan en contenido previamente identificado, sin embargo, ¿Qué sucede con el contenido que todavía no ha sido identificado como ‘ilegal’? Pues bien, ahí es precisamente donde intervienen los moderadores humanos, quienes ahora tendrán un punto de apoyo con la nueva herramienta de IA de Google.
¿Cómo ayudará esta herramienta a los moderadores? Google explica que su software se basará en la experiencia de la empresa en reconocimiento de imágenes para ayudar a los moderadores a clasificar imágenes y videos priorizando el contenido que sea más probable a ser clasificado como ‘pornografía o abuso infantil’.
De hecho, la compañía asegura que esta herramienta ya ha ayudado a un moderador a realizar clasificaciones en un 700 por ciento más de contenido. En concreto, se trata de un recurso que fusiona lo mejor del trabajo humano con la tecnología avanzada de IA de Google para ofrecer mayor efectividad al detectar este tipo de contenido.
Evidentemente, esta herramienta busca evitar la propagación de imágenes o archivos, y de la erradicación del problema dependen las acciones de las autoridades y los gobiernos del mundo en conjunto.
