El contenido inapropiado en Internet no solo viene de la mano de videos, fotografías o discursos donde se muestren asesinatos, se promuevan armas o se incite al odio y a la violencia. El acoso es uno de los males ‘omnipresentes’ dentro de las redes sociales, y Twitter es el mejor ejemplo de ello, estando bajo la mira en varias oportunidades por la forma en que maneja este problema.
Asimismo, el algoritmo de YouTube a veces ha permitido que los videos ofensivos se muestren como tendencia, y en redes sociales como Instagram es complicado reportar el acoso.
A pesar de que el ‘bloqueo’ de un usuario o simplemente filtrar las palabras ofensivas puede ser una solución temporal, existen tantas formas de abuso y maltrato en Internet que resulta complicado pensar que las compañías que dirigen las plataformas más populares puedan crear algoritmos 100% efectivos al detectar estas señales.
Ahora, el equipo del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés), ha creado una herramienta llamada Squadbox, que permitirá que tus amigos te ayuden a moderar tu correo electrónico y tus redes sociales para protegerlas de los mensajes abusivos.
Se trata de una herramienta de crowdsourcing que permite crear escuadrones de amigos que filtrarán los mensajes y te apoyarán mientras un acosador intenta hacer de las suyas. David Karger, autor principal del proyecto y profesor del MIT dijo que Squadbox busca que el recurso de un amigo sea más eficiente y para que no se dupliquen los esfuerzos del moderador. En este sentido, explicó con motivo del anuncio:
Si les das a los moderadores las claves de tu bandeja de entrada, ¿cómo sabe el moderador cuándo hay que moderar un correo electrónico y qué correos electrónicos ya han sido manejados por otros moderadores? (…) Squadbox les permite a los usuarios personalizar cómo se maneja el correo electrónico entrante, dividendo el trabajo para asegurarse de que no haya duplicación de esfuerzos.
Con esta herramienta, el líder del escuadrón puede configurar filtros para reenviar automáticamente el contenido entrante en su canal de moderación. Cuando llega un correo electrónico, el moderador decidirá qué correos son de acoso y cuáles pueden reenviarse a la bandeja de entrada del usuario.
Evidentemente, esta herramienta funciona solo con el correo electrónico, lo que, según los investigadores, resulta ampliamente beneficioso, dado que el correo no está tan expuesto como la cuenta de Facebook o Twitter. Esto significa que el acosador siente menos responsabilidad porque sus comentarios no son públicos.