Foto: Reuters

Facebook es el mejor ejemplo de cómo las compañías de redes sociales tienen más control sobre nuestras acciones en línea que las propias agencias de seguridad de cada país del mundo. Recopilar datos personales de los usuarios, permitir que terceros accedan a ellos, y luego mostrar publicidad política para influir en sus decisiones durante un proceso electoral, es solo una pequeña parte de este control.

Un nuevo informe de Reuters ha revelado cómo los contratistas de la compañía de Mark Zuckerberg pueden acceder a las publicaciones privadas de los usuarios para entrenar los sistemas de Inteligencia Artificial (IA) de Facebook e Instagram. La publicación sugiere que los contratistas están clasificando las publicaciones basándose en 5 elementos:

  • Contenido (comidas, hitos, selfies).
  • Ocasión de la publicación (actividad, acontecimientos de la vida).
  • Elementos expresivos (opinión, sentimientos).
  • Intención del usuario (planificar un evento, inspirar a otros usuarios, hacer chistes).
  • Entorno (hogar, escuela, trabajo, etc.).

Asimismo, el contenido al que tienen acceso los contratistas incluye los comentarios, capturas de pantalla, nombres de usuario y otros datos confidenciales. La empresa encargada de analizar estos mensajes para Facebook es Wipro, la cual cuenta con casi 300 personas dedicadas exclusivamente a clasificar las publicaciones de los usuarios en la red social principal y en Instagram.

Wipro y Facebook tienen una relación comercial desde 2014, lo que indica que el trabajo de clasificación probablemente no es nuevo, sino que se ha intensificado tras la necesidad de Facebook de mejorar su IA para detectar con mayor rapidez el contenido inapropiado dentro de su plataforma.

Reconocimiento facial de la policía británica tiene una tasa de error del 81%

¿Puede la IA eliminar el contenido inapropiado?

Más allá de necesitar una gran cantidad de datos para desempeñarse de manera “adecuada”, los algoritmos no han sido capaces de adaptarse a las complejidades del lenguaje humano cuando lleva a cabo sus actividades de reconocimiento. Entonces, nuevamente se plantea la pregunta, ¿los algoritmos pueden erradicar el contenido no deseado?

Facebook considera que sí, y es precisamente allí donde entran en juego sus colaboradores humanos para etiquetar esta información y clasificarla. De esta forma, la IA en cualquiera de sus formas puede mejorar su eficacia al identificar publicaciones. Esta práctica plantea dudas en términos de privacidad, pero no es nueva dentro de la industria tecnológica.

Recientemente, un informe de Bloomberg reveló que miles de trabajadores de Amazon escuchan las conversaciones registradas por los altavoces Echo con el objetivo de optimizar el asistente inteligente Alexa. No pasará mucho tiempo antes de que violar la privacidad de los usuarios pronto sea la excusa perfecta para el entrenamiento de estos algoritmos, y la adopción de cada vez más dispositivos inteligentes y funciones de IA en redes sociales será el impulso final hacia ello.

Más en TekCrispy