Normal Ia Psicopata Imagenes Reddit1

Un grupo de científicos del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) han entrenado un algoritmo de Inteligencia Artificial (IA) llamado ‘Norman’, que luego de ser entrenado con imágenes perturbadoras de Reddit, se ha convertido en un verdadero psicópata.

Norman es llamado así por el personaje de Anthony Perkins en el clásico del terror ‘Psycho’, de Alfred Hitchcock de 1960. El entrenamiento de este algoritmo estuvo basado en un flujo continuo de imágenes violentas de varios subreddits antes de que fuese sometido al test de Rorschach, un método proyectivo basada en imágenes con tinta.

La interpretación de Norman fue espeluznante, ya que la IA identificó muertes por accidentes, electrocuciones, etc., en imágenes donde una IA estándar sólo veía sombrillas, pájaros volando y pasteles de boda.

Los científicos del MIT entrenaron la IA específicamente para que realizar ‘subtítulos de imágenes’, un método de Aprendizaje Profundo para que la IA elimine imágenes y produzca las descripciones correspondientes a cada una de ellas a través de un escrito.

La investigación se hizo con el propósito de probar que el método de entrada que se utiliza para entrenar a una máquina a aprender un algoritmo influye notablemente en su comportamiento futuro. Los expertos consideran que cuando se acusa a una IA de injusta y prejuiciosa, como a la IA de Google y Facebook, el culpable no es el algoritmo sino quienes lo entrenaron.

Los investigadores explican que el hecho de que Norman solo haya estado expuesto a imágenes negativas y deprimentes, hace que la lógica de empatía de la IA simplemente no se haya activado.

En un evento del MIT llevado a cabo en mayo, Andrew McAfee, codirector de la Iniciativa para la Economía Digital del MIT, se reunió con varios expertos de Silicon Valley que detallaron casos en los que el racismo y la discriminación se filtraron en varios algoritmos. Ellos advirtieron que a pesar de que los departamentos de Recursos Humanos pueden hacer buenas contrataciones, los prejuicios contra las minorías pueden haber nacido del ser humano que programó el algoritmo.