Dicen que una mirada dice más que mil palabras, y aunque en nuestros tiempos el acceso a filtros para fotos y videos puede dificultar su interpretación, hay detalles que pueden ayudar. Por ejemplo, la forma de los ojos y específicamente de las pupilas puede ayudarnos a determinar si estamos mirando a una persona real o una que no existe (deepfake).
Al menos por el momento no nos referimos a fantasmas, sino a los rostros falsos generados por sistemas de aprendizaje automático. Si en algún momento te preguntas si el perfil que visitas en alguna red social es real o falso, podrías simplemente echar un vistazo a la forma de sus pupilas. Si no es redonda, como estamos acostumbrados a ver, es mejor salir de allí.
El mundo cibernético está repleto de deepfakes
Si bien suenan inútiles con tanta disponibilidad de fotos de personas reales en Internet, las deepfakes se han vuelto muy populares. El desarrollo de este tipo de tecnologías, basadas también en el revolucionario aprendizaje automático, no siempre tiene fines nobles.
Aunque es útil para detectar criminales y pedófilos en la red, así como revivir los rostros de actores fallecidos, muchos las usan para crear perfiles falsos en las redes sociales. Con ellos, tratan de difamar a otros o estafar a las personas menos familiarizadas con el tema.
¿Cómo determinar si estamos ante el rostro de una persona real? Presta atención a sus ojos
A veces nuestra búsqueda de la verdad implica sumergirnos en algunas mentiras, pero incluso en estos casos es necesario aprender a diferenciar la una de la otra. Por ejemplo, ahora que abundan las deepfakes en Internet, esta premisa podría ser especialmente útil a la hora de determinar cuál es cuál para evitar terminar como víctimas.
A propósito de ello, los científicos de la Universidad Estatal de Nueva York desarrollaron una herramienta que ayuda a detectar si los rostros con los que nos topamos en la red son reales o no. Los detalles se encuentran en un artículo de preimpresión en el sitio arXiv.org, pero mientras se publica formalmente en una revista, conviene hablar de lo que plantea.
Una herramienta para combatir las deepfakes malintencionadas a partir de la forma de los ojos
Su funcionamiento se basa en extraer automáticamente los contornos de las pupilas de los ojos en las fotos que se le presentan y luego los evalúa con base a información real. En este sentido, apunta a determinar si tienen formas elípticas como las que tienen los humanos adultos saludables normalmente.
Los investigadores probaron su desarrollo con una base de datos de 2.000 imágenes, de las cuales 1.000 eran caras reales y 1.000 eran caras falsas; estas últimas fueron creadas por un algoritmo de aprendizaje automático del tipo red neuronal generativa adversaria o antagónica (GAN, por sus siglas en inglés). Según informan, la herramienta logró diferenciar de manera confiable ambos grupos con la información suministrada.
El hallazgo más significativo fue que las formas irregulares de las pupilas existen ampliamente en las caras generadas por el sistema GAN de alta calidad. Las pupilas de los rostros falsos no eran redondas como los de la gente real, sino que tienen “artefactos e inconsistencias visibles en las regiones oculares”.
La forma de los ojos puede ayudar a diferenciar una persona real de una falsa
Pero, ¿cómo este detalle pudo pasar desapercibido para quienes se esmeran tanto en el desarrollo de deepfakes? Pues bien, los autores creen que se debe a que los modelos GAN de aprendizaje automático no comprenden a con tanta exactitud la anatomía del ojo humano.
De hecho, no es la primera vez que el análisis de ojos destaca como criterio para este tipo de investigaciones. En una oportunidad previa hablamos de herramientas que usan el reflejo de la luz en ellos para evaluar la veracidad de los retratos.
Proponemos un nuevo método de base fisiológica que puede utilizar las formas irregulares de las pupilas como una señal para detectar las caras generadas por GAN, que es simple pero eficaz”.
El estudio revela al mundo, incluido a los estafadores inteligentes que se dedican a ello para cometer delitos en línea, un punto débil que puede ser de gran utilidad. De perfeccionarse, este tipo de herramientas puede ayudar a contrarrestar el uso malicioso de imágenes de apariencia realista en la red. La pregunta es, ¿quiénes aprovecharán este hallazgo primero?
Referencia:
Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces. https://arxiv.org/abs/2109.00162