Desde que surgieron los vídeos falsos creados por inteligencia artificial, conocidos como Deepfakes, se han generado mucha polémica en relación a este tema. Y es que desde el año pasado, cuando irrumpió esta tecnología, a muchos les ha dejado un sabor amargo, pues como fue anunciado esto sería el inicio de muchas vulnerabilidades.

Las deepfakes, comenzaron como un juego, pero poco a poco se han convertido en una tecnología peligrosa, dada la realidad tan convincente que producen. Es por ello que, el MIT Technology Review, ha anunciado el desarrollo de una tecnología para capturar deepfakes.

Se trata del programa Media Forensics, dirigido por la Agencia de Proyectos de Investigación Avanzada de la Defensa de EE. UU. (DARPA), donde algunos investigadores han estado trabajando en el desarrollo de ciertas herramientas que permitan reconocer IA falsas.

Tucker Carlson gets his own Nicolas Cage makeover.
UNIVERSITY AT ALBANY, SUNY (AFTER)

Esta herramienta, inicialmente no fue creada con esta idea, sino que, en un principio, se estaba desarrollando con el fin de automatizar las herramientas forenses existentes, pero dada la peligrosidad de las deepfakes, decidieron volcar completamente toda su atención a este proyecto.

Facebook bloqueará información falsa sobre los centros de votación en próximas elecciones en EEUU

Luego de un análisis realizado por un profesor de SUNY Albany, llamado Siwei Lyu, quién junto a sus estudiantes se percató que estos deepfakes trataban de imágenes estáticas, donde raramente los personajes parpadeaban, introdujo este pequeño fallo en estos vídeos, facilitando la posibilidad de detección.

“Descubrimos pistas sutiles en las imágenes y videos manipulados por GAN, que nos permiten detectar la presencia de alteraciones“, dice Matthew Turek, que dirige el programa Media Forensics.

A parte de esta, se están desarrollando otras herramientas adicionales, que permitan detectar otras características, como identificar movimientos anormales de la cabeza o el cuerpo.

Lyu menciona que se pueden usar herramientas actuales para dar con estos movimientos, sin embargo, están apostando por usar la mejor tecnología a fin de encontrar la menor cantidad de errores.

Por lo pronto, estamos frente a una polémica entre los amantes de la IA real , contra los devotos de las deepfakes,el Departamento de Defensa no la tiene tan fácil, así que esta será una batalla que apenas comienza.

Más en TekCrispy