En conjunto con un equipo de investigadores de la Universidad Estatal Michigan, Facebook ha desarrollado una inteligencia artificial (IA) capaz de identificar de donde provienen los deepfakes. Eso significa que el algoritmo no solo puede detectar falsificaciones profundas, sino también identificar qué modelo de IA se empleó para su creación.
Para dar con el origen de los deepfakes, los investigadores apelaron a la técnica de ingeniería inversa FB-MSU. De esa forma, descubrieron “patrones únicos detrás del modelo de IA utilizado para generar una sola imagen falsa” con aprendizaje profundo. Al respecto, el equipo de investigación explica:
“Comenzamos con la atribución de imágenes y luego trabajamos para descubrir las propiedades del modelo que se utilizó para generar la imagen. Al generalizar la atribución de imágenes al reconocimiento de conjuntos abiertos, podemos inferir más información sobre el modelo generativo utilizado para crear un deepfake que va más allá de reconocer que no se ha visto antes”.
La IA de Facebook puede rastrear grupos de deepfakes
Esta inteligencia artificial es tan efectiva que no solo puede detectar el origen de un deepfake, sino también el origen de muchas falsificaciones profundas. Esto le permite a los investigadores rastrear este tipo de archivos hasta dar con una “única fuente generativa”. En efecto, este modelo de IA podría ayudar a evitar campañas de desinformación.
Básicamente, lo que los investigadores hicieron fue ejecutar una serie de deepfakes a través de “una red de estimación de huellas dactilares”. Se trata de un sistema que combina características comunes de varias personas y que posteriormente permite identificar a varios usuarios. De esa manera, la IA pudo comprender ciertos patrones impresos en las imágenes creados por un determinado dispositivo.
“Para las fotografías digitales, cada uno de estos patrones es único debido a las variaciones en la fabricación de su cámara. Lo mismo ocurre con las falsificaciones profundas: cada modelo generativo tiene sus propias peculiaridades que están impresas en sus creaciones y que pueden usarse para descubrir la identidad del modelo en función de la imagen misma”, agrega Engadget.
Sin embargo, esta tarea no fue nada fácil. Esto debido a que en Internet abundan los modelos generativos –datos creados pero que no existen–. En ese caso, estimaron “las huellas dactilares utilizando diferentes restricciones basadas en las propiedades de una huella dactilar en general, incluida la magnitud de la huella dactilar, la naturaleza repetitiva, el rango de frecuencia y la respuesta de frecuencia simétrica”, explican los investigadores.
Con ese proceso, los investigadores lograron separar las huellas digitales verdaderas de las falsas. Además de dar con el modelo de IA que se usó para crearlas. “El equipo de Facebook compara esto con poder identificar los diversos componentes del motor de un automóvil con solo escucharlo inactivo”.