Facebook detectará los ‘deepfakes’ y su origen mediante ingeniería inversa
Facebook lleva tiempo persiguiendo la publicación en la red social de vídeos deep fake y acaba de anunciar un importante avance para combatirlos, rastreando además el origen de los mismos. Se trataría de una evolución de su prohibición de publicar estos contenidos y de su voluntad de eliminar todo contenido manipulado que se publique en la red social, una política que se puso en marcha el pasado año con motivo de las elecciones presidenciales en Estados Unidos de América.
Los vídeos deep fake superponen de forma muy realista los gestos de otros individuos sobre rostros de personas famosas
En un trabajo conjunto con la Universidad Estatal de Michigan, Facebook está desarrollando un método que emplea la ingeniería inversa para identificar los deepfakes. Esto supone que, partiendo del análisis de una imagen (un vídeo, en este caso) puede comprobarse si ha sido generada de manera artificial y en su caso a partir de qué modelo de inteligencia artificial y con qué herramienta, con lo que podría rastrearse su origen.
El método que se está desarrollando detectaría patrones que las herramientas de creación de este tipo de contenidos incluyen en los vídeos, lo que permite tanto descubrir que el vídeo es un deepfake y con qué herramienta se ha generado.
Estos patrones se denominan hiperparámetros y, debido a que deben ajustarse de manera personalizada en cada modelo de aprendizaje automático, como si se tratase de los engranajes de una maquinaria, revelan una especie de «huella digital» en cada vídeo que permitiría trazar su procedencia.
A partir de la comparación de estos patrones, y rastreando la publican de dichos vídeos en la red social fundada por Zuckerberg, esperan poder ser capaces de determinar el origen de los vídeos comparando los marcadores presentes en distintos vídeos, con los que podría llegar a identificarse incluso a la persona que los ha generado.
Por el momento esta herramienta se encuentra en una fase muy preliminar de desarrollo, por lo que no es de esperar que pase a emplearse a corto plazo.
