Microsoft lanza una herramienta que detecta los ‘deepfakes’
Los deepfakes son vídeos manipulados digitalmente con técnicas de inteligencia artificial para hacer que una persona -generalmente famosa- diga cualquier cosa que los creadores del vídeo quieran. Su grado de realismo y su difícil detección los ha convertido en una de las herramientas más efectivas a la hora de propagar desinformación.
Microsoft ha desarrollado una herramienta que calcula la probabilidad de que un vídeo sea un ‘deepfake’
Con esto en mente, Microsoft ha desarrollado una herramienta llamada Video Authenticator destinada a analizar vídeos y determinar si se tratan de deepfakes o no. Video Authenticator puede analizar fotografías o vídeos y a la vez mostrar, en tiempo real en el caso de los vídeos mediante el análisis de cada frame, un porcentaje de probabilidad de que el contenido haya sido manipulado.
Video Authenticator busca en las imágenes los sutiles cambios que aparecen en los vídeos al transformarlos en deepfakes y que generalmente el ojo humano no puede detectar. Así, busca cambios en la escala de grises y distorsiones propias de este tipo de manipulación digital.
Esta tecnología ha sido desarrollada por los esfuerzos conjuntos de Microsoft Research, la división de investigación de la compañía, el equipo de inteligencia artificial de la empresa y el Comité de Ética y Efectos en Ingeniería y Desarrollo de Inteligencia Artificial o AETHER por sus siglas en inglés.
Los deepfakes son un escollo terrible a la hora de luchar contra la desinformación, y es por ello que muchas otras plataformas digitales los han prohibido. Es el caso de Facebook, que los elimina allá donde los encuentre, como una medida para evitar la propagación de desinformación ante la celebración de las elecciones presidenciales en Estados Unidos, que se celebrarán en noviembre de este año.
Twitter también trata de controlar las deepfakes e informa a sus usuarios de que están viendo uno para evitar que lo retuiteen de forma inconsciente. La red social muestra una etiqueta en cada deepfake que identifica en la que señala que se trata de un contenido manipulado.
