Facebook hace público su algoritmo para censurar contenido dañino

Facebook ha publicado en Github, una plataforma de código abierto, los algoritmos que usa para identificar las publicaciones que contienen elementos de explotación sexual infantil, propaganda terrorista o imágenes de violencia explícita.

Facebook quiere que sus algoritmos sean utilizados para nutrir una base de datos común que permita identificar contenido dañino en diferentes lugares de Internet

Para hacer esto, Facebook ha utilizado las tecnologías PDQ y TMK + PDQF, que almacena los archivos de forma comprimida en códigos alfanuméricos, también conocidos como digital ashes, y los compara con imágenes conocidas de contenido dañino.

Con la publicación de estos algoritmos, Facebook busca que otros utilicen su tecnología para identificar contenido dañino en Internet y añadirlo en una base de datos común, de la que se puedan alimentar todas las webs.

La incorporación de este algoritmo permitiría que las páginas web más pequeñas o en desarrollo, puedan agilizar la eliminación de contenido dañino sin la necesidad de tener a un equipo de moderadores de las dimensiones de Facebook.

Además, Facebook también ha señalado que la incorporación de estos algoritmos en páginas web o plataformas con sus propios sistemas de moderación, podría permitir agregar una capa extra de protección, agilizando aún más la eliminación de contenido dañino.

El lanzamiento público de estos algoritmos va de la mano con los esfuerzos de Facebook por mejorar sus criticados sistemas de moderación, especialmente tras la gran presión que han ejercido gobiernos como el francés por mejorar los sistemas de eliminación de contenido dañino en webs y redes sociales.

En este sentido, Facebook también está llevando a cabo una colaboración con la Universidad de Maryland, Universidad Cornell, el Massachussetts Institute of Techonology, la Universidad de California y Berkeley, con el objetivo de investigar nuevos mecanismos para evitar que los algoritmos de censura pasen por alto los contenidos dañinos que sufren pequeñas alteraciones para no ser censurados.