Facebook hace público su algoritmo para censurar contenido dañino

NPE Team creará apps

Facebook ha publicado en Github, una plataforma de código abierto, los algoritmos que usa para identificar las publicaciones que contienen elementos de explotación sexual infantil, propaganda terrorista o imágenes de violencia explícita.

Facebook quiere que sus algoritmos sean utilizados para nutrir una base de datos común que permita identificar contenido dañino en diferentes lugares de Internet

Para hacer esto, Facebook ha utilizado las tecnologías PDQ y TMK + PDQF, que almacena los archivos de forma comprimida en códigos alfanuméricos, también conocidos como digital ashes, y los compara con imágenes conocidas de contenido dañino.

Con la publicación de estos algoritmos, Facebook busca que otros utilicen su tecnología para identificar contenido dañino en Internet y añadirlo en una base de datos común, de la que se puedan alimentar todas las webs.

La incorporación de este algoritmo permitiría que las páginas web más pequeñas o en desarrollo, puedan agilizar la eliminación de contenido dañino sin la necesidad de tener a un equipo de moderadores de las dimensiones de Facebook.

Además, Facebook también ha señalado que la incorporación de estos algoritmos en páginas web o plataformas con sus propios sistemas de moderación, podría permitir agregar una capa extra de protección, agilizando aún más la eliminación de contenido dañino.

El lanzamiento público de estos algoritmos va de la mano con los esfuerzos de Facebook por mejorar sus criticados sistemas de moderación, especialmente tras la gran presión que han ejercido gobiernos como el francés por mejorar los sistemas de eliminación de contenido dañino en webs y redes sociales.

En este sentido, Facebook también está llevando a cabo una colaboración con la Universidad de Maryland, Universidad Cornell, el Massachussetts Institute of Techonology, la Universidad de California y Berkeley, con el objetivo de investigar nuevos mecanismos para evitar que los algoritmos de censura pasen por alto los contenidos dañinos que sufren pequeñas alteraciones para no ser censurados.

Diana Cid

Periodista interesada en tecnología, cultura y verificación digital

Un comentario sobre “Facebook hace público su algoritmo para censurar contenido dañino

  • el 04/10/2019 a las 17:47
    Permalink

    donde esta disponible no lo veo en su cuenta de github como se llama?

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Información sobre protección de datos

  • TreceBits te informa que los datos de carácter personal que nos proporciones rellenando el presente formulario serán tratados por Manuel Moreno Molina (TreceBits) como responsable de esta web.
  • La finalidad de la recogida y tratamiento de los datos personales que te solicitamos es para gestionar los comentarios que realizas en este blog.
  • Legitimación: Consentimiento del interesado.
  • Como usuario e interesado te informamos que los datos que nos facilitas estarán ubicados en los servidores de HOST EUROPE IBERIA S.L.U. (proveedor de hosting de TreceBits. HOST EUROPE IBERIA S.L.U. está ubicado en UE, en España un país cuyo nivel de protección son adecuados según la Comisión de la UE. Ver política de privacidad de HOST EUROPE IBERIA S.L.U.
  • Podrás ejercer tus derechos de acceso, rectificación, limitación y suprimir los datos en info@trecebits.comasí como el derecho a presentar una reclamación ante una autoridad de control.
  • Puedes consultar la información adicional y detallada sobre Protección de Datos en nuestra política de privacidad.