Facebook eliminará contenidos ofensivos antes incluso de que sean reportados

Facebook

Facebook ha anunciado en el F8 que planea aumentar la velocidad a la que se eliminan los contenidos, pudiendo incluso acabar con ellos antes de que sean reportados. Para ello, las claves son la inteligencia artificial y el machine learning. Este tipo de filtros ya se usan en Instagram, donde los comentarios tóxicos son filtrados por un algoritmo.

El machine learning ha permitido que gran parte de la moderación de contenidos en Facebook sea automática

En la conferencia, que se ha estado celebrando estos días en California, Facebook ha mostrado como la rapidez a la hora de actuar contra ciertos contenidos es vital. Por ejemplo, la compañía ha comentado que en los casos de suicidio, la velocidad de reacción permite salvar vidas, y cita que ya han ayudado en 1.000 casos de personas con intenciones suicidas.

La inteligencia artificial en la moderación permite llegar a más contenidos, ya que no hay que esperar a que alguien de la voz de alarma.

En lo que llevamos de 2018, Facebook ha eliminado cerca de dos millones de publicaciones relacionadas con ISIS y Al Qaeda, el 99% de los cuales antes de que nadie los reportase. La rapidez también evita que este tipo de publicaciones tengan la audiencia deseada.

Este sistema automático también constituye un alivio para el equipo humano de revisión de contenidos. Así, el contenido que viola de manera flagrante las condiciones de uso (discurso de odio, terrorismo, sexo explícito…) puede ser eliminado rápidamente mientras que los profesionales de carne y hueso deliberan sobre contenidos más ambiguos.

La compañía cita el ejemplo de alguien que cuenta algo sobre una hipotética adicción a las drogas y el equipo intentando discernir si solo se trata de una forma de contar la experiencia o de apología a este tipo de sustancias.

El sistema va aprendiendo gracias al machine learning, y al estar más tiempo en activo, más datos recolecta y más patrones reconoce. Esto permite la expansión gradual hacia contenidos que no sean en inglés, que es el idioma en el que están la mayoría de los contenidos sobre los que Facebook tiene información.

Juan Carlos Rubio

Periodista. Especializado en tecnología, economía y gastronomía. Videojuegos y política internacional.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Información sobre protección de datos

  • TreceBits te informa que los datos de carácter personal que nos proporciones rellenando el presente formulario serán tratados por Manuel Moreno Molina (TreceBits) como responsable de esta web.
  • La finalidad de la recogida y tratamiento de los datos personales que te solicitamos es para gestionar los comentarios que realizas en este blog.
  • Legitimación: Consentimiento del interesado.
  • Como usuario e interesado te informamos que los datos que nos facilitas estarán ubicados en los servidores de HOST EUROPE IBERIA S.L.U. (proveedor de hosting de TreceBits. HOST EUROPE IBERIA S.L.U. está ubicado en UE, en España un país cuyo nivel de protección son adecuados según la Comisión de la UE. Ver política de privacidad de HOST EUROPE IBERIA S.L.U.
  • Podrás ejercer tus derechos de acceso, rectificación, limitación y suprimir los datos en info@trecebits.comasí como el derecho a presentar una reclamación ante una autoridad de control.
  • Puedes consultar la información adicional y detallada sobre Protección de Datos en nuestra política de privacidad.