Facebook continúa buscando formas de combatir el contenido que fomenta el odio y que realiza apología del terrorismo en la red social, pero no lo tiene fácil, a tenor de todos los movimientos registrados en este sentido en los últimos meses.
Facebook necesita más contenidos para «entrenar» a sus sistemas de reconocimiento automático del odio y el terrorismo
Ahora la compañía ha anunciado una serie de nuevas medidas que tratarán de mejorar la manera en la que se lucha contra estos contenidos perjudiciales y la proliferación de grupos extremistas y organizaciones que hacen del odio su temática habitual tanto en Facebook como en Instagram. Estas nuevas medidas son las siguientes:
-Procesos de mejora de la detección del contenido. Facebook asegura que, aunque lleva años trabajando para detectar con rapidez el contenido de odio y de apología del terrorismo, hay ocasiones en las que sus sistemas no han podido funcionar como es debido a causa de la falta de material de análisis al enfrentarse a una situación nueva.
Por ejemplo, en el caso de los asesinatos en Christchurch en Nueva Zelanda, retransmitidos a través de Facebook Live, el sistema de detección de contenido de Facebook «no funcionó» porque en su base de datos no contaba con imágenes similares que pudiese comparar para saber si se trataba de un contenido prohibido. Para mejorar esto, por ejemplo, la compañía está trabajando con las fuerzas de seguridad de Reino Unido y Estados Unidos para tener vídeos grabados en primera persona de situaciones violentas que se recrean para pruebas y ensayos. Incluyendo esos vídeos en sus sistemas, les será más fácil detectar el contenido perjudicial.
-Actualización de la política de uso. Facebook señala que, aunque el terrorismo es un problema global, no existe una definición clara de qué es una organización terrorista, por lo que ellos han adoptado una y la han incluido en sus condiciones de uso, centrándose en el comportamiento, no en la ideología, de los grupos, a la hora de determinar si son una organización terrorista o no. En este sentido, cualquier intento de violencia, particularmente hacia la ciudadanía para intimidarles o coaccionarles, pasará a ser considerado como acto terrorista, aunque no se haya llegado a cometer. Con el intento será suficiente.
-Dar a los usuarios más herramientas para dejar el odio atrás. En Estados Unidos, cuando un usuario busca en Facebook un término relacionado con el odio, es conducido a la página de «Life after Hate» (Vida después del odio), una asociación fundada por ex- partidarios del extremismo que ofrece apoyo y ayuda. Ahora Facebook extenderá programas similares a otros territorios, empezando por Australia e Indonesia, donde ya se ha asociado con asociaciones similares.
-Aumentar el equipo. Facebook ha anunciado que ha incorporado a más personas al equipo que lucha específicamente contra los contenidos de odio y que ahora posee 350 empleados con experiencia en reforzar la seguridad nacional y servicios de inteligencia contra el terrorismo y la radicalización.
-Transparencia. Facebook se compromete a comunicar la manera en la que lucha contra estos contenidos así como los resultados e ir actualizando su informe «Community Standards Enforcement», que ya fue publicado el pasado mes de noviembre de 2018.
