Crean un filtro que elimina los «nudes» en los DM de Twitter
Enviar «nudes» es una práctica que consiste en mandar fotografías de cuerpos desnudos a personas sin el consentimiento de recibirlo. En su mayoría es enviado a mujeres -por parte de personas o bots- que inician una especie de «acoso sexual» hacia ellas y es algo más popular en Twitter de lo que se piensa. Ante esta acción, se ha creado un filtro que permite detectar y eliminar la foto, además de bloquear al usuario que la envía.
Para activar el filtro contra «nudes» se debe ingresar al sitio web «register.safedm.com», y dar los datos de la cuenta de Twitter a proteger
No es una función nativa de Twitter o una iniciativa impulsada por la red social, sino de Kelsey Bressler, una estudiante que ha lanzado una campaña llamada «Safe DM» y el eslogan «Dick-Free DMS». Su creación es un filtro que emplea Inteligencia Artificial que permite revisar el contenido de los mensajes directos para detectar estas imágenes – específicamente el pene del hombre – eliminando automáticamente la foto y bloqueando al usuario que la envía.
Al parecer esta joven analista y probadora de software estaba cansada de recibir fotos de hombres desnudos sin su consentimiento, por lo que se decidió a iniciar la campaña y a desarrollar este algoritmo. Para usar el filtro se debe ingresar al sitio web oficial «register.safedm.com» y proporcionar los datos de la cuenta de Twitter a filtrar. Esto le permite al algoritmo entrar al perfil y blindar la cuenta de estas fotografías inapropiadas. Aquí un tuit de la joven invitando a sus seguidores a formar parte del proyecto:
Give your friends the gift of dick-free DMs this Valentine's Day.
RT to let them know they can sign up for Safe DM!!https://t.co/4RM1TaUh9Z@showYoDiq #dontBeAdick pic.twitter.com/ei5gT2nCsL
— K E L S E Y (@raeBress) February 14, 2020
Para entrenar a la Inteligencia Artificial de este filtro se han usado fotos y envíos reales de nudes a través de mensajes directos en una cuenta de Twitter creada para expresamente ayudar al algoritmo. Se trata de @showYoDiq y en su biografía de perfil solicita enviar desnudos a esta cuenta siempre y cuando se tenga más de 18 años de edad, avisando que se participa en un experimento y la foto se comparte de forma consensuada.
Esto ha servido de entrenamiento a la inteligencia artificial para ir reforzando la función de detectar, eliminar y bloquear los «nudes». Hasta el momento el bot que controla esta función ha recibido más de 4.000 fotografías colaborativas, de forma desinteresada, y ha mostrado una eficiencia del 99%.
Sin embargo, si se compara este filtro robotizado con el filtro de Twitter para frenar el abuso en los DM de usuarios desconocidos o aplicaciones de terceros, el proceso de aprendizaje de esta Inteligencia Artificial es un poco lento. Es el único inconveniente existente, ya que podría mejorarse en el futuro su rendimiento con la integración directa del servicio de Twitter.
