Instagram eliminará comentarios abusivos y publicidad no deseada de forma automática
Aunque las plataformas lo intenten, no todo lo que campa por las redes sociales es bueno. La existencia de herramientas para controlar el abuso o el contenido inapropiado existen, precisamente, porque parece imposible deshacerse de perfiles nocivos. Instagram busca dar un paso más en la lucha contra el acoso, el feedback negativo y la publicidad o spam con una poderosa herramienta: la Inteligencia Artificial.
La iniciativa ofrece dudas sobre cómo la IA podrá discernir un contexto u otro, así como las distintas connotaciones de un mismo término
Ya el año pasado Instagram lanzó una herramienta para poder filtrar el contenido y eliminar palabras específicas consideradas como ofensivas que pudieran molestar a un usuario en su cronología. Pero el escudo tenía sus agujeros, porque los comentarios ofensivos se colaban de igual forma al cabo del tiempo, ya que los acosadores incluían nuevos términos a sus comentarios abusivos.
La misión de la Inteligencia Artificial en esta lucha es la de aprender del contexto en el que se generan los comentarios malintencionados más que las palabras concretas que se emplean, que pueden ir variando con el tiempo.
De momento la función solo estará disponible en inglés. Aquellos que utilicen Instagram en este idioma (hacerlo siendo un usuario no nativo puede ser una buena manera de mejorar las competencias) irán observando cómo la Inteligencia Artifical aprende con el tiempo.
Para activar la función de ocultar comentarios ofensivos, los usuarios deben acudir a la sección de Ajustes, Comentarios, y activar en el panel la opción de «ocultar comentarios inapropiados». Debajo aparece un espacio en el que incluir las palabras que se vetarán en la cronología de cada usuario.
La iniciativa de Instagram, no obstante, puede traer controversia por la capacidad de la Inteligencia Artificial de discernir un doble sentido o un mensaje inapropiado que se esté citando para ofrecer respuesta. Los contextos en los que se publique cada palabra, por ejemplo, son confusos en ocasiones para los propios humanos; un robot lo tendrá ciertamente más difícil.
Por último, la Inteligencia Artificial estaría desarrollándose en Instagram también para detectar a tiempo los comentarios que solo envían publicidad o spam.
