Zoom es una herramienta para realizar videollamadas que durante la cuarentena por el COVID-19 ha sido una de las más descargadas para poner en contacto a familiares y amigos. Sin embargo, la aplicación no ha estado exenta de polémica: fallos de seguridad, robos de datos personales, tiempo de reacción, proliferación de trolls… pero no sólo eso, también ha ocurrido que algunos usuarios han empleado la aplicación para realizar videollamadas apareciendo desnudos o realizando actos indebidos.
Zoom trabaja en un algoritmo que censurará contenido sexual y personas desnudas
Las políticas de privacidad de Zoom prohíben expresamente a los usuarios usar la app para participar en actividades dañinas, de carácter obsceno o que sean consideradas indecentes, tanto en el entorno personal como en el comercial. Para evitar este tipo de situaciones -o evitar que se cuele en el plano un desnudo que no tenía por qué verse durante el desarrollo de la videollamada- Zoom se ha puesto a trabajar en el desarrollo de un algoritmo especializado que permita detectar a los usuarios que se desnuden o utilicen la aplicación para realizar actos o presentaciones sexuales.
La medida se toma ahora tras ocurrir varios incidentes en Zoom que han generado revuelo internacional. Ha sido frecuente la aparición de trolls en las videollamadas y Zoom ya ha habilitado una función para denunciarlos en tiempo real, pero ahora quiere tomar medidas para detectarlos antes de que otros usuarios los denuncien, sobre todo en el caso de que vayan desnudos. En Noruega, por ejemplo, la semana pasada un hombre se unió a una reunión de Zoom completamente desnudo sin haber sido invitado.
¿Cómo pudo ocurrir? Porque al crear una videollamada, también se genera un link de acceso público que algún usuario sin muchos escrúpulos puede aprovechar para entrar y hacer de las suyas. Esta actividad además de ser un acto a la violación de la privacidad, es considerada también un acto de acoso sexual que se paga con cárcel.
Pero hasta ahora Zoom no ha sido capaz de reaccionar a este tipo de situaciones, que requieren la rápida actuación para censurar contenidos inapropiados, y no basta ya, ante la gran cantidad de usuarios que atesora la herramienta, confiar en que sean ellos mismos los que denuncien. Por eso desarrollan este algoritmo, del que todavía no se sabe bien cómo funcionará, para evitar que la herramienta se convierta en una plataforma de comercio sexual. Entre las posibles sanciones para los usuarios que incumplan esta norma se contempla el dar de baja la cuenta.
Por otra parte, desde Zoom también esperan que el algoritmo, cuando se lance, pueda servir de medio para detectar otras violaciones a sus políticas de privacidad y relacionadas con contenido ofensivo de tipo xenofóbico, homofóbico, racismo, entre otros.
