Zoom desarrolla un algoritmo para detectar desnudos

Prohibir desnudos en Zoom

Zoom es una herramienta para realizar videollamadas que durante la cuarentena por el COVID-19 ha sido una de las más descargadas para poner en contacto a familiares y amigos. Sin embargo, la aplicación no ha estado exenta de polémica: fallos de seguridad, robos de datos personales, tiempo de reacción, proliferación de trolls… pero no sólo eso, también ha ocurrido que algunos usuarios han empleado la aplicación para realizar videollamadas apareciendo desnudos o realizando actos indebidos.

Zoom trabaja en un algoritmo que censurará contenido sexual y personas desnudas

Las políticas de privacidad de Zoom prohíben expresamente a los usuarios usar la app para participar en actividades dañinas, de carácter obsceno o que sean consideradas indecentes, tanto en el entorno personal como en el comercial. Para evitar este tipo de situaciones -o evitar que se cuele en el plano un desnudo que no tenía por qué verse durante el desarrollo de la videollamada- Zoom se ha puesto a trabajar en el desarrollo de un algoritmo especializado que permita detectar a los usuarios que se desnuden o utilicen la aplicación para realizar actos o presentaciones sexuales.

La medida se toma ahora tras ocurrir varios incidentes en Zoom que han generado revuelo internacional. Ha sido frecuente la aparición de trolls en las videollamadas y Zoom ya ha habilitado una función para denunciarlos en tiempo real, pero ahora quiere tomar medidas para detectarlos antes de que otros usuarios los denuncien, sobre todo en el caso de que vayan desnudos. En Noruega, por ejemplo, la semana pasada un hombre se unió a una reunión de Zoom completamente desnudo sin haber sido invitado.

¿Cómo pudo ocurrir? Porque al crear una videollamada, también se genera un link de acceso público que algún usuario sin muchos escrúpulos puede aprovechar para entrar y hacer de las suyas. Esta actividad además de ser un acto a la violación de la privacidad, es considerada también un acto de acoso sexual que se paga con cárcel.

Pero hasta ahora Zoom no ha sido capaz de reaccionar a este tipo de situaciones, que requieren la rápida actuación para censurar contenidos inapropiados, y no basta ya, ante la gran cantidad de usuarios que atesora la herramienta, confiar en que sean ellos mismos los que denuncien. Por eso desarrollan este algoritmo, del que todavía no se sabe bien cómo funcionará, para evitar que la herramienta se convierta en una plataforma de comercio sexual. Entre las posibles sanciones para los usuarios que incumplan esta norma se contempla el dar de baja la cuenta.

Por otra parte, desde Zoom también esperan que el algoritmo, cuando se lance, pueda servir de medio para detectar otras violaciones a sus políticas de privacidad y relacionadas con contenido ofensivo de tipo xenofóbico, homofóbico, racismo, entre otros.

Joaquín Romero

Redactor de Contenidos, Ingeniero en Sistemas y Desarrollador. Especializado en temas tecnológicos e innovadores que marcan el futuro de la humanidad.

    Deja una respuesta

    Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

    Información sobre protección de datos

    • TreceBits te informa que los datos de carácter personal que nos proporciones rellenando el presente formulario serán tratados por Manuel Moreno Molina (TreceBits) como responsable de esta web.
    • La finalidad de la recogida y tratamiento de los datos personales que te solicitamos es para gestionar los comentarios que realizas en este blog.
    • Legitimación: Consentimiento del interesado.
    • Como usuario e interesado te informamos que los datos que nos facilitas estarán ubicados en los servidores de HOST EUROPE IBERIA S.L.U. (proveedor de hosting de TreceBits. HOST EUROPE IBERIA S.L.U. está ubicado en UE, en España un país cuyo nivel de protección son adecuados según la Comisión de la UE. Ver política de privacidad de HOST EUROPE IBERIA S.L.U.
    • Podrás ejercer tus derechos de acceso, rectificación, limitación y suprimir los datos en info@trecebits.comasí como el derecho a presentar una reclamación ante una autoridad de control.
    • Puedes consultar la información adicional y detallada sobre Protección de Datos en nuestra política de privacidad.