¿Qué es ImageNet Roulette y por qué se ha hecho viral?

ImageNet

Una página web llamada ImageNet Roulette se ha vuelto viral en Twitter y su principal atractivo es que permite a los usuarios subir selfies y dejar que una herramienta de Inteligencia Artificial adivine qué tipo de personas son por su apariencia.

Imagenet Roulette ha mostrado sesgos racistas en una base de datos de inteligencia artificial de universidades de Estados Unidos

Para poder sacar sus conclusiones, esta herramienta se basa en la base de datos ImageNet, que tiene 14 millones de imágenes de personas recopiladas por prestigiosas universidades de Estados Unidos, acompañadas de etiquetas y descripciones de esas personas. 

Lo curioso es que esta web ha sido creada para hacer a los usuarios pensar sobre los prejuicios y los riesgos de la Inteligencia Artificial. La cofundadora del AI Now Institute, Kate Crawford, y el artista Trevor Paglen, creadores de la web, han querido dejar en evidencia los peligros que puede tener el uso de conjuntos de datos erróneos que puede llevar a un sesgo racial o de género a la IA.

De hecho, el periodista de New Statesman, Stephen Bush, ha destacado en su perfil de Twitter que la clasificación que se hizo de él, al no ser de tez clara, fue racista, al definirlo con términos como «mala persona» o «convicto».

Los creadores de la aplicación explican que «ImageNet Roulette en ocasiones clasifica a las personas de manera cruel«. Esto se debe a que los datos en los que se basa son imágenes de personas que han sido etiquetadas con esas categorías. Los creadores de esta herramienta no son las personas que han elaborado esa base de datos, sino que lo que hicieron fue importar las descripciones y las imágenes de ImageNet, una herramienta creada en las universidades de Princeton y en la de Stanford y que se usa como referencia para la clasificación de fotografías y la detección de objetos.

El objetivo es crear consciencia entre los usuarios de cómo la Inteligencia Artificial puede basarse en prejuicios humanos, parecen haberlo cumplido. Cabe recordar que el pasado mes de julio Facebook sufrió un error informático que dejó al descubierto cómo sus propios sistemas de Inteligencia Artificial definen las fotografías que los usuarios suben. De este modo, aparecían etiquetas del siguiente estilo: «La imagen puede contener: 1 persona, primer plano, 2 personas sonriendo, personas de pie».

Bárbara Bécares

Periodista y amante de la comunicación en todas sus formas. Mis dos principales especialidades son las tecnologías y los derechos humanos. Parece que son temas muy dispares, pero en la práctica no tanto.

Deja un comentario

INFORMACIÓN BÁSICA SOBRE PROTECCIÓN DE DATOS

Responsable: TreceBits S.L. (TreceBits)
Finalidad: Que puedan comentar las noticias publicadas
Legitimación: Consentimiento del interesado. Satisfacción del interés legítimo del Responsable.
Destinatarios: No se cederán a terceros salvo obligación legal.
Derechos: Puedes ejercitar en cualquier momento tus derechos de acceso, rectificación, supresión, limitación, oposición y demás derechos legalmente establecidos a través del siguiente e-mail: [email protected].
Información adicional: Puedes consultar la información adicional y detallada sobre protección de datos aquí.