Cómo los ratones podrían ser clave en la lucha contra la desinformación

Raton de ojos rojos

El Machine Learning y la Inteligencia Artificial han hecho que los deep fakes sean más convincentes que nunca. Un deep fake es un vídeo o audio producido por programas de Inteligencia Artificial capaces de imitar de manera bastante aceptable las expresiones y voces humanas. Por supuesto, la calidad de estos montajes está aumentando de manera exponencial.

La habilidad de los ratones para diferenciar unos sonidos de otros se postula como el futuro de la detección de los deep fakes

La TV china mostró al mundo el primer presentador de noticias generado por IA, y si bien era un poco tosco como para engañar al ojo humano, la calidad es, cuanto menos, inquietante y demuestra que, de seguir evolucionando, en el futuro se podría llegar a la perfección.

El problema surge cuando estas representaciones virtuales son creadas para hacerse pasar por genuinas y hacer parecer por ejemplo que, un personaje famoso ha hecho o dicho algo que en realidad no ha dicho. Esto abre un nuevo frente en la batalla de la desinformación, y sin duda puede ser usado por actores privados o estatales para respaldar sus estrategias de propaganda.

Ante este nuevo problema, y contando con que los espectadores de un deep fake sean incapaces de distinguir una representación virtual de una persona de una real, se necesitan técnicas para poder separar lo falso de lo verdadero. Y parece que esa técnica pasa por utilizar ratones.

Un equipo de investigación de la Universidad de Oregón está utilizando esta rompedora idea, utilizando ratones entrenados para detectar irregularidades en el discurso. Esto podría ayudar a los gigantes tecnológicos a detectar deep fakes y eliminarlos antes de que se extiendan.

El equipo, liderado por Jonathan Saunders, entrenaron los ratones para entender pequeños grupos de fonemas y encontrar diferencias entre ellos. Se trata de fonemas que en la mayoría de los casos los humanos pasan por alto. Los ratones fueron condicionados con recompensas cada vez que identificaban correctamente los sonidos, y su tasa de éxito fue superior al 80%.

De esta manera, si los ratones son capaces de detectar estas pequeñas variaciones, los investigadores confían en que podrán entrenarlos para distinguir entre un discurso creado por software y uno realizado por un humano.

Lamentablemente, la idea no es tener una habitación llena de ratones visualizando contenidos. Los investigadores de Oregón planean utilizar las lecciones aprendidas del uso de ratones y de sus habilidades para desarrollar software u otras técnicas más viables para poder detectar los deep fakes.

Juan Carlos Rubio

Periodista. Especializado en tecnología y política internacional.

Deja un comentario

INFORMACIÓN BÁSICA SOBRE PROTECCIÓN DE DATOS

Responsable: TreceBits S.L. (TreceBits)
Finalidad: Que puedan comentar las noticias publicadas
Legitimación: Consentimiento del interesado. Satisfacción del interés legítimo del Responsable.
Destinatarios: No se cederán a terceros salvo obligación legal.
Derechos: Puedes ejercitar en cualquier momento tus derechos de acceso, rectificación, supresión, limitación, oposición y demás derechos legalmente establecidos a través del siguiente e-mail: [email protected].
Información adicional: Puedes consultar la información adicional y detallada sobre protección de datos aquí.