Facebook recompensará por crear una Inteligencia Artificial que entienda los memes

WES un Facebook para Bots

Los memes son una parte muy importante de la cultura de Internet, ya que suponen una herramienta sencilla de comunicar estados de ánimo y emociones en las redes sociales. Aunque la mayoría de los memes están pensados para arrancar una sonrisa al usuarios, algunos contienen mensajes de odio o discriminatorios… y cada vez se popularizan más.

Las Inteligencias Artificiales en la actualidad no son capaces de poner las imágenes en contexto

Facebook utiliza sistemas de Inteligencia Artificial (IA) para analizar los mensajes de su red y descubrir cualquier contenido que pueda resultar perjudicial u ofensivo. Estos mensajes, una vez detectados por los algoritmos, pasan a un grupo de moderadores que deciden si son perjudiciales o no. El problema que tienen estas IA es que analizan el texto, por lo que tienen problemas para identificar memes con contenido malicioso, pues no ponen en contexto el texto con la imagen.

Para solucionar este problema, la compañía ha ofrecido 100.000 dólares a cualquier desarrollador que pueda crear una IA capaz de identificar memes que contengan mensajes de odio. Este modelo de IA debe ser capaz de entender el texto, la imagen y también de poner ambos en contexto, para descifrar el mensaje.

Los desarrolladores que participen en este reto podrán trabajar con una base de datos de memes, con los que los algoritmos de Facebook han tenido problemas y que contiene imágenes con mensajes racistas, nacionalistas, de odio contra la religión, sexistas, contra la identidad o la orientación sexual.

Detectar el discurso de odio en las redes sociales es un problema complejo y los memes agregan una capa extra de complejidad, ya que tanto los moderadores como la IA tienen que ser capaces de comprender el contexto del meme publicado y el contexto cultural, racial y lingüístico cambia con frecuencia, por lo que tampoco es posible aplicar una solución única al problema. En este sentido, la propia compañía entiende que, con este reto, no encontrarán una solución integral a este problema, pero esperan hallar nuevas ideas que poder incorporar a sus algoritmos para mejorar la detección de este tipo de contenidos perjudiciales.

Jaume Vicent

Redactor y especialista en SEO y marketing de contenidos. Friki de las redes sociales y de las nuevas tecnologías.

    Deja una respuesta

    Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

    Información sobre protección de datos

    • TreceBits te informa que los datos de carácter personal que nos proporciones rellenando el presente formulario serán tratados por Manuel Moreno Molina (TreceBits) como responsable de esta web.
    • La finalidad de la recogida y tratamiento de los datos personales que te solicitamos es para gestionar los comentarios que realizas en este blog.
    • Legitimación: Consentimiento del interesado.
    • Como usuario e interesado te informamos que los datos que nos facilitas estarán ubicados en los servidores de HOST EUROPE IBERIA S.L.U. (proveedor de hosting de TreceBits. HOST EUROPE IBERIA S.L.U. está ubicado en UE, en España un país cuyo nivel de protección son adecuados según la Comisión de la UE. Ver política de privacidad de HOST EUROPE IBERIA S.L.U.
    • Podrás ejercer tus derechos de acceso, rectificación, limitación y suprimir los datos en info@trecebits.comasí como el derecho a presentar una reclamación ante una autoridad de control.
    • Puedes consultar la información adicional y detallada sobre Protección de Datos en nuestra política de privacidad.