Qué es el Social Score
El «social score» o «social scoring» es una especie de puntuación social que determina la credibilidad o reputación de una persona o cuenta de redes sociales. Esta puntuación se obtiene en función a varios factores, como sus datos personales o su actividad, tanto online como física.
El Social Score otorga una puntuación a los ciudadanos en base a su comportamiento, tanto fuera como dentro de la red, pudiendo excluirlos de la sociedad.
El Social Scoring ya se está utilizando en algunos países como China y su premisa es la de valorar la confianza que otorga cada ciudadano en base a su comportamiento; tanto el comportamiento «en la vida real», como en sus interacciones y publicaciones en redes sociales, tiendas online, foros, etc.
Este sistema evalúa cada interacción como negativa o positiva y, en función a esta evaluación, el ciudadano recibirá varios puntos con los que poder conseguir ciertos beneficios, como podría ser obtener mejores condiciones para la obtención de un crédito o, si por el contrario las puntuaciones son negativas, a un usuario se le podría negar un billete de avión.
Se trata un sistema muy similar al que se puede ver en el capítulo «Caída en picado» de la serie de Netflix de ciencia ficción «Black Mirror».
El crédito social chino, un Social Score en la vida real
Este sistema está siendo probado desde 2009 en China, donde se conoce como «crédito social» y desde 2020 se ha implementado de forma estandarizada en toda la nación. El país asiático toma información de todo tipo sobre los ciudadanos para elaborar este «crédito social», ente los datos se tienen en cuenta las multas de tráfico, el impago de impuestos, las compras que se hacen habitualmente (tanto físicas como online), la participación en obras de caridad o las donaciones de sangre, entre otras.
Para obtener toda esta información, el gobierno chino vigila no solo las actividades online de sus ciudadanos, sino también su día a día. Para ello, se ha implementado en todo el país una red de más de 170 millones de videocámaras que cuentan con sistemas de reconocimiento facial por Inteligencia Artificial, lo que permite a las autoridades conocer cada movimiento de sus ciudadanos y procesar toda la información gracias al Big Data.
El «Crédito Social» chino otorga a los ciudadanos una puntuación que va de los 350 a los 950 puntos. Los «Ciudadanos buenos» son aquellos que obtienen las mejores puntuaciones, por lo que tienen acceso a varios beneficios.
En cambio, aquellos que obtienen puntuaciones bajas es catalogado como «persona no fiable», por lo que se le aplican una serie de sanciones como la prohibición de viajar en tren o avión, así como la exclusión de ciertos restaurantes y hoteles de alta gama, e incluso la imposibilidad de realizar ciertos trabajos o de ser atendidos por la sanidad pública.
El Social Score en Europa
Este sistema no se implementará en la Unión Europea, ya que la actual legislación considera que estas prácticas de vigilancia extrema son de alto riesgo. De hecho, cualquier actividad de supervisión de este estilo o de uso de datos para crear algún tipo de sistema de puntuación social, puede conllevar penalizaciones de hasta el 4% de los ingresos globales, hasta un total de 20 millones de euros.
Por otra parte, para proteger a la sociedad de este tipo de prácticas, la nueva legislación de la Unión Europea, prohibirá el uso de la IA para realizar vigilancias indiscriminadas, siendo imposible realizar seguimientos a personas en entornos físicos. También se prohibirá el uso de sistemas de IA para el social scoring y se requiere una autorización especial para el uso de «sistemas de identificación biométrica remota», así como la obligación de notificar a los usuarios de cualquier interacción con un sistema de Inteligencia artificial.
Finalmente, las normas de la UE también implementarán sistemas de supervisión a las IA que consideren de «Alto Riesgo», es decir, todas aquellas que supongan una amenaza para la seguridad, como podrían ser los coches autónomos o inteligencias artificiales que pudieran decidir a quién contratar para un puesto de trabajo.
Para ello, la Unión organizará un Consejo Europeo de Inteligencia Artificial, formado por representantes de todos los países miembros.
