El 'social scoring': el terror de una IA que pondrá notas a los ciudadanos

La Inteligencia Artificial (IA) está protagonizando una transformación que promete redefinir muchas actividades humanas en los próximos años. Según el experto en IA y profesor de la Universidad de Cornell, Marcos López de Prado, esta tecnología no solo está incrementando la productividad y el bienestar, sino que también está impulsando una cuarta revolución industrial. Sin embargo, su integración en la sociedad plantea importantes retos, tanto éticos como morales. Entre ellos, el social scoring.

Algoritmos y decisiones

López de Prado señala que la IA es capaz de tomar decisiones que antes eran responsabilidad exclusiva de los seres humanos. Este avance genera expectativas de un aumento importante en la eficiencia de las actividades económicas y, en consecuencia, del bienestar social. La capacidad de los algoritmos para ejecutar tareas complejas abre la puerta a una nueva era en la que la colaboración entre humanos y máquinas será fundamental para el éxito de las industrias. Sin embargo, esta revolución no está exenta de riesgos.

La automatización de decisiones y procesos trae consigo preocupaciones sobre el abuso de estas tecnologías por parte de gobiernos y empresas. La posibilidad de que se invadan derechos civiles y políticos utilizando la IA es una amenaza real, especialmente si estas herramientas se implementan sin un marco que las regule.

El social scoring

Uno de los mayores desafíos de la IA es la creación de sistemas de puntuación ciudadana o social scoring. Este concepto se refiere a la evaluación del comportamiento de las personas mediante la recopilación masiva de datos personales. Países como China ya han implementado sistemas similares, que permiten a las autoridades calificar a sus ciudadanos en función de su comportamiento social y financiero, lo que podría llevar a discriminaciones o castigos injustificados.

López de Prado advierte sobre los riesgos de esta práctica, que podría extenderse a otros países, afectando las libertades individuales y profundizando las brechas sociales. Además, existe el riesgo de que países menos avanzados en la adopción de la IA, ya sea por falta de inversión, regulación o educación, queden rezagados en esta nueva era tecnológica, lo que aumentaría las desigualdades globales.

El social scoring es un sistema de puntuación que evalúa el comportamiento de las personas a través del análisis de datos personales

El social scoring como un sistema de puntuación que evalúa el comportamiento de las personas a través del análisis de datos personales plantea varios desafíos éticos, sociales y económicos.

• Erosión de la privacidad

El social scoring involucra la recolección masiva de datos, como interacciones sociales, hábitos de consumo, comportamientos en redes sociales y antecedentes financieros. Este nivel de vigilancia puede erosionar la privacidad individual y permitir a gobiernos y empresas acceder a información sensible sin el consentimiento adecuado.

• Discriminación social y exclusión

Un sistema de puntuación ciudadana podría derivar en la creación de ciudadanos de primera y segunda clase. Las personas con puntuaciones más bajas podrían tener dificultades para acceder a servicios públicos, obtener créditos, viajar o incluso conseguir empleo. Esto podría amplificar las desigualdades sociales y crear barreras para los grupos más vulnerables.

• Manipulación del comportamiento

Con el social scoring, los ciudadanos podrían modificar su comportamiento para adaptarse a los estándares que mejoren su puntuación. Esto puede generar una sociedad conformista, donde las personas eviten decisiones o comportamientos que, aunque legítimos, puedan afectar negativamente su calificación. A largo plazo, esto puede coartar la libertad de expresión y acción.

Abusos y salud mental

• Abuso por parte de gobiernos y empresas

Los gobiernos autoritarios o las grandes corporaciones podrían abusar del sistema para manipular y controlar a la población. Un gobierno con control sobre un sistema de social scoring podría utilizarlo para castigar a los opositores políticos o limitar las libertades de expresión y protesta. Del mismo modo, las empresas podrían basar la contratación o promoción de empleados en puntuaciones de comportamiento no relacionadas con la competencia laboral.

• Impacto en la salud mental

Vivir bajo la constante presión de ser evaluado puede generar altos niveles de ansiedad y estrés en la población. La constante vigilancia y el temor a ser juzgado por cada acción podrían afectar la salud mental de las personas, creando un entorno de estrés crónico y autocensura.

Las empresas privadas podrían adoptar sistemas de puntuación para evaluar a clientes y empleados

• Sector privado

Las empresas privadas podrían adoptar sistemas de puntuación para evaluar a clientes y empleados. Las aseguradoras podrían, por ejemplo, fijar primas basadas en el comportamiento, mientras que los bancos podrían evaluar la concesión de préstamos con base en la reputación digital de los usuarios, complicando aún más el acceso a ciertos servicios.

• Seguros de vida y salud

Este tipo de sistema podría ser aprovechado por aseguradoras para modificar primas y condiciones. Por ejemplo, los hábitos de consumo, el estilo de vida o incluso el uso de dispositivos de salud podrían influir en las condiciones de las pólizas, lo que generaría una fuerte segmentación de clientes basada en su comportamiento social y personal.