Las prohibiciones, multas y sanciones de Bruselas para intentar poner coto a la Inteligencia Artificial

Tras un maratón de negociaciones de 36 horas, los responsables políticos de la Unión Europea han llegado a un acuerdo político sobre lo que se prevé que se convierta en el referente mundial para regular la Inteligencia Artificial (IA).

Este hito legislativo, conocido como el Acta de IA, tiene como objetivo regular la Inteligencia Artificial en función de su capacidad para causar daño.

El acuerdo, alcanzado en un «trílogo», que es una reunión entre la Comisión Europea, el Consejo y el Parlamento, ha establecido un nuevo récord en negociaciones interinstitucionales. Durante la reunión, se abordaron 21 cuestiones pendientes, incluyendo temas como el código abierto, los modelos de base y la gobernanza.

Seguridad Nacional

Los países de la UE, liderados por Francia, han insistido en una amplia exención para cualquier sistema de IA utilizado con fines militares o de defensa, incluso por contratistas externos.

El preámbulo del texto hará referencia a los tratados de la UE al respecto.

Prácticas Prohibidas

La Ley de IA incluye una lista de aplicaciones prohibidas que representan un riesgo inaceptable. Esto incluye técnicas de manipulación, sistemas que explotan vulnerabilidades y la puntuación social.

Los eurodiputados han añadido bases de datos basadas en el raspado masivo de imágenes faciales, como Clearview AI. Se ha logrado la prohibición del reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, con una excepción por razones de seguridad.

También se introdujo la prohibición de software de policía predictiva y el uso de sistemas de IA que clasifiquen a las personas según rasgos sensibles.

Casos de uso de alto riesgo

La regulación de IA incluye una lista de casos de uso considerados de riesgo significativo para la seguridad y los derechos fundamentales de las personas.

Esto abarca áreas como la educación, el empleo, la infraestructura crítica, los servicios públicos, el control de fronteras y la administración de justicia.

Excepciones para la ley

El Consejo introdujo varias excepciones para las agencias de cumplimiento de la ley, incluyendo una derogación al principio de cuatro ojos y la exclusión de datos de operaciones sensibles de los requisitos de transparencia.

Impacto en los derechos fundamentales

Los eurodiputados del centro-izquierda introdujeron la obligación de que los organismos públicos y las entidades privadas que proporcionan servicios públicos esenciales realicen una evaluación del impacto en los derechos fundamentales.

Cadena de suministro

Los proveedores de sistemas de IA de propósito general deben proporcionar toda la información necesaria para cumplir con las obligaciones de la ley de IA a los proveedores económicos descendentes.

Sanciones

Se han establecido multas administrativas como una suma mínima o un porcentaje del volumen de negocios global anual de la empresa, si este último es mayor. Para las violaciones más graves, las multas pueden ascender hasta el 7 % o 35 millones de euros.

La Ley de IA se aplicará dos años después de su entrada en vigor, reduciéndose a seis meses para las prohibiciones. Los requisitos para los modelos de IA, los organismos de evaluación de la conformidad y el capítulo de gobernanza comenzarán a aplicarse un año antes.

El acuerdo es un paso clave en la regulación de la Inteligencia Artificial a nivel mundial, y marca un precedente en la forma en que se abordan las cuestiones éticas y de seguridad en torno a esta tecnología emergente.