La UE marca el paso al aprobar la primera ley sobre inteligencia artificial del mundo

Consejo, Comisión y Parlamento Europeo han llegado acordaron una ley de inteligencia artificial (IA) tras una maratón de negociaciones de más de 35 horas. Es la primera del mundo que regula el uso de esta tecnología en función del riesgo que pueda representar para los ciudadanos al tener aplicaciones desde el ámbito civil al militar.

La IA es una tecnología de rápido crecimiento que poco a poco se está aplicando en todos los ámbitos de nuestras sociedades. Dada la competencia entre la UE, China y Estados Unidos al respecto, Bruselas ha querido correr el esprint final para avanzar posiciones lo antes posible y convertirse en referencia internacional.

El comisario de Mercado Interno de la UE, Thierry Breton, ha sido uno de los encargados de liderar estas horas que marcan un antes y un después en la historia de la Unión.

Aunque el acuerdo es firme, aún esta pendiente de ser ratificado por parte del Parlamento Europeo y el Consejo, algo que la Comisión espera que ocurra antes de final de año para que la nueva presidencia rotatoria belga disponga de un proyecto firme sobre el que trabajar.

La presidenta de la Comisión, Ursula von der Leyen, destacó la singularidad de esta ley a nivel mundial, enfatizando que proporciona un marco legal confiable para el desarrollo de la inteligencia artificial. Un desarrollo, por otro lado, que será incentivado por la misma UE dentro del marco de independencia estratégica.

Según informan fuentes diplomáticas, a lo largo de las negociaciones, los gobiernos han presionado para ampliar la lista de delitos susceptibles de ser controlados con esta tecnología, mientras que la Eurocámara ha buscado limitarla al máximo y asegurar sólidas garantías para los derechos fundamentales.

La presidenta del Parlamento, Roberta Metsola, lanzó un mensaje de agradecimiento tras conocer que se había cerrado el acuerdo.

Lo que está prohibido

La normativa prohibirá el uso de sistemas biométricos para categorizar a individuos por sus creencias políticas, religiosas, filosóficas, raza u orientación sexual.

Se prohíben igualmente sistemas que evalúen a personas según su conducta o características personales, así como la inteligencia artificial que pueda influir en el comportamiento humano.

Además, queda vedado el empleo de sistemas que amplíen o creen bases de datos faciales mediante la recopilación indiscriminada de datos a través de internet o grabaciones audiovisuales. Se extiende la prohibición a entornos laborales y educativos, donde también se vetan los sistemas de inteligencia artificial capaces de detectar emociones.

Vigilancia

La identificación biométrica ha sido uno de los puntos más delicados en las negociaciones y se centra en su uso por las fuerzas de seguridad en espacios públicos para garantizar la seguridad nacional.

Estas cámaras podrán ser utilizadas previa autorización judicial, específicamente para prevenir amenazas terroristas que sean «verdaderas y previsibles», o bien, situaciones que sean «verdaderas y presentes», es decir, que estén ocurriendo en ese momento.

Además, podrán ser empleadas para localizar o identificar a personas involucradas en delitos de terrorismo, tráfico de personas, explotación sexual o incluso crímenes ambientales, así como para buscar a las víctimas de estos delitos.

Este punto es especialmente delicado porque la utilización para control de la ciudadanía ocurre en países como China, que sirve, además, para lo que el gobierno del país asiático llama «crédito social», un sistema de puntos en función del comportamiento de la persona que le permite acceder a determinados servicios u ofertas.

Sobre la IA generativa

El foco central de las negociaciones ha sido la regulación de los sistemas de inteligencia artificial generativa, en los que se fundamentan modelos como ChatGPT de OpenAI o Bard de Google. Estos sistemas deberán cumplir con criterios de transparencia, indicando claramente si un texto, canción o imagen ha sido generado mediante inteligencia artificial, además de garantizar que los datos utilizados para entrenar estos sistemas respeten los derechos de autor.

Inicialmente, la ley no contemplaba la regulación de este tipo de sistemas, ya que no estaban tan extendidos cuando se propuso la ley en abril de 2021, pero debido a la explosión de programas como ChatGPT en 2022, las instituciones comunitarias han visto la necesidad de legislar sobre ellos.

El reglamento permite o prohíbe el uso de la inteligencia artificial dependiendo del riesgo que represente para las personas, identificando sistemas de alto riesgo que solo podrán usarse si demuestran respetar los derechos fundamentales. Por ejemplo, aquellos que puedan influir en resultados electorales o que utilicen entidades financieras para evaluar la solvencia y establecer calificaciones crediticias.

La presidencia española del Consejo de la UE ha alcanzado uno de sus principales objetivos en este periodo al lograr el acuerdo sobre esta normativa pionera a nivel mundial. «Hemos alcanzado un hito importante, permitiendo a los ciudadanos decidir qué se puede y qué no se puede hacer con la inteligencia artificial», declaró Carme Artigas, secretaria de Estado española de Telecomunicaciones e Infraestructura Digital.

La normativa contempla la creación de la Oficina Europea de Inteligencia Artificial, encargada de coordinar el uso de esta tecnología entre las autoridades nacionales y asesorada por un panel compuesto por científicos y organizaciones de la sociedad civil.

Aunque la ley está prevista para entrar en vigor en 2026, se implementará en fases: la oficina europea se establecerá de inmediato, la prohibición de los sistemas de inteligencia artificial restringidos llegará en seis meses, y los requisitos para sistemas y modelos de IA generativa se aplicarán en 12 meses.

El reglamento establece multas que oscilan entre los 35 millones de euros o el 7 % del volumen global de negocios de las empresas hasta los 7,5 millones de euros o el 1,5 % del volumen global de negocios, dependiendo de la infracción.