La Universidad CEU San Pablo gana la Cátedra ENIA Internacional en IA generativa responsable

La inteligencia artificial no es el futuro, es el presente. Es difícil predecir su evolución a medio plazo y el impacto –positivo o negativo–qque tendrá, tanto a nivel profesional, como social. Sin embargo, hay un hecho claro: dicho impacto será drástico, es decir, supondrá un cambio relevante. Modelos de IA generativa (IAG) como ChatGPT dan buena muestra de ello. Es el momento de prepararse, a nivel profesional y social, y anticiparse para predecir posibles casos en un futuro cercano. En este hecho se fundamenta la Cátedra Internacional: ‘IA Generativa: retos y riesgos’ que ha ganado la Universidad CEU San Pablo, de la mano de Deloitte y otras universidades y empresas tanto nacionales como internacionales.

La Cátedra, que tiene un marcado carácter interdisciplinar, será dirigida por Idoia Salazar, profesora de la CEU USP y especialista en ética y regulación en IA. A través de esta Cátedra, se realizarán investigaciones exhaustivas y realistas en torno a los retos y riesgos de la IAG. Se analizarán casos de uso concretos y se trabajará en predicciones plausibles a corto-medio plazo para prevenir impactos negativos o indeseados. Las líneas de investigación que se desarrollarán son el impacto ético de la IAG; las cuestiones jurídicas (uso responsable de la IA) derivadas de la aplicación y uso de la IAG; y el impacto en la sociedad de la IAG.

Por otro lado, el ‘Desarrollo experimental’ se focalizará en el desarrollo de una suite de explicabilidad e interpretabilidad de IAG, a través de la cual supervisar los conceptos aprendidos por los sistemas de generación de contenido. Además, la Cátedra integra un ambicioso plan de difusión con dos vertientes bien diferenciadas: acciones de difusión para el público, en general, y acciones de difusión de conocimientos científicos.

En cuanto al equipo de investigadores asociados a la Cátedra, han primado varias cuestiones básicas para conseguir los objetivos: inclusión de un porcentaje de mujeres superior al 51 %; equipo multidisciplinar e internacional; y apoyo activo de organizaciones y empresas relacionadas con el ámbito de la Cátedra.

Acuerdos

A nivel nacional, se han firmado acuerdos de colaboración activa con el Observatorio del Impacto Social y Ético de la Inteligencia artificial (OdiseIA); Human Trends; Narrativa, Women in a Legal World; Digitales; Microsoft Ibérica; Cenit; Audits Consulting Management S.L. (ACM); el Instituto de Ética Aplicada de la Universidad Loyola Andalucía; y la Mutualidad de la Abogacía: Comité de Ética de la Inteligencia Artificial (CEIA).

Respecto a la colaboración internacional, se han llegado a acuerdos formales con otras universidades, centros de investigación y asociaciones internacionales como: Social and Ethical Responsibilities of Computing (SERC) del Massachusetts Institute of Technology (MIT), IALAB- UBA: Universidad de Buenos Aires; Global AI Ethics Institute (Francia); Universidad Austral y OCEDIC Innovation LAB (Argentina).

Además, la Cátedra contará con un comité asesor interdisciplinar de reconocido prestigio, integrado por profesionales directamente relacionados con la temática de la Cátedra, como Dafna Feinholz, jefa de Bioética y Ética de la Ciencia y la Tecnología en la UNESCO; y Leva Martinkenaite, miembro del Grupo de Expertos de Alto Nivel sobre IA de la Comisión Europea (HLEG AI), entre otros.