Idoia Salazar: «No debemos explotar todas las posibilidades de las máquinas que estamos creando»

La Inteligencia Artificial y sus aparentemente ilimitadas posibilidades lleva años deslumbrando al mundo, y no es para menos. Lo que hasta hace no mucho parecía inconcebible fuera del guion de una película de Spielberg ha terminado corporeizándose en sistemas que ya son incluso capaces de generar imágenes o texto humano coherente a partir de una simple idea. Un desarrollo que conlleva beneficios, pero también posibles usos ilícitos si no se le imponen controles y límites, tal y como advierte la experta Idoia Salazar, presidenta del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA) y profesora de la Universidad CEU San Pablo, en esta entrevista.

–Conocíamos hace unos días la noticia de que un sistema de IA ya ha sido capaz de programar código a nivel humano. ¿Qué supone esto?

–No me sorprende, pero diría que es bueno para los informáticos, porque podría ayudarlos a hacer su trabajo con mayor rapidez. Hoy en día ya no se trata de conseguir meras copias de otros códigos, sino de crear nuevas formas de innovar con ese código y superar a los propios seres humanos incluso en creatividad. Es algo que sin duda pienso que puede ayudar. No lo veo, por tanto, como algo apocalíptico, sino como una evolución natural de la IA.

–¿Hasta dónde cree que llegará la IA a lo largo de los próximos años?

–Creo que depende de nuestras acciones como humanos, de para qué la queramos usar. Ahora mismo la tecnología en sí misma tiene unas posibilidades ilimitadas, porque tiene capacidad para tomar decisiones de manera autónoma. Esto puede suponer, si realmente acabamos de explotar todo su potencial, que lleguemos a depender de esa IA general si se desarrolla un sistema capaz de hacer las mismas cosas que nosotros o incluso mejor. Lo cual es muy triste, a mi entender. Por ello, lo que debemos hacer es no explotar la capacidad ilimitada de las tecnologías que estamos creando nosotros mismos; es decir, poner los límites o encaminarla por donde nosotros pensamos que la podamos aprovechar para hacer el bien de la humanidad y no el perjuicio. Es una cuestión que va a ser muy difícil de sobrellevar y es importante abordarla desde el principio, porque el ser humano suele querer explotar todo lo que toca al máximo.

–Hablemos de esos beneficios. ¿Qué aplicaciones puede tener la IA, por ejemplo, a nivel profesional?

–La IA puede complementar a muchas profesiones. Por ejemplo, a un médico le puede ayudar muchísimo a la hora de diagnosticar la enfermedad de un paciente en un tiempo récord, analizando los parámetros de salud de pacientes específicos y cruzándolos con los millones y millones de datos que puede contener ese sistema. De la misma forma, a través del reconocimiento de imagen es también capaz de visualizar en una fotografía aspectos médicos que al ojo humano le son imperceptibles.

Los humanos tendemos ahora a delegar la toma de decisiones en las máquinas, y eso es un riesgo tremendamente grande

El sistema de IA es también capaz de contrastar todas las pruebas o jurisprudencia que pueda haber sobre un caso específico y dar una opinión mucho más objetiva una vez extraídas todas las variables de posibles sesgos, lo que ayuda al juez a tomar su decisión. Pero al mismo tiempo es un riesgo tremendamente grande delegar la toma de decisiones en las máquinas, que es a lo que los humanos tendemos ahora. Pongo un ejemplo básico, que es el GPS del coche y cómo nos puede llevar por sitios por los que no tendríamos que haber ido, porque en base al análisis masivo de datos no contextualiza ni ve si a lo mejor hay una obra a 500 metros o si justo ha pasado algo de una manera muy inmediata. A estas decisiones el usuario tiene que aplicar un contexto humano que no es capaz de prever la máquina y tomar en consecuencia la decisión. El futuro de la IA depende de por donde la orientemos los humanos, y esto lo veremos en los próximos años. Es por ello que el trabajo que se ahora es muy importante.

–¿Qué otras aplicaciones negativas puede conllevar?

–Los ejemplos más básicos tienen que ver con la manipulación de las personas. Hay ya muchas empresas que usan diversas técnicas de manipulación, publicidad subliminal, etc, para orientar más o menos nuestros gustos hacia el consumo. A través de la IA, esta manipulación puede llegar a ser masiva. Tú como persona estás continuamente generando datos si llevas un móvil, smartwatch u otro tipo de dispositivo. Estos datos proporcionan información sobre las acciones que realizas de manera inconsciente. Si estás navegando por internet, Amazon sabe perfectamente los gustos que puedes tener, cuánto gastas en cada una de las páginas y lo que tenderías a consumir de manera inconsciente, así que te presenta anuncios personalizados.

Pasa lo mismo con las series de Netflix y su sistema de recomendación, que va aprendiendo de los gustos de los usuarios en función de lo que ves y de lo que haces, por lo que te va ofreciendo recomendaciones que muchas personas ven como una obligación de visualizado. Y hay muchas personas que dicen que se les genera una visión de túnel, es decir, que no ven más allá de lo que les ofrece el sistema de recomendación de la plataforma en cuestión. Y ya si lo extrapolamos a temas políticos hay un gran riesgo de manipulación al usarse sistemas de IA para percibir cuestiones que no parecen tan evidentes y conseguir con ello los votos de los indecisos durante las campañas electorales. O nos educan bien y en términos más fuertes o tenderemos a una sociedad de consumo dirigido por las grandes corporaciones de los datos.

–¿Debe ser la legislación la vía para poner coto a este desarrollo ilimitado?

–Si, hoy en día estas cuestiones chocan mucho con los propios derechos fundamentales, por ejemplo de privacidad o de derecho al honor y a la intimidad. Hay algunos, como la protección de datos, que ya están regulados. Pero aun así ahora mismo se está haciendo una regulación europea de IA para prohibir o limitar determinadas cuestiones, como el reconocimiento facial en espacios públicos para hacer seguimientos masivos, el uso de sistemas de IA para contratar a personas en un trabajo o aceptarlos en una universidad o la obligación de un chatbot de identificarse en una conversación telefónica. Son normas que quieren evitar la confusión entre la población y proteger sus derechos.