El presidente de Telefónica pide frenar el desarrollo descontrolado de IA: «Ha llegado la hora de parar»

El presidente de Telefónica, José María Álvarez-Pallete, se suma al coro de voces que piden abiertamente poner freno al desarrollo descontrolado de la inteligencia artificial.

En un artículo titulado Pienso, luego existo. IA: Es el momento de pararse a pensar y publicado la semana pasada en la web de la compañía, el empresario se muestra preocupado por las pasmosas capacidades que estos sistemas han adquirido en los últimos meses, incluidas su habilidad para que ya sea «imposible en la práctica distinguir un texto generado por AGI (Inteligencia Artificial Generativa) o por un humano», su facilidad para elaborar «deep fakes o fake news» o que, puestas al servicio de intereses particulares, puedan llegar incluso a «crear armas químicas o cibernéticas».

«Cuando pensábamos que los algoritmos y los modelos de Big Data eran el presente y el futuro, surge algo mucho más poderoso y sorprendente como la Inteligencia Artificial», reflexiona Álvarez-Pallete en un escrito en el que recuerda que el ser humano vive inmerso «en la mayor revolución tecnológica de la historia de la humanidad». Una vorágine de transformación en la que, enmarca el presidente de Telefónica citando a numerosos tecnólogos, la AGI supone «un punto de inflexión en la humanidad, probablemente superior a lo que fue la llegada de la imprenta o la fisión nuclear».

No todo son desventajas o poderes alarmantes. El responsable de la compañía española menciona que la empresa británica de IA DeepMind desarrolló en 2021 un modelo capaz de predecir la forma de los aminoácidos que componen las proteínas, una capacidad que «estaba al 30 % y DeepMind la llevó al 60 %». «Con este descubrimiento podemos diseñar cultivos resistentes al cambio climático, desarrollar nuevas medicinas, o generar enzimas capaces de degradar el plástico», ejemplifica.

«Pero también, y como ya ha ocurrido en anteriores revoluciones tecnológicas, no podemos dejar que campe a sus anchas. No todo lo que la tecnología es capaz de hacer es bueno o socialmente aceptable», matiza.

Para Álvarez Pallete, «una AGI descontrolada o con afán de poder es un riesgo existencial», ya que «podría elaborar moléculas dañinas para el hombre o llevar los modelos de fake news o deep fakes [imágenes o grabaciones falsas hechas por IA] a convertirse en una amenaza para la democracia a través de campañas masivas de desinformación sistemática e indetectable».

En la misma línea, señala, una IA puesta al servicio de intereses particulares «puede crear armas químicas o cibernéticas». «Las propias empresas que desarrollan AGI lo hacen sin saber cómo detener el proceso cuando la propia AGI adquiera una autonomía incontrolable», afirma.

«Ha llegado la hora de parar y pensar como sólo los humanos somos capaces de hacerlo. Ha llegado la hora de parar y redactar un nuevo contrato social. Para decidir y determinar cuáles son los derechos y obligaciones básicas de personas y máquinas en este nuevo mundo», proclama Álvarez-Pallete. Y apuesta por «poner a las personas en el centro, los derechos de las personas por encima de cualquier otro criterio», algo que, dice, «hoy no es así».