Diez observaciones sobre la inteligencia artificial

1. Aparición

El término «inteligencia artificial» se empleó por primera vez en la década de 1950, con la aparición de los primeros ordenadores capaces de llevar a cabo ciertas tareas que hasta entonces sólo había podido realizar la inteligencia humana. El cálculo fue la primera facultad que se pudo transferir a una máquina. Esto explica que lo que llamamos ordenador haya conservado su nombre original de computer, es decir, «computador», «calculador». El cálculo automatizado fue el primer ejemplo de inteligencia artificial.

¿Por qué hoy en día ya no se considera que el cálculo forme parte de la inteligencia artificial? Estamos ante un ejemplo de lo que los anglosajones llaman el «efecto IA»: a medida que se desarrolla la inteligencia artificial, los logros anteriores dejan de considerarse inteligencia artificial para convertirse en maquinaria estándar. Así ha ocurrido con el reconocimiento de caracteres, el reconocimiento de huellas dactilares, etc. En la práctica, pues, la inteligencia artificial se refiere a lo que las máquinas «inteligentes» justo empiezan a ser capaces de hacer.

2. Desvalorización de lo humano.

Cuando aparecieron por primera vez, las calculadoras electrónicas eran descritas como «cerebros electrónicos». Con el tiempo, al aumentar el rendimiento de estas máquinas, la metáfora se ha dado la vuelta: ahora ya no es el ordenador el que se compara con un cerebro, sino el cerebro el que se compara con un ordenador. El ser humano se considera ahora una «máquina de tratamiento de la información» más. Se habla hoy en día de «agente inteligente» para describir cualquier «sistema», ya sea natural o artificial, que interactúa con su entorno y extrae información de él, que utiliza para maximizar sus posibilidades de éxito en la consecución de los objetivos que persigue o que le han sido asignados. En este contexto, la inteligencia artificial se emancipa completamente del modelo humano del que en su día tomó su nombre. Por una parte, muchos aspectos de la inteligencia humana siguen siendo específicamente humanos. Por otro lado, las inteligencias artificiales son ahora capaces de prestaciones fuera del alcance de cualquier inteligencia humana. Aunque diseñadas por humanos, están dotadas de ciertas capacidades intelectivas verdaderamente sobrehumanas.

3. La carrera por el poder

Desde el siglo XIX, la tecnología es indispensable para tener poder. Por tecnología no me refiero a la tecnología en general, que es tan antigua como la humanidad, sino a esa parte muy reciente de la tecnología vinculada a las ciencias matemáticas de la naturaleza que surgieron en Europa a partir del siglo XVII, y que sin ellas habría sido inconcebible. Fue su superioridad tecnológica la que permitió a los occidentales dominar el mundo. En el umbral del siglo XX, Hwuy-Ung, un erudito chino exiliado en Australia, confesaba su admiración por lo que veía: «Los maravillosos inventos de este país y de las naciones occidentales nos son, en su mayor parte, desconocidos, y parecen increíbles». Estas maravillas, se preguntaba a continuación, ¿hacen más feliz a la gente? La respuesta no era evidente. Una cosa, sin embargo, estaba fuera de toda duda: los «maravillosos inventos» conferían un poder sin parangón. De ahí esta observación: «Quienes no siguen el movimiento marcado por las naciones más avanzadas se convierten en sus víctimas, tal y como estamos experimentando» . Fue precisamente para superar la larga serie de humillaciones que se le infligieron, desde el estallido de la primera Guerra del Opio en 1839 hasta la invasión japonesa en 1937, que China se propuso, tras la Segunda Guerra Mundial, convertirse en una gran potencia tecnológica. Hoy en día, la inteligencia artificial se convierte en un componente decisivo de la tecnología, y si no quieres estar a merced de alguien más poderoso que tú, tienes que invertir en este campo.

4. Sobrevivir en la jungla digital

El poder no es el único problema. Desde que hay homo sapiens en la Tierra, hace unos 300.000 años, estos homo sapiens han vivido la mayor parte de su vida en condiciones paleolíticas. Fue en esas condiciones bajo las que se desarrollaron las facultades de nuestra especie. Ni que decir tiene que entre esas facultades figura una extraordinaria capacidad de adaptación a nuevos entornos. Sin embargo, desde la revolución industrial, el entorno en el que una parte cada vez mayor de la humanidad está llamada a vivir ha cambiado tan rápidamente que en muchos aspectos nuestras facultades naturales, incluida nuestra inteligencia, se han visto sorprendidas. Si la inteligencia natural nos permitió orientarnos correctamente en el entorno natural, ahora conocido como biotopo, ahora necesitamos la inteligencia artificial para orientarnos correctamente en un entorno que es a su vez artificial, el tecnotopo. Y para ello el recurso a la inteligencia artificial es indispensable. Pensemos, por ejemplo, hasta qué punto no podríamos utilizar Internet sin motores de búsqueda que incorporen formas de inteligencia artificial.

5. La sociedad de control

Entre las amenazas que plantea el desarrollo sin freno de la inteligencia artificial, el mayor temor del público es sin duda el del control social a través de los innumerables datos digitales que ahora generan nuestras vidas. Al fin y al cabo, la palabra inteligencia se usa también para designar a los «servicios de inteligencia».

Sin embargo, una cosa está clara. Al rechazar masivamente el antiguo control social consistente en la inculcación de normas morales y en el descrédito que conllevaba su incumplimiento, al huir del control ejercido por la vecindad en las comunidades tradicionales, los adalides de la modernidad tardía han creído que era posible prescindir del control social. Pero una sociedad sin control social ya no es una sociedad, es el caos. Para protegerse del caos, hay que tomar cada vez más y más precauciones. Por ejemplo, los habitantes de las grandes ciudades se ven obligados a instalar códigos de acceso, interfonos y puertas blindadas. Cuanto más «abierta» se supone que es la sociedad, más tienen que encerrarse sus miembros. En este sentido, la vigilancia automatizada y asistida por la inteligencia artificial que se vislumbra en el horizonte tiene todas las trazas de Némesis, la diosa griega que castigaba la hubris, el exceso de los seres que no respetaban los límites de su condición. El individuo que ha pretendido escapar a todo control ve cómo éste vuelve a él bajo otra forma.

6. El formateo permanente

Otro problema es que, bajo su aparente neutralidad, la máquina puede esconder sesgos, tanto más perniciosos cuanto que son difíciles de detectar. Un motor de búsqueda, por ejemplo, responde a las solicitudes que recibe con listas de respuestas, pero no sabemos los criterios bajo los que han sido elaboradas. Y además no queremos saberlo: utilizar buscadores no tendría sentido si tuviéramos que conocer los detalles de la propia búsqueda. Pero por eso mismo estamos totalmente sujetos a los sesgos que incluyen, sean o no intencionados. Quien nos guía también puede extraviarnos; quien nos informa también puede manipularnos. Algunos académicos sometieron a ChatGPT a un cuestionario de posicionamiento político. Los resultados muestran que el chatbot de OpenAI «tiene el perfil de un californiano liberal y pragmático de la corriente dominante» , muy a favor del multiculturalismo, la acogida de inmigrantes y los derechos de las minorías, y que si estuviera inscrito para votar en Francia probablemente votaría a Macron o Mélenchon. Que cada cual deduzca cuáles son los efectos de una vida en simbiosis con ChatGPT.

7. La acedia que acecha

Se suponía que el desarrollo de la informática nos iba a librar de las tareas rutinarias. Pero la realidad es que la informática «extiende la rutina de sus procedimientos por todas partes» . Es de temer que la inteligencia artificial no haga sino intensificar ese proceso hasta la náusea. Trabajadores que se vuelcan en su trabajo cuando las tareas que tienen que realizar exigen todas sus facultades, ya no saben qué sentido dar a su trabajo cuando se convierten en meros operadores de máquinas que hacen la parte «inteligente» del trabajo por ellos. Al tomarnos menos molestias, puede que también encontremos menos bien en nuestra actividad.

8. La atrofia moral

Al hablar constantemente de inteligencia artificial, al utilizarla cada vez más y maravillarnos de sus proezas, nos estamos acostumbrando a hacer de la inteligencia artificial el paradigma de la inteligencia, al tiempo que devaluamos las características esenciales de la inteligencia humana y dejamos de cultivarlas. Hace mucho tiempo, Dios se apareció en sueños al rey Salomón y le dijo: «Pídeme lo que quieras que te conceda». Salomón respondió: «Da a tu siervo un corazón inteligente para gobernar a tu pueblo, para discernir entre el bien y el mal». (1R 3, 5-9). La primera característica de la inteligencia, aquí, consiste en discernir entre el bien y el mal. Ésta es la inteligencia de la que hace gala Salomón cuando imparte justicia. Si nos acostumbramos a ver en la inteligencia artificial el modelo de la inteligencia, corremos el riesgo de dejar el corazón sin inteligencia.

Algunos replicarán que es posible incluir consideraciones morales entre los criterios que tiene en cuenta la inteligencia artificial en su funcionamiento. En ese caso, sin embargo, sería como si la reflexión moral se hubiera realizado de una vez por todas, antes de ser delegada a la máquina. Una facultad que no se utiliza constantemente se marchita. De ahí la atrofia moral.

9. La atrofia intelectual

La inteligencia artificial es un producto de la tecnología, que a su vez está intrínsecamente ligada al desarrollo de la ciencia moderna y de las ciencias matemáticas de la naturaleza. El objetivo de estas ciencias era hacernos comprensible el mundo, aumentando al mismo tiempo nuestra capacidad para actuar sobre él, según la ecuación baconiana de conocimiento = poder. ¿Qué está ocurriendo hoy en día?

El poder que hemos adquirido sobre el mundo nos ha llevado a transformarlo hasta tal punto que el mundo resultante de esta transformación se ha vuelto, en algunos aspectos, más opaco para nosotros de lo que era la antigua naturaleza. Nuestras facultades naturales se ven superadas. Por eso necesitamos cada vez más la inteligencia artificial para orientarnos en él y, sencillamente, para vivir en él. Pero el tipo de inteligencia artificial realmente interesante es el que produce resultados, no sólo más rápidos y mejores de lo que seríamos capaces de hacer sin ella, sino resultados que van más allá de nuestra comprensión. La inteligencia artificial no puede pues considerarse una simple herramienta de ayuda a la decisión: en la medida en que la génesis de las indicaciones que nos da escapa a nuestro control, nos vemos abocados a referirnos simplemente a esas indicaciones, lo que significa, a fin de cuentas, que la herramienta de decisión decide por nosotros o, más exactamente, que nuestra decisión se reduce a decidir el uso de la herramienta. En este caso, la herramienta no es tanto un aumento de nuestras capacidades como una delegación completa de nuestro poder en una opaca herramienta. En consecuencia, nuestra inteligencia, que ha hecho posible la creación de estos extraordinarios sistemas de inteligencia artificial, se encuentra como forzada a estar de vacaciones por culpa de ellos; y, a fuerza de estar de vacaciones, pierde el hábito de trabajar, e incluso la capacidad de trabajar. La pérdida de control no está vinculada, como en algunas distopías, a que las máquinas inteligentes se vuelvan maliciosas hacia los humanos y traten de esclavizarlos o eliminarlos, sino al hecho de que, al depender constantemente de ellas, nos volvemos incapaces y enfermos.

A fuerza de pasar horas en el sofá jugando a videojuegos, los adolescentes de los países desarrollados han visto disminuir su capacidad física en una cuarta parte en las últimas cuatro décadas. El coeficiente intelectual medio también ha descendido en los últimos veinte años. Muchos factores están contribuyendo a este fenómeno, pero al menos una parte tiene que ver con la delegación en las máquinas de un número cada vez mayor de tareas que antes requerían nuestra inteligencia. A finales de los años 60, Louis Aragon era muy consciente de este proceso. «El progreso que me priva de una función me lleva poco a poco a perder el órgano. Cuanto mayor sea el ingenio del hombre, más se verá privado de las herramientas fisiológicas propias del ingenio. Sus esclavos de hierro y alambre alcanzarán una perfección que el hombre de carne jamás ha conocido, mientras que éste volverá progresivamente a la ameba. Se olvidará de sí mismo» .

10. Pollitos online

Cuando era niño, una adivinanza de patio de recreo preguntaba: ¿qué es pequeño, amarillo y da mucho miedo? La respuesta era: un pollito con una ametralladora. Hoy podríamos preguntar: ¿qué es pequeño, amarillo y se cree el señor de la creación? Un pollito online. Inmaduros online, en eso nos estamos convirtiendo. Si la electricidad deja de llegar a los enchufes, si no podemos recargar las baterías, si nuestras raíces terrestres y celestes se atrofian, no serán sólo nuestros aparatos los que se apagarán, seremos nosotros mismos los que seremos aniquilados.

• Publicado originalmente por Olivier Rey en La Nef.