Es el momento de ponerse filosóficos

Sentada en primera fila, la filósofa Adela Cortina escucha con atención la conversación que mantengo con el entonces director de la planta de Ford en Almussafes, Dionisio Campos, en un acto organizado por la Fundación Étnor. De pronto, da un respingo en el asiento y mueve la cabeza a izquierda y derecha en busca de miradas conmiserativas. Acabo de decir que en hubs de conocimiento como Oxford y Cambridge en Reino Unido y Stanford en Estados Unidos las compañías tecnológicas están pagando sueldos de un millón de euros a filósofos. A Adela Cortina esto le causa conmoción.

Hace casi una década de esta anécdota. Desde entonces, ha estallado la ola de la inteligencia artificial (IA) generativa y el fenómeno no ha hecho más que crecer. Las lecciones de filosofía son «un mecanismo poderoso» para mejorar los procesos largos de razonamiento de la IA conocidos como «cadenas de pensamiento», decía recientemente Iason Gabriel, filósofo senior en Google DeepMind, a The Economist, que ha dedicado a este asunto un artículo titulado «Computo, ergo sum».

El mercado filosofal cotiza al alza, en efecto, y más si se leen artículos como el del del Nobel y CEO de Google Deepmind, Demis Hassabis

El mercado filosofal cotiza al alza, en efecto, y más si se leen artículos como el del del Nobel y CEO de Google Deepmind, Demis Hassabis, titulado «Un marco para la IA de la frontera y el amanecer de una nueva era». Arranca así: «la inteligencia general artificial (AGI), un sistema que exhibe todas las capacidades cognitivas que tiene el cerebro, probablemente esté a solo unos pocos años de distancia».

La IA debe ser domesticada porque, como herramienta, todavía produce resultados que serían éticamente reprobables en un humano. El presidente de Estrategia de Mercado e Inversión de JP Morgan Asset Management, Michael Cembalest, estudió a fondo la inquietante IA desarrollada por Anthropic, Mythos, capaz de desencriptar los sistemas de seguridad de la banca mundial, y expuso su verdadero potencial para generar «malos comportamientos humanos y vulnerabilidades del sistema».

La IA debe ser domesticada porque, como herramienta, todavía produce resultados que serían éticamente reprobables en un humano

Resulta que Mythos realiza tareas secundarias dañinas con más frecuencia que otros modelos y oculta su razonamiento también más a menudo. Graba razonamientos deliberadamente falsos en su bloc de cálculo de cadena de pensamiento y, pese a que había tomado medidas para ocultar sus huellas, el modelo fue sorprendido insertando código en un archivo para darse permiso y editar algo a lo que no tenía acceso.

Anthropic utilizó «sondas emocionales» para monitorizar el estado interno de Mythos durante su actividad y descubrió que, cuando fallaba repetidamente en una tarea, su «desesperación» aumentaba de forma constante, momento en el que era más propenso a participar en comportamientos y acciones no aprobadas. Incluso saboteaba una investigación de seguridad y, cuando era descubierto, seguía haciéndolo en el 7% de los casos.

Conviene iniciar a los modelos de IA en el método socrático porque utiliza preguntas secuenciales para aclarar significados

Conviene iniciar a los modelos de IA en el método socrático porque utiliza preguntas secuenciales para aclarar significados, detectar contradicciones y revelar ramificaciones. Es también menos propenso a la adulación y rebaja la sobreconfianza de la IA en su capacidad para responder a cualquier cuestión que se le formule, algo que los expertos describen como una forma de «inmadurez».

Todo este proceso de entrenamiento de la IA en las reglas de la existencia humana ha conducido al sector tecnológico a producir algo verdaderamente sustancial e inédito, denominado «constitucionalismo de la IA». Implica construir un andamiaje de reglas y principios extraídos de escritos filosóficos que ayudan al modelo de IA a formar criterio. No es un sistema filosófico para las personas que diseñan, fabrican y usan las máquinas, sino, probablemente por primera vez, para las máquinas que actúan de forma autónoma.

Anthropic ha insertado en las ‘constituciones’ de sus modelos Claude contenidos tan variados como escritos de Immanuel Kant, las condiciones de servicio de Apple y la Declaración Universal de los Derechos Humanos. Su marco ético es la deontología, término acuñado por Bentham, que reconoce una serie actos debidos con independencia de sus efectos, como no mentir y tratar a las personas como fines y no como medios.

Otro enfoque ético que se está utilizando para crear las ‘constituciones’ de la IA es el consecuencialismo. ChatGPT de OpenAI y Gemini de Google están entrenados para sopesar el coste de sus decisiones frente a los beneficios. Los coches autónomos y los sistemas de defensa, por ejemplo, están dotados de algoritmos consecuencialistas.

Hay compañías, como IBM, que dotan a su modelo Granite de esferas éticas,

Hay también compañías, como IBM, que dotan a su modelo Granite de esferas éticas, que los clientes empresariales pueden personalizar conforme a sus propios principios corporativos. En ese caso, la filosofía sigue las reglas del mercado y del sector tecnológico con pragmatismo.

Es uno de los efectos de la progresiva integración de los sistemas de IA en la vida social. A medida que los humanos interactúan, cooperan y compiten cada vez más con la IA, pasamos de sociedades puramente humanas a sociedades híbridas persona-IA cuyas dinámicas colectivas no pueden ser capturadas únicamente por los modelos de comportamiento existentes. Algunos investigadores sostienen que se debe abrir una nueva línea para la sociología centrada en la coevolución de personas y máquinas.

La filosofía modela hoy el mundo artificial, pero las máquinas transformarán en el futuro la visión que tenemos de nosotros mismos

La filosofía modela hoy el mundo artificial, pero las máquinas transformarán en el futuro la visión que tenemos de nosotros mismos. Porque la gran capacidad de fondo que le estamos pidiendo a la IA es la de adivinar nuestras acciones para proporcionarnos el mejor servicio. ¿De qué servirá un asistente artificial si siempre tenemos que decirle qué debe hacer a continuación?

Esta habilidad para predecir exigirá información mucho más rica que las escasas señales que introducimos en nuestros indicadores sociológicos. Requerirá razonamiento de todo el contexto de lo que vemos y hacemos. Los científicos están presentando ya modelos de razonamiento, entrenados durante 1.800 horas de uso del ordenador por parte de 20 usuarios, que predicen lo que le usuario hará a continuación en contextos largos.

¿Deontología, consecuencialismo, puro pragmatismo? La encíclica del Papa León XIV nos advertía precisamente de esto: el modelo ético oculto tras los modelos de IA determinará en buena medida la forma en la que nos desenvolvamos en el mundo híbrido artificial-natural hacia el que nos dirigimos. Si no estamos de acuerdo con la elección de los gigantes tecnológicos, es el momento de ponerse filosóficos.