Geoffrey Hinton, ganador del Premio Nobel de Física y considerado «padrino de la IA»
Ciencia
Geoffrey Hinton, el «padrino de la IA», advierte del peligro que viene: «Podría provocar la extinción de la humanidad»
Desde hace años distintos gurús han avisado sobre el impacto de esta tecnología en la sociedad actual
Es uno de los grandes nombres célebres de la ciencia mundial y uno de los precursores de la Inteligencia Artificial (IA). Geoffrey Hinton (Londres, 1947) se ha convertido a lo largo de su extensa trayectoria en una figura reconocida en el ámbito de la ciencia, informática, psicología y hasta literatura. Su trayectoria culminó el pasado 2024, año en el que el británico consiguió el Premio Nobel de Física junto al científico estadounidense John Hopfield.
La Real Academia de las Ciencias de Suecia los premió por sus descubrimientos e invenciones fundacionales que permiten el aprendizaje automático con redes neuronales artificiales. Básicamente, se les reconoció por haber sentado las bases físicas y matemáticas de la inteligencia artificial moderna.
A pesar de ser uno de sus 'creadores', el científico inglés –considerado como el «padrino de la IA»– se ha desmarcado como una de las voces globales más activas y constantes a la hora de avisar sobre los efectos de la inteligencia artificial.
Geoffrey Hinton, el 'padrino de la IA'
La última de ellas tenía lugar hace escasos días, en declaraciones recogidas por la CNN y The Times, donde ha avisado que el actual desarrollo de la IA podría traer consecuencias «catastróficas» para la humanidad. En concreto, Hinton pone de manifiesto el concepto de «superinteligencia artificial».
«Sería una gran insensatez desarrollar superinteligencia ahora, cuando no existe consenso científico sobre cómo desarrollarla de forma segura y controlable. Perder el control sobre una IA más inteligente que nosotros podría ser catastrófico e incluso provocar la extinción de la humanidad», señala Hinton.
De igual manera, el británico considera que es necesario mantener una relación «dominante» sobre los sistemas de IA, dado que «van a ser mucho más listas» que las personas.
«Los sistemas de IA desarrollarán rápidamente dos subobjetivos, si son inteligentes: uno es sobrevivir… y el otro es obtener más control. Hay buenas razones para creer que cualquier tipo de IA con capacidad de agencia intentará sobrevivir. El modelo correcto es el único que tenemos de un ser más inteligente controlado por uno menos inteligente», destaca.
Las declaraciones del científico coinciden a su vez con el proyecto de ley que se presentará en el Parlamento británico esta misma semana. Concretamente, este martes el miembro del Parlamento Alex Sobel presentará en la Cámara de los Comunes el proyecto de ley sobre superinteligencia artificial (Artificial Superintelligence Bill). Esta iniciativa propondrá prohibir de forma legal el desarrollo de sistemas de superinteligencia artificial que superen con creces la inteligencia humana, al menos hasta que se compruebe que se pueden controlar sin peligro.
Según el texto, se pretende prohibir el desarrollo de esta «superinteligencia artificial», obligando al Ejecutivo británico a supervisar y restringir posibles precursores.
Geoffrey Hinton, ganador del Premio Nobel de Física y 'padrino de la IA'
Una tendencia en auge
Las palabras de Hinton no terminan de sorprender. El perfeccionamiento de la IA ha llevado a gurús y leyendas del sector tecnológico a señalar sobre su impacto en la sociedad actual. Sin ir más lejos, el magnate y cofundador de Microsoft, Bill Gates, señalaba recientemente que la inteligencia artificial tendrá grandes efectos en el empleo mundial, por lo que recomendó la creación de trabajos «reservados para humanos».
«Tenemos que pensar ahora cómo reducir la pérdida de empleos para que todos puedan compartir la prosperidad que genere la IA», escribe.
Cualquier tipo de IA intentará sobrevivir'Padrino' de la Inteligencia Artificial (IA)
En esta línea se movía Stuart Russell, profesor de informática en la Universidad de California, Berkeley: «Algunas empresas, con fines de lucro, pretenden desarrollar e implementar tecnología que, según afirman, tiene una alta probabilidad de causar la extinción humana. La humanidad no ha dado su consentimiento para esta absurda forma de ruleta rusa, y los gobiernos deberían responder en consecuencia».
Asimismo, Ilya Sutskever, cofundador y antiguo jefe científico de OpenAI, que advirtió de que el cerebro es esencialmente una computadora biológica, por lo que las máquinas inevitablemente «podrán hacer absolutamente todo lo que los humanos hacen», alterando de manera drástica e impredecible la economía mundial.
En cuanto al director científico de OpenAI, Jakub Pachocki, advirtió formalmente que «nadie está preparado para las consecuencias», motivo por el que llamó a «extremar la precaución» de estos sistemas.
No solo particulares, organismos como la ONU han advertido sobre la necesidad de elaborar rápidamente una gobernanza de la inteligencia artificial, afirmando que la IA avanzada puede «suponer un riesgo existencial para la humanidad».
«Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», declaró este lunes el Alto Comisionado, Volker Türk, que pidió actuar «antes de que sea demasiado tarde».
