Los creadores de ChatGPT reconocen que inventa información en medio de las críticas por su peligrosidad

La inteligencia artificial generativa, la tecnología utilizada por ChatGPT que se basa en la búsqueda «desesperada» de información en internet, «puede inventar algunos hechos», según han reconocido sus creadores. David Lebeau, un creador de aplicaciones francés, ha sido uno de los primero en denunciar este hecho después de pedirle información al robot: «El algoritmo empezó a divagar y a atribuirme la creación de sitios web y de organizar manifestaciones en línea, lo que es totalmente falso», reveló el informático.

Por su parte, el gobierno italiano dirigido por Giorgia Meloni decidió el viernes prohibir el uso de este medio de información por no respetar la legislación sobre datos personales y por carecer de un sistema de verificación de la edad de los usuarios menores. En este sentido, también Francia, Irlanda y Alemania, junto con Italia, han empezado a intentar encontrar una posición común.

Otra denuncia en Francia fue presentada por una abogada, presidenta de una asociación que hace campaña para alertar sobre el desafío de la ciberseguridad: «No somos antitecnología, pero queremos una tecnología ética», declaró. Tras intentar sin éxito aclarar la situación con OpenAI, la empresa responsable de ChatGPT presentó su demanda ante la agencia francesa que vigila el respeto de los datos personales.

Para Gary Marcus, profesor del Instituto de Tecnología de Massachusetts y creador de varias empresas de Inteligencia Artificial, suponer que ChatGPT es una revolución es un engaño. «Los colegios e institutos tienen un problema. No sé si hablamos de ensayos y trabajos que puedan obtener un sobresaliente, muchos de los resultados de ChatGPT tienen errores y son superficiales», aseguró en una entrevista en El Confidencial, un hecho que ha corroborada la propia Open AI.

Mientras que para muchos expertos, como los responsables de Open AI, su creación es un gran avance, para Marcus es como poner a «monos delante de un teclado» que dieron por muerto al pensador Noam Chomsky en diciembre de 2020. «Conozco a Noam, así que le escribí, supuse que le parecería gracioso. Me respondió de vuelta: ¡Estoy muy vivo! Lo más desconcertante es que la IA se había inventado hasta obituarios publicados en el New York Times. Es un sistema peligrosamente estúpido».

«Funciona agrupando palabras y frases que ha visto antes y tiene almacenadas, pero no entiende el significado de lo que muestra. Mi mayor preocupación es la desinformación, creo que va a acelerar de forma dramática la velocidad a la que se va a producir la desinformación. Se va a usar para propaganda, para hacer páginas web falsas y engañar a la gente», auguró Marcus en el diario español. »Si conectas algo así a la red eléctrica o a un arma, evidentemente, se convierte en una amenaza. El peligro de un sistema así puede venir de cuán inteligente es, pero también del poder que se le otorga. Si ChatGPT lleva a una persona ingenua a creer que es inteligente cuando no lo es, ese en sí es el peligro», concluyó el experto.