ChatGPT ya escribe discursos políticos

El diputado federal laborista Julian Hill ha utilizado lo que se cree que es el primer discurso parlamentario australiano escrito en parte por ChatGPT, uno de los sistemas de inteligencia artificial más capaces de los últimos tiempos, precisamente para advertir de sus peligros, que podrían llevar a la «destrucción masiva».

Este lunes, el diputado pidió una investigación para estudiar los «riesgos y beneficios» de la IA, advirtiendo de que podría dar lugar a trampas entre estudiantes, pérdidas de puestos de trabajo, discriminación, desinformación e incluso aplicarse a operaciones militares de forma descontrolada.

Julian Hill utilizó mensajes de ChatGPT como «por favor, resume los recientes informes de los medios de comunicación sobre estudiantes que utilizan inteligencia artificial en Australia para hacer trampas y explica por qué los profesores están preocupados por esto» y «explica en 2 minutos los riesgos y beneficios para Australia de la inteligencia artificial general». Con estos mensajes, compuso diferentes secciones de su discurso parlamentario.

El diputado de Victoria ha declarado en la Cámara de Representantes que «recientemente ha habido noticias en los medios de comunicación de estudiantes en Australia que utilizan la IA para copiar en sus exámenes», razón por la que ya se ha prohibido en las escuelas de Nueva Gales del Sur y Queensland.

«Yo no he escrito esto»

«La tecnología de IA, como el software inteligente que puede escribir ensayos y generar respuestas, es cada vez más accesible para los estudiantes, lo que les permite completar tareas y exámenes sin comprender realmente la materia, causando preocupación a los profesores sobre la integridad del sistema educativo», añadió el diputado, hablando de «ventajas injustas» y de la dificultad en identificar las trampas. Y entonces, añadió: «Tengo que admitir que yo on he escrito nada de esto».

«De hecho, ningún humano ha escrito esto: ha sido el modelo de gran lenguaje de IA ChatGPT», confesó, provocando murmullos en las bancadas parlamentarias. En otra parte del discurso escrito por ChatGPT, Hill advertía sobre «el potencial de pérdida de puestos de trabajo», que la inteligencia artificial general «podría perpetuar los prejuicios y la discriminación existentes» y «podría utilizarse con fines maliciosos, como ciberataques y campañas de desinformación».

El propio ChatGPT también menciona posibles beneficios de su tecnología, como el «potencial de la IA para revolucionar muchos sectores, como la sanidad, el transporte y las finanzas, aumentando la eficiencia, reduciendo costes y mejorando la toma de decisiones». A su vez, Hill, el político más destacado de Australia en la aplicación de redes sociales TikTok, bromeó suavemente con la oposición liberal sugiriéndoles que preguntaran a ChatGPT «¿es real el cambio climático?» y «¿qué defendemos?».

«La inteligencia artificial general tiene el potencial de revolucionar nuestro mundo en formas que aún no podemos imaginar, pero si supera la inteligencia humana, podría causar un daño significativo a la humanidad si sus objetivos y motivaciones no están alineados con los nuestros», añadió en su discurso, destacando también sus beneficios: «Si los humanos consiguen controlar la AI antes de que se produzca una explosión de inteligencia, podría transformar la ciencia, las economías, nuestro medio ambiente y la sociedad con avances en todos los campos del quehacer humano».

Una amenaza mayor que las pandemias

El político australiano continuó ahondando en los riesgos de una inteligencia artificial descontrolada, ya que duda que la humanidad pueda controlarla a tiempo, antes de que «un actor malévolo pueda aprovechar la IA para la destrucción masiva». Hill afirmó que cada vez más, los científicos que califican los riesgos sitúan a la IA por delante de «los asteroides, el cambio climático desbocado, los supervolcanes, las erupciones solares de devastación nuclear o las pandemias de alta mortalidad».

La IA tiene el potencial de «transformar la guerra tal y como la conocemos», con «graves» implicaciones para la seguridad nacional. «Si la AGI supera a la inteligencia humana, podría suponer una amenaza para nuestro ejército, dejando potencialmente obsoletas nuestras actuales capacidades defensivas», continuó en un discurso catastrofista, añadiendo una petición: «Igual que el mundo ha empezado –final y tardíamente– a actuar colectivamente sobre el cambio climático, debemos ponernos las pilas colectivamente y con urgencia sobre la AGI (Artificial general intelligence)».