La Fiscalía alerta de la «deriva peligrosa» del uso de las aplicaciones con IA por menores de edad

La Fiscalía General del Estado (FGE) ha llamado a frenar la «deriva peligrosa» de la utilización de aplicaciones de Inteligencia Artificial (IA) por menores de edad, según se desprende de su Memoria Anual correspondiente al 2023, a la que ha tenido acceso Europa Press.

«También es necesario que los poderes públicos busquen la manera de intervenir y frenar una deriva peligrosa, pero es importante que lo hagan con las familias y los sectores implicados, dado que las consecuencias para su desarrollo pueden ser muy graves», señala la Fiscalía en el informe sobre el uso de aplicaciones de IA por menores de edad.

En este sentido, explica que la IA proporciona un «elenco de oportunidades», pero destacado la necesidad de establecer un marco regulatorio. Además, dice que es un «riesgo» que actualmente no exista ninguna legislación, que impida lo que sucedió el año pasado en Almendralejo, con el caso de las fotos de los falsos desnudos generadas por IA.

Precisamente, la Fiscalía denuncia que las aplicaciones que se utilizan para estos fines, «son muy fácilmente accesibles y descargables en la red». «Es verdaderamente sorprendente esta situación y la total ausencia de control», critica.

En esta misma línea, expone que el caso de Almendralejo «ha destapado la punta del iceberg de un fenómeno en pleno ascenso; el de una nueva generación de adolescentes expuestos y desprotegidos ante nuevas herramientas tecnológicas más peligrosas que nunca, con su intimidad a un clic de hacerse viral y una preocupación omnipresente: la popularidad».

En todo caso, dice que el caso del municipio extremeño pone de relieve la «falta de madurez y concienciación» de algunos grupos de jóvenes, que «no se plantearon antes de crear esas imágenes el daño que causarían a las chicas».

Igualmente, la Fiscalía alerta de que las conductas de elaboración o distribución de material ilícito en el entorno tecnológico no son habitualmente objeto de denuncia por parte de los perjudicados. Así, asegura que se trata de «conductas clandestinas» en las que las víctimas, habitualmente menores de muy corta edad, «ni tan siquiera son conscientes de la agresión sufrida».

«En una edad en la que los menores construyen su identidad, moldean su autoestima y afianzan los valores que regirán su vida adulta, hay que preguntarse si es deseable que dispongan sin límites de una herramienta que los expone a contenidos destructivos y a unos valores machistas y de banalización de la violencia antagónicos con los valores de respeto y tolerancia que el sistema educativo intenta transmitirles», subraya en el documento.

En este sentido, la Fiscalía considera necesario que los poderes públicos busquen la manera de intervenir y frenar una «deriva peligrosa». Así, añade que es importante que lo hagan con las familias y los sectores implicados, «dado que las consecuencias para su desarrollo pueden ser muy graves».