El nuevo ciberbullying: los niños usan la IA para crear falsos desnudos de sus compañeros

El crecimiento en el uso de la IA ha puesto en alerta a los colegios españoles. Diversos casos en el último año en que esta nueva tecnología era empleada para crear falsos desnudos de menores —luego distribuidos en redes sociales y grupos de WhatsApp o Telegram— han hecho saltar las alarmas sobre este nuevo riesgo.

Este peligro creciente del acoso tecnológico queda patente en una encuesta realizada por Save the Children a jóvenes de toda España, y según la cual más de las tres cuartas partes de los encuestados han sufrido violencia online durante su infancia.

Para ayudar a las víctimas de ciberbullying y violencia digital, RepScan ha puesto en marcha su servicio «Botón rojo». Se trata de un servicio de alerta temprana que funciona 24/7 y que identifica el contenido negativo, lo elimina de Internet y realiza un seguimiento para evitar que las imágenes indebidas se vuelvan virales y provoquen más daño a las víctimas.

La solución ha sido pensada para que colegios, entidades deportivas y otros colectivos que trabajan con menores la puedan ofrecer a los padres y a los propios menores como una solución de respuesta rápida cuando se difunden imágenes de carácter íntimo, o en otras circunstancias como agresiones o ciberacoso.

«Hemos creado esta solución para que entidades como los colegios o las asociaciones deportivas cuenten con una herramienta que activar cuando sus planes de prevención contra el acoso fallen, y ocurra lo que, desgraciadamente, es cada vez más habitual: que se filtre un vídeo o una imagen de un menor adscrito a esas entidades; con esta herramienta podrán actuar de forma rápida para detectar y eliminar ese contenido y evitar, así, que ese material dañe y marque a la menor afectada», explica Josep Coll, co-CEO y cofundador de RepScan.

La escuela Pérez Iborra ha sido una de las primeras en España en ofrecer este servicio de «Botón rojo» de Repscan contra el cyberbulling a sus alumnos. Gracias a este acuerdo, RepScan implementará este «Botón rojo» por un año en la página web de la escuela, dará cobertura a todos los estudiantes de secundaria y bachillerato y proporcionará, como un servicio de valor añador, formación tanto a profesores como alumnos sobre casos de ciberacoso y el uso de la plataforma.

Además, el centro y los alumnos contarán con un servicio ilimitado de eliminación de contenidos negativos que afecten tanto a los estudiantes como a la propia escuela.