Cómo evitar el uso indebido de la inteligencia artificial (IA) en fotos sexuales manipuladas de niños y niñas
Desde la aparición de tecnologías como ChatGPT en 2022, la inteligencia artificial (IA) se ha adoptado en múltiples aplicaciones. Sin embargo, no todas estas aplicaciones son éticas o legales.
La Internet Watch Foundation (IWF) ha emitido una alerta sobre cómo la IA se está utilizando para alterar imágenes de menores de todo el mundo, lo que ha resultado en un incremento de 360% en la publicación de fotos sexuales de niños y niñas de entre siete a 10 años en internet.
Este problema afecta especialmente a las niñas, ya que 50% de las imágenes alteradas por IA reportadas en 2022 por la IWF mostraban a menores de entre 11 y 13 años.
Contrario a lo que se podría pensar, las imágenes manipuladas son cada vez más difíciles de distinguir de las reales, y el impacto en la salud física y mental de los menores es profundo. Las niñas y adolescentes son las más afectadas por esta manipulación.
El fenómeno de los ‘deepfakes’, que implica superponer la imagen de una persona en otra utilizando IA, también ha captado la atención de autoridades internacionales por su potencial para difundir desinformación y violar la dignidad de los individuos. Esta tecnología también afecta a niños y adolescentes.
En España, varias niñas de una escuela informaron a las autoridades que sus compañeros compartían en sus móviles fotos desnudas de ellas, alteradas digitalmente. En Perú, al menos 12 estudiantes de entre 13 y 16 años fueron víctimas de manipulaciones similares que llegaron a manos de depredadores sexuales.
Según la IWF, “en la primera mitad de 2022 se identificó 20.000 páginas web que incluían imágenes de abuso sexual «autogeneradas» producto de la coacción de niñas y niños de 7 a 10 años”.
Cómo reducir riesgos de fotos manipuladas por IA
Martha Castellanos, vicerrectora académica de la Fundación Área Andina, advierte sobre los peligros de publicar imágenes de menores en redes sociales y la importancia de enseñar a los jóvenes a gestionar su ‘patrimonio personal’, que incluye fotos y videos. Los padres también tienen un papel crucial en proteger la privacidad de sus hijos.
Para contrarrestar esta amenaza, es esencial limitar y educar sobre el uso de la tecnología y las redes sociales. La Fundación Save the Children y otros expertos enfatizan la necesidad de un enfoque educativo y de supervisión parental en el uso de dispositivos electrónicos por parte de los menores.
Alejandro Castañeda, del Centro de Internet Seguro-Viguías de Red Papaz, y Leila Suckewer, docente en Argentina, coinciden en la importancia de establecer límites claros para los menores en cuanto al uso de la tecnología y el tipo de contenido que consumen.
Fuente: Aumentan las fotos sexuales de niños manipuladas por IA: cómo enfrentar a los depredadores
