Varias menores, chantajeadas con falsos desnudos generados por IA

Las aplicaciones de la inteligencia artificial se multiplican cada día que pasa. Una de las últimas de las que estamos tomando nota en España, por la controversia que está provocando, es la app Clothesoff.

Esta aplicación móvil, a partir de la foto de una persona —vestida—, genera, mediante técnicas de inteligencia artificial, una imagen realista de la misma persona… desnuda. No sé si la app funciona con fotos de hombres, pero los ejemplos que aparecen en la página web de Clothesoff son todos de mujeres.

Con algunas herramientas de IA, cuando se produce un uso problemático, a veces puede alegarse que dichas herramientas están siendo utilizadas de manera distinta a la prevista por sus diseñadores. Con Clothesoff, no es el caso. ¿A quién puede sorprender que una app así cause problemas?

Hace unas semanas, un grupo de padres de Almendralejo, en la provincia de Badajoz, denunciaba ante la Policía Nacional que sus hijas estaban siendo extorsionadas mediante falsos desnudos. La policía descubrió que varios chicos de entre 12 y 14 años, pertenecientes al entorno de las víctimas, habían creado las fotos a través de la app Clothesoff. El incidente está ahora en manos de la Fiscalía de Menores