La app usada por un grupo de chicos de Almendralejo (Badajoz) para desnudar virtualmente a una treintena de menores del sexo opuesto se llama ClothOff (Ropa fuera). Acceder a ella es tan sencillo como logarse con una cuenta de Gmail, Twitter o Facebook. Al hacerlo, no salta ninguna advertencia relativa a la edad: al contrario, se ofrece literalmente sin tapujos con el eslogan Undress Girls for Free (Desviste a chicas gratis). El único requisito que pide es que la persona a la que se vaya a dejar en pelotas aparezca sola en la imagen... y que no lleve un abrigo muy grueso.
Es el funcionamiento estándar de otros muchos servidores que permiten convertir mediante inteligencia artificial a cualquiera -hombre o mujer- en una versión falsa de su yo más íntimo. Además de ClothOff están DeepNudeNow.com, Nudify.online... Suelen ser gratuitas, aunque también contemplan la opción premium. Y todas tienen algo en común: el proveedor no se hace responsable del uso que los usuarios hagan de sus montajes.
El primer caso masivo en España de los llamados deepfakes con contenido sexual generados por IA y compartidos por jóvenes demuestra la velocidad inalcanzable a la que se mueve la industria tecnológica, que obliga a autoridades jurídicas y policiales a ir a remolque. También visibiliza la exposición al escarnio al que se enfrentan no ya unas niñas de una ciudad mediana, sino el conjunto de la sociedad. Y, por supuesto, revela el fracaso tanto en educación tecnológica y afectivo-sexual de los pornonativos(los primeros adolescentes que han crecido con una avalancha de contenido explícito gratuito en sus teléfonos móviles).
Este comportamiento se traduce en algo más dañino para el ejercicio de derechos fundamentales que la incapacidad para diferenciar el meme supuestamente divertido del photoshopeado hiriente. Basta observar, por ejemplo, el descenso del top less en las playas españolas como medida de prevención frente a móviles y minicámaras invasivas.
"Hay un repunte brutal del machismo y la cosificación de la mujer en internet", contextualiza Ricard Martínez, profesor de Derecho Constitucional en la Universitat de València y director de su Cátedra Microsoft de Privacidad y Transformación Digital. "Los niños y jóvenes de hoy confunden amor, sexo y pornografía. Los chicos piensan que tienen derecho a hacer todo lo que ven en esas películas y las chicas, que lo natural es que les hagan todo lo que ven también en ellas. Y eso es una barbaridad".
"Estamos viviendo un bum de la IA generativa desde la aparición de ChatGPT y una democratización de este tipo de tecnología para generar desinformación. Desinformación ha habido siempre, lo que pasa es que ahora es mucho más fácil generarla y resulta mucho más realista", añade Óscar Cordón, catedrático de la Universidad de Granada y profesor del departamento de Ciencias de la Computación e Inteligencia Artificial.
Deepfake es el nombre genérico de una fotografía o vídeo donde el rostro de la imagen original ha sido sustituido por el de otra persona. Ahora empieza a utilizarse también para reemplazar voces, de ahí la resurrección en redes sociales de varias leyendas de la comedia hablando en inglés. "En 48 horas hemos pasado de hacer bromas con El Fary a llevarnos las manos a la cabeza", resume Martínez.
Para crear deepfakes se emplean técnicas de aprendizaje profundo (deep learning) y un modelo concreto: el que utiliza las redes neuronales generativas antagónicas (GAN, por sus siglas en inglés) para desarrollar patrones. "Tratándolo de aterrizarlo mucho, sería como un juego donde tú te pones a generar una imagen y un amigo tuyo te dice si esa imagen es real o falsa. Los dos se retroalimentan, compiten entre sí y van refinando los resultados para alcanzar un objetivo final", compara Cordón. "El sistema aprende repitiendo mucho, igual que Rafa Nadal lleva 20 años practicando el revés hasta que le sale perfecto".
Y así, con un par de clics y un poco de paciencia, el algoritmo es capaz de transformarle a usted o a mí en nudista involuntario.
Para entender lo que está pasando en Almendralejo y cómo hemos llegado a la era del Undress AI también puede ser interesante remontarse a los tiempos de Tuenti, la red dominante en los primeros 2000. "Hace unos años tuve a unos alumnos de Matemáticas que estaban muy celosos de la única chica de la clase, que era la que mejores notas sacaba", recuerda Martínez. "Cogieron su foto del aula virtual, la subieron a una web de contactos y, menos a practicar sexo con muertos, pusieron que le pegaba a todo. Añadieron su número de teléfono personal y convirtieron su vida en un infierno. Es decir, lo que está cambiando es el grado de sofisticación. Y por tanto, aumenta la intensidad cualitativa y cuantitativa de estas acciones".
Dicho de forma más gráfica: hemos cambiado la revista picantona que rulaba entre colegas y el cine para adultos que se descargaba con el Torrent por una versión chapucera, macarra y arrojadiza de PornHub. Y para cuyo acceso existen menos filtros que para comprar una cerveza online.
Ricard Martínez fue uno de los cinco ponentes de la Carta de Derechos Digitales. Este documento se presentó en julio de 2021 y está inspirado en la Carta de Derechos Fundamentales de la UE y en la Declaración Universal de Derechos Humanos. Elaborada para proteger los intereses y las libertades de los ciudadanos en el ámbito digital, sobre todo en lo tocante a privacidad y seguridad, ya dedicaba un apartado específico a los más jóvenes: "Se impulsará el estudio del impacto en el desarrollo de la personalidad de los menores derivado del acceso a entornos digitales, así como a contenidos nocivos o peligrosos. Dicho estudio prestará particular atención a sus efectos en la educación afectivo-sexual, las conductas dependientes, la igualdad de género, así como los comportamientos antidemocráticos, racistas y violentos".
La Ley Orgánica 8/2021 (de protección integral a la infancia y la adolescencia frente a la violencia) y la 3/2018 (de protección de datos personales y garantía de los derechos digitales) también pretenden salvaguardar a las nuevas generaciones de la violencia ejercida a través de las tecnologías de la información y la comunicación. La Agencia Española de Protección de Datos (AEPD) promueve desde hace década y media la jornada internacional Día de Internet Segura. En 2019, además, puso en marcha su Canal Prioritario, una iniciativa pionera a nivel mundial que permite solicitar la retirada urgente de contenidos sexuales o violentos (fotos, vídeos, gifs...) publicados en internet sin el consentimiento de quienes aparecen en ellos. El año pasado, realizó 51 intervenciones a través de esta vía; en 46 logró la retirada inmediata.
La Agencia ha iniciado de oficio actuaciones previas de investigación en el caso de las menores de Almendralejo. El problema es que el cortafuegos jurídico-legal se intenta aplicar a la primera generación que ha crecido viendo sexo en el móvil, que recibe el impacto de una la tecnología favorita del actual Silicon Valley y que carece de unas nociones elementales sobre los límites éticos de las herramientas más disruptivas. Así, nos encontramos inmersos en una especie de carrera de bólidos a lo Mad Max entre reguladores y potenciales delincuentes: mientras la Unión Europea trabaja desde 2018 en la redacción de la primera Ley de Inteligencia Artificial del mundo (AI Act), que podría ser aprobada a finales de este mismo año, las chavalas anónimas de cuatro colegios de Almendralejo y divas internacionales como Natalie Portman, Emma Watson o Rosalía son víctimas de deepfakes de parecida naturaleza. Con la diferencia de que la indefensión de las primeras es incomparable a la de las segundas.
El falso desnudo de las niñas extremeñas podría ser constitutivo de varios delitos tipificados en el Código Penal: suplantación de identidad; atentado contra la intimidad y el honor mediante la manipulación fotográfica; acceso y difusión de documentos o efectos personales sin consentimiento; ciberacoso; amenazas e incluso extorsión sexual (sextorsión) si se confirma que uno de los chicos involucrados en el fotomontaje pidió -vía Instagram- a una de las chicas dinero a cambio de su eliminación... A ello habría que añadir la responsabilidad administrativa: los padres, madres o tutores legales de los menores de edad podrían tener que responder económicamente por las conductas delictivas de sus hijos, así como por los daños y perjuicios materiales y morales provocados.
El catedrático Martínez, no obstante, insta a ir más allá del sentimiento de culpa o de vergüenza. Mucho más allá. "En estos momentos tendríamos que tener noticias no sólo de lo que está ocurriendo en la investigación penal a los chavales, sino también de qué acciones se van a emprender contra las empresas que ofrecen la tecnología para hacer los montajes", denuncia. "Esos señores, ¿qué esfuerzo han hecho para validar la edad de la persona que usa su software? ¿Cómo se han asegurado de que la persona que sube esas imágenes tenía sus derechos? ¿Cualquiera puede recurrir a su tecnología para hacer lo que le dé la gana? Debería haber pasado el momento en el que nos miramos el ombligo pensando en cómo aplicaríamos las normas. Hay que coger todas y cada una de las herramientas de las que dispongamos y disparar a discreción. Hace falta lanzar política y jurídicamente un mensaje ejemplarizante al conjunto de la sociedad. Si no, no sabremos cuántos lectores de esta noticia, en vez de pensar que se trata de una barbaridad, pensarán: 'Lo voy a hacer yo también'. De este caso hemos tenido conocimiento porque los padres lo han denunciado. La pregunta es: ¿cuántos más estará habiendo en estos momentos?".
Los dos expertos coinciden en no victimizar a los autores de los desnudos fake. "No creo que llegaran a darse cuenta del alcance de sus acciones porque no tienen la formación adecuada. El problema que tenemos con nuestra chavalería es que hay que formarla en tecnología. Me refiero a esas clases que en teoría se dan en Primaria y que deberían servir para enseñar el impacto de internet, la rapidez de la difusión, la parte ética de todas estas herramientas... Desgraciadamente, muchas veces esas clases se destinan a tutorías u otras cosas", razona Cordón. "Pensarían que estaban haciendo una gamberrada, no habían incorporado el grado aberrante de disvalor que implica", concuerda Martínez.
Una percepción que comparte incluso Miriam Al Adib, ginecóloga y divulgadora estrella en redes sociales, además de madre de una de las niñas afectadas. "Yo no pienso en que los chicos vayan a la cárcel ni esas tonterías", se desmarca quien sido premiada durante tres años consecutivos como la mejor ginecóloga de España, a pesar de admitir que a nivel emocional la noticia fue "un puñetazo". "Mi objetivo es educativo y tengo muy claro el colectivo sobre el que hay que incidir: el de la mayoría de chicos que son silenciosos (no dicen nada), palmeros (aplauden las acciones) o risitas (a los que les hacen gracia). Es a estos a los que hay que concienciar para que vean que esto perpetúa una forma de violencia contra las niñas. Si la mayoría de estos chicos tiene claro lo que hay que hacer, esto se acaba, porque los que violentan realmente son muy poquitos".
Desde el punto de la tolerancia de la opinión pública, el caso de Almendralejo probablemente marque un antes y un después en la manipulación de imágenes de menores con contenido sexual. ¿Podríamos estar ante un punto de inflexión similar al de la ex concejala Olvido Hormigos en 2012, en este caso a raíz de la difusión no consentida de un vídeo íntimo suyo en internet? "Eso es lo que espero de verdad, que sirva para que seamos conscientes de lo que está pasando y se le ponga freno", resume Juani Espino, psicóloga y madre de otra chica que podría haber sido víctima de los fotomontajes.
Espino es orientadora en uno de los colegios de Almendralejo y conoce perfectamente hasta dónde puede llegar el 'bullying' en el ecosistema educativo. No sólo de alumno a alumno, sino de alumno a profesor, como se han dado ya casos en Estados Unidos. "En la web del centro hay imágenes de los docentes y antes nos hacían stickers de WhatsApp. Imagínate, esto nos podría haber pasado a cualquiera de nosotros".