Planteamientos iniciales sobre los Deep Nudes
Es sobradamente conocida la importancia que está cobrando en la “Sociedad Digital” actual, la generación de Deep Fakes o ultrafalsificaciones y, dentro de esta categoría tan amplia, la generación de Deep Nudes. A nivel nacional estos últimos fueron especialmente relevantes a través de su popularización en los colegios de Almendralejo en 2024 —prácticamente anteayer— pero lo cierto es que se están propagado cada vez más, y así, hemos podido encontrar otros ejemplos en escuelas de Ayamonte, Sevilla o Zaragoza, existiendo una posterior difusión de las imágenes que resultan prácticamente imparables.
Las principales afectadas son menores, niñas, y uno de los elementos más curiosos es que los victimarios también son menores de edad. Pero, en mi opinión, en cuanto al tratamiento jurídico-penal se están invisibilizando las consecuencias que pueden sufrir las víctimas. El por qué se explicará aquí de manera somera —por razones de espacio—, pero la profundidad de este fenómeno es de una amplia magnitud, donde, especialmente el Derecho penal ha de mostrarse comprometido y sensible ante estas conductas.
En la regulación supranacional, los Deep Fakes están definidos dentro del AI Act en el artículo 3.60 como “un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos”. Como avanzábamos, los Deep Nudes están dentro de la categoría de los Deep Fake, pero su particularidad es que representan a personas reales que parecen, con un realismo extremo, que verdaderamente que están desnudas. Nacieron en 2017 en la plataforma Reddit y su puesta en escena provocó que se pudiera ver a ciertas celebrities de manera íntima, siendo capaces de alcanzar tal realismo gracias al uso de técnicas avanzadas —entre otras— de Deep Learning; un tipo de IA que emplea redes neuronales profundas de amplia complejidad y que bautiza al término Deep Nude.
La especial relevancia de los Deep Nudes
Ahora incluso IAs tan conocidas como Grok han alterado la tranquilidad e intimidad de los usuarios digitales, pero en la mayoría de casos los menores utilizaban ciertos dominios web o aplicaciones para poder generar estos desnudos. Lo que provoca sin remordimiento alguno esta “expansión digital” es que estemos ante imágenes cuya generación y permanencia tienen un carácter globalizado, y, a tales efectos, las estadísticas apuntan a una preocupación creciente. Así mismo, la particularidad de este tipo de contenido es que es aparentemente falso, pero propina consecuencias más que verdaderas, y en ello está en su especial componente de género. Son las mujeres las principales afectadas en la generación de tales imágenes.
El conocido grupo de expertos GREVIO ha puesto de manifiesto en su General Recommendation No. 1 on the digital dimension of violence against women la preocupación sobre la generación de los Deep Nudes y su proliferación. La recomendación 38 del texto en su apartado b) considera que este tipo de comportamientos se encuadran dentro de la “pornografía falsa”. Del mismo modo, algunos estudios como el del año 2023 provinientes de State of Deepfake apuntan a un crecimiento exponencial del 550% de los Deepfakes entre 2019 y 2023, donde los Deep Nudes constituyen el 98% del contenido y, dentro de los mismos, el 99% de los “objetivos” son mujeres.
Todo este marco —donde las afectadas menores es de amplia consideración— ha llevado a que Europa resalte en la Directiva 2024/1385/UE del Parlamento Europeo y del Consejo de 14 de mayo de 2024 sobre la lucha contra la violencia contra las mujeres y la violencia doméstica que las “ultrafalsificaciones” es un fenómeno que afecta esencialmente a mujeres y que, por ello, es necesaria su tipificación (Considerando 19).
Deep Nudes, Derecho penal y víctimas menores de edad
Ante este marco especialmente feminizado, la preocupación se acentúa cuando las víctimas son menores.
El Juzgado de menores de Badajoz condenó a los 15 autores —victimarios también menores, se repite— en Sentencia de fecha 20 de junio de 2024 como responsables de 20 delitos de pornografía infantil y 20 delitos contra la integridad moral, dictada en conformidad. Sin embargo, la discusión sobre el tipo de castigo de este tipo de imágenes en la dogmática sigue ferviente. Las recientes propuestas sobre la tipificación de los Deep Fakes a través de la Ley Orgánica para la protección de las personas menores de edad en los entornos digitales y la opinión mayoritaria de la dogmática es que estas imágenes resultan constitutivas de delitos contra la integridad moral, únicamente.
Sin embargo, hay ciertos elementos necesarios que han de repensarse desde el cómo puede afectar a las víctimas la generación de una imagen de estas características. Si bien estas tienen un contenido —corpóreo, no facial— falso, la intermediación de la IA es capaz de dotar de un realismo exacerbado a las mismas.
A ese realismo, que de alguna manera se presenta más accesible en la “Era Digital”, se le suma que existe una intención concreta y determinada de desnudar a una compañera de clase. No se representa aquí un mero desnudo, como si de un contexto cotidiano de una foto en la playa se tratase, o se estuviera retratando “a lo Sorolla” una imagen artística, sino que la intención viene representada por crear una imagen para ver desnuda a una niña. ¿Se es capaz de atribuir una inocencia a la creación, sin más contenido, de estas imágenes, pero no a la protección de una indemnidad sexual que puede verse afectada?
Por lo cual, y tras lo ampliamente reiterado por la Sala Segunda del Tribunal Supremo de que el mero desnudo no constituye pornografía, la representación de órganos sexuales de un menor, en un contexto como aquel que representa una intención de ver a una compañera de clase desnuda, se encuadran en un contenido de carácter pornográfico, digital, aparente, realista, pero pornográfico. De lo contrario, ¿este hecho intencional de que se genere a través de una foto verídica a una menor desnuda no tendría una relevancia adicional para el Derecho penal? ¿No existiría más que un peligro a la integridad moral y no al desarrollo potencial de una menor en su esfera sexual si pensamos, por un segundo, en las consecuencias de estas imágenes?
Someras conclusiones
Creo que desde estas reflexiones se inunda el contenido del bien jurídico protegido que, si bien no puede equipararse a una lesión como en la pornografía expresa, al menos habría de plantearse una afectación potencial a la indemnidad sexual de esta pornografía infantil virtual, — en estos términos es de especial relevancia la lectura la STS 1174/2024 de 19 de diciembre, especialmente en su FJ 3.4—. Tanto la opinión mayoritaria como las nuevas propuestas parecen olvidar la culminada trasposición —mejor o peor— de la Directiva 2011/93/UE del Parlamento Europeo y del Consejo, de 13 de diciembre, o la Circular 2/2015, de 19 de junio, sobre los delitos de pornografía infantil.
Así que, muy someramente, lo digital parece que apunta a una dificultad para leer afectaciones penalmente relevantes, que la “moralidad” sigue muy presente dentro del Derecho penal sexual como tradicionalmente ha sido y que, el hecho de que se colmen o no las exigencias típicas parece que, una vez más, tiende a dar una visión prioritaria frente a la victimológica.
¿Podemos seguir pensando, pues, únicamente, en una broma de muy mal gusto?
