La inteligencia artificial (IA) ha avanzado con enorme rapidez en los últimos años afectando a distintos sectores, en especial, en el ámbito de la creación de contenidos digitales. La IA ha dado lugar a una de las amenazas más graves para la privacidad y seguridad de los menores: los deepfakes.
Esta tecnología permite crear representaciones visuales y sonoras profundamente manipuladas, que pueden ser indistinguibles de la realidad por lo que no solo pone en riesgo la integridad de los datos personales de los menores, sino que también plantea serios desafíos legales y éticos.
El incidente ocurrido en 2023 en Almendralejo, donde varios menores utilizaron una aplicación de inteligencia artificial para crear imágenes pornográficas a partir de fotos de niñas de la localidad, ha provocado un debate en la sociedad española sobre la necesidad de regular esta tecnología que, basada en algoritmos de aprendizaje profundo, permite la creación de contenido audiovisual falsificado con un realismo sorprendente.
En este artículo, exploraremos cómo el entrenamiento de los algoritmos detrás de los deepfakes representa un riesgo para la privacidad de los menores, y cómo el marco jurídico, tanto europeo como español, está reaccionando ante esta problemática.
¿Cómo se crean los deepfakes?
Los deepfakes son creados mediante algoritmos de aprendizaje automático, una rama de la inteligencia artificial que permite a las máquinas aprender de grandes volúmenes de datos y mejorar su desempeño sin intervención humana directa.
Para la creación de un deepfake, se requieren grandes cantidades de datos personales, como son imágenes, videos y grabaciones de voz, estos datos pueden ser tomados de plataformas públicas o privadas sin el conocimiento o consentimiento de las personas involucradas, por lo que este es el primer gran riesgo: el uso de datos personales, especialmente de menores, sin control alguno sobre cómo se recopilan, procesan y distribuyen.
Una de las técnicas más utilizadas en la creación de deepfakes es la Red Generativa Antagónica (GAN). Esta tecnología consta de dos redes neuronales que trabajan de forma competitiva:
La primera, la red generadora, que crea imágenes falsas a partir de un conjunto de datos, intentando hacer que estas imágenes sean lo más parecidas posibles a la realidad. Por otro lado, la red discriminadora, que evalúa si las imágenes generadas son auténticas, comparándolas con imágenes reales, a medida que el proceso avanza, se va retroalimentando por lo que la red generadora mejora continuamente sus resultados, volviéndose más efectiva en crear imágenes indistinguibles de las originales.
Este proceso de mejora constante entre ambas redes permite la creación de deepfakes extremadamente realistas, convirtiéndose en un peligro potencial cuando se utiliza para crear representaciones falsas de menores, además por lo general, los datos personales de los menores son utilizados sin su consentimiento, abriéndose la puerta a la creación de contenidos sexuales falsificados o situaciones comprometedoras que pueden causar un daño emocional irreversible a las víctimas.
Otra técnica clave en la creación de deepfakes es el autoencoder, que permite modificar o intercambiar rostros en videos, este algoritmo funciona mediante dos fases:
- Codificación: La imagen o el rostro original se transforma en una representación más abstracta y comprimida.
- Decodificación: La representación comprimida se utiliza para reconstruir la imagen, aplicando modificaciones como el cambio de rostro.
Esta técnica es especialmente peligrosa en la línea comentada de deepfakes sexuales o de contenido pornográfico.
El riesgo para la privacidad de los menores: marco jurídico emergente
A nivel europeo, el Reglamento 679/2016, también conocido como Reglamento General de Protección de Datos (RGPD) sigue siendo el pilar fundamental para proteger los derechos de los menores en cuanto al uso de sus datos personales, en él se establece que los menores deben gozar de una protección especial en cuanto al tratamiento de sus datos personales, en su artículo 8 se establece que, en el caso de menores de 16 años, el tratamiento de sus datos solo es válido si se obtiene el consentimiento explícito de los tutores legales.
Sin embargo, cuando se crean deepfakes utilizando datos personales de menores sin su consentimiento, se está violando no solo su derecho a la propia imagen, sino también el principio de licitud en el tratamiento de datos, vulnerando la normativa de protección de datos de la Unión Europea, que exige un trato transparente y legítimo de los mismos.
En 2024, la Comisión Europea aprobó el Reglamento de Inteligencia Artificial, normativa pionera en la regulación del uso de esta tecnología y que nos da pie a encuadrar legalmente el uso de deepfakes, clasificándolos como prácticas de riesgo inadmisible cuando involucran a menores. Esta propuesta introduce sanciones severas para quienes fabriquen, distribuyan o posean deepfakes que involucren a menores, y promueve el desarrollo de tecnologías de detección de estos contenidos manipulados.
Este Reglamento establece un marco para garantizar la transparencia y responsabilidad en el uso de algoritmos de IA, buscando minimizar los riesgos que estas tecnologías pueden generar para los derechos de los menores.
En España, el Consejo General del Poder Judicial (CGPJ) ha aprobado un informe que destaca la necesidad de adaptar la legislación a los nuevos riesgos digitales, incluidas las amenazas derivadas de los deepfakes. En este contexto, el Anteproyecto de Ley Orgánica propuesto en 2023 contempla sanciones para quienes utilicen los datos personales de menores para crear contenido falso, además, se establece la verificación de edad en plataformas digitales, lo que podría ayudar a prevenir la circulación de contenido inapropiado para menores.
El nuevo enfoque en el Código Penal también refuerza las sanciones para aquellos que utilicen identidades digitales falsas, como en el caso de los deepfakes, para cometer delitos contra menores.
¿Cómo proteger a los menores en un mundo digital?
La protección de los menores en un mundo cada vez más digitalizado es un reto urgente y complejo, los deepfakes, al igual que otras tecnologías emergentes, ponen en juego los derechos fundamentales de los menores, especialmente en lo que respecta a la privacidad, la propia imagen y el bienestar emocional.
La cuestión es, ¿cómo equilibrar el avance tecnológico con la protección efectiva de los derechos de los menores en este nuevo entorno digital? La respuesta que seamos capaces de construir deberá combinar los avances tecnológicos, los cambios sociales y la respuesta jurídica a posibles abusos.
En cualquier caso las bases están claras y la normativa europea nos marca el camino: será clave garantizar que los menores puedan navegar por el mundo digital con seguridad y confianza, sin temor a que su privacidad y su integridad sean vulneradas. El reto no es solo del legislador sino de la sociedad en su conjunto donde la educación de nuestros menores en el uso de estas tecnologías tendrá un efecto colateral relevante.
