La ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial (IA) de la red social ‘X’ (antes ‘Twitter’) por presuntos delitos de difusión de material de violencia sexual contra la infancia.
«En diferentes medios de comunicación han publicado que ‘Grok, -el ‘chatbot’ del magnate Elon Musk- estaría desnudando a personas menores de edad a petición de diferentes usuarios, lo que podría suponer sendos delitos de pornografía infantil y contra la integridad moral», ha señalado Rego.
En este sentido, ha pedido a la Fiscalía que analice de manera «urgente» estos hechos -que ha calificado como «gravísimos»- e inicie las medidas «necesarias» para «evitar que más personas, especialmente menores de edad, vean vulnerados sus derechos fundamentales en internet», alegando que se trata de «una vulneración de derechos fundamentales».
Según han trasladado fuentes del Ministerio a Europa Press, en su oficio, la ministra también alude a la sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, tal y como se expone en el documento remitido a la Fiscalía.
Así las cosas, Rego ha recordado que la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales -promovida por el ministerio que dirige- se encuentra en tramitación en el Congreso e introduce un nuevo artículo para «perseguir la utilización de la inteligencia artificial y cualquier otra herramienta para menoscabar la integridad moral de niños, niñas y adolescentes».
Desde el Ministerio explican que esta iniciativa forma parte de «una estrategia más amplia de construcción de entornos digitales seguros» que reconoce que «internet y las plataformas no fueron diseñadas pensando en la infancia» y que, por ende, «es imprescindible garantizar qué niñas, niños y adolescentes puedan desarrollarse en él sin violencia, sin exposición y sin mercantilización de su imagen».
«La ley refuerza el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial, reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital», concluyen.
