- Bajo el título “Charla sin filtros: Inteligencia Artificial, ¿machista o feminista?”, la Fundación Aranzadi LA LEY ha abordado este debate en la nueva edición de Mujeres por Derecho
La inteligencia artificial (IA) ya selecciona currículos, ayuda en la redacción de demandas y decide qué contenido vemos cada día en nuestras pantallas. Su aparente neutralidad tecnológica, sin embargo, lleva años bajo sospecha. ¿Puede un algoritmo reproducir los prejuicios de la sociedad que lo alimenta? ¿Es la IA un espejo de las desigualdades existentes o una herramienta capaz de corregirlas? En un momento en el que estas tecnologías avanzan a una velocidad difícil de seguir incluso para los expertos, la pregunta trasciende el ámbito técnico para instalarse de lleno en el terreno de los derechos, la igualdad y la democracia.
Bajo el título “Charla sin filtros: Inteligencia Artificial, ¿machista o feminista?”, el V Encuentro Mujeres por Derecho, organizado por la Fundación Aranzadi LA LEY, que por primera vez contó con la presidencia de honor de la Reina y bajo el lema “Una revolución ética”, abordó ayer este debate en la nueva edición de Mujeres por Derecho. La conversación, moderada por José Miguel Barjola, editor de Noticias Jurídicas y periodista de Aranzadi LA LEY, reunió a Teresa Freixes Sanjuán, catedrática de Derecho Constitucional de la Universidad Autónoma de Barcelona e integrante de EWLA; Lourdes Muñoz Santamaría, directora de Iniciativa Barcelona Open Data; y Paz Lloria García, catedrática de Derecho Penal de la Universidad de Valencia.
Una de las conclusiones del debate fue que la IA nos muestra el machismo que no queremos ver, impregnado en la literatura de los datos acumulados durante cientos de años, y nos da la oportunidad de corregirlo. Los ejemplos están a golpe de clic: tan solo hay que pedir a ChatGPT que dibuje una persona limpiando; el algoritmo mostrará una mujer haciendo labores domésticas. Por el contrario, si se pide la imagen de una persona con éxito profesional, esta será un hombre de negocios.
Las ponentes centraron el diálogo en un primer momento en la necesidad de regular las nuevas tecnologías, como ha hecho la Unión Europea, pese a la velocidad con la que van evolucionando. “No basta con invocar la ética”, el Papa León XIV pide regular la IA en su primera encíclica, Magnifica humanitas.
¿Heredamos una IA machista? “Todo aquello que en la vida ordinaria ha sido vejatorio también lo es en la tecnológica. Los problemas preexistían, pero ahora tienen otros soportes”, señaló Teresa Freixes. Por eso, para controlar sus efectos, hay que aplicar otros contrapesos. La catedrática insistió en que es necesario conocer el reglamento europeo y las limitaciones que establece. Y es que los productores de estas herramientas están obligados a cumplir bajo amenaza de grandes sanciones, pese a que la mayoría provienen de fuera de Europa. “Hay que poner en marcha las herramientas controladoras. En EE. UU. no les gusta en absoluto nuestro reglamento. Pero la técnica tiene que tener límites y deben estar previstos”, concluyó.
Durante el debate también se habló de los videos deepfakes generados por menores de edad. Paz Lloria alertó: “el problema es que la IA amplifica los roles de violencia”. Sin embargo, aún no decide autónomamente: “Cuando la IA sea fuerte, cuando sea capaz de tomar decisiones sin necesidad de un prompt, ahí sí que tendremos que preocuparnos”, destacó. La catedrática puso el dedo en los sesgos de las personas que utilizan programas con IA, como sucede con VioGén. “Hay que pensar en las personas que da la orden a la tecnología”, expuso.
Lourdes Muñoz subrayó en la charla la necesidad de actuar para corregir la desigualdad heredada en las tecnologías que beben de datos sesgados. ¿Es necesario entonces el activismo tecnológico de las mujeres? “Hay que hacer ciencia más que activismo. Aplicar la ciencia para corregir; Tenemos que liderar programas de IA para conseguir modelos éticos”, remarcó Muñoz. La experta defendió que la estrategia debía pasar por asegurarse la igualdad en los datos, en un momento inicial, puesto que “todo se va a automatizar”. “Es importante escribir las metodologías para que respete los derechos”, agregó.
Debate sobre el acceso de los menores de 16 años a las redes sociales
El reciente anuncio de que Reino Unido prohibirá las redes sociales a menores de 16 años provocó reacciones encontradas entre las ponentes. El horizonte regulatorio español también lo contempla en el anteproyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales. Mientras Paz Lloria rechazó de plano prohibir el acceso a estos entornos a los menores, aunque siempre de la mano de los adultos responsables, Lourdes Muñoz abogó por apartar a los menores de las redes por su falta de madurez para comprender las consecuencias de su uso. “También les está prohibido conducir”, argumentó. Teresa Freixes, por su parte, puso el acento en la dificultad para controlar el acceso de los niños a las redes. Y reflexionó: “Las edades de referencia no son las mismas en los distintos países y el mundo está cada vez más globalizado”. “No le damos un coche a un menor, les enseñamos a conducir”, argumentó.
El debate de la mesa dejó un mensaje claro: Los procesos de selección no son igualitarios, hay sesgos en la literatura, incluso la científica. Esta realidad no lo ha creado la IA. El reto está ahí: es la herramienta más potente jamás puesta en nuestras manos para romper de una vez todos los prejuicios.
