La inteligencia artificial (IA) ha emergido como una de las tecnologías más disruptivas del siglo XXI, revolucionando sectores tan diversos como la salud, la educación o el financiero, por ejemplo. El sector de la abogacía no es una excepción.
En plena efervescencia de la IA, el abanico de posibilidades que se abre en el mundo jurídico vaticina una visión intrigante del futuro. Sin embargo, su desarrollo y aplicación no están exentos de desafíos, especialmente cuando se trata de sesgos de género. Es decir, el diseño y desarrollo de la IA no es neutra desde el punto de vista de género.
Los sistemas de IA suelen basarse en datos históricos para generar información y, si estos datos contienen sesgos (ya sean raciales, de género o socioeconómicos), estos pueden arraigarse en el resultado de la IA. Por ejemplo, si un algoritmo de IA se entrena con datos de casos judiciales que reflejan sesgos de género, es probable que el algoritmo reproduzca esos sesgos en sus predicciones y decisiones.
Otra limitación es que la IA puede carecer de la capacidad de comprender el contexto social y cultural en el que se producen los casos judiciales.
Esta cuestión del sesgo no solo plantea dilemas éticos, sino que también puede poner en entredicho la imparcialidad y la objetividad en un ámbito como es el de la justica donde las decisiones tienen un impacto directo en los derechos y libertades de las personas.
Es por ello por lo que, diversos organismos internacionales y la propia Unión Europea (UE) se han preocupado por alertar los riesgos que presenta la IA al poder perpetuar y aumentar las desigualdades ya existentes entre hombres y mujeres, dado que el desarrollo de esta tecnología no es neutro.
En el contexto de la IA, la Agenda 2030 exige que las tecnologías emergentes se desarrollen de manera que promuevan la igualdad de género y no perpetúen las desigualdades existentes. Esto implica que los sistemas de IA deben ser diseñados y utilizados de manera que respeten los derechos de las mujeres y las niñas, y que se tomen medidas para evitar la discriminación basada en el género.
La IA puede ser una herramienta clave para alcanzar los Objetivos de Desarrollo Sostenible (ODS), pero es esencial que se utilice de manera ética e inclusiva, por ejemplo, (i) cerrar la brecha digital de género para que las mujeres tengan igual acceso a la tecnología y las oportunidades que ofrece, (ii) utilizar la IA para promover la inclusión social, (iii) fomentar la innovación responsable en IA, que respete los derechos humanos y promueva el desarrollo sostenible. La inclusión de la perspectiva de género en el desarrollo y aplicación de la IA no es solo una cuestión de equidad, sino también una necesidad para garantizar que esta tecnología sea justa, eficaz y beneficiosa para toda la sociedad.
No puede perderse de vista que los costes derivados de olvidar la perspectiva de género en la IA son muy altos y conlleva grandes problemas sociales y económicos, mientras que los beneficios de incluir la perspectiva de género son muy variados.
La Unión Europea ha sido pionera en la promoción de una IA ética y centrada en los seres humanos. En 2018, la UE publicó su Estrategia de Inteligencia Artificial, que establece un marco para el desarrollo de una IA que sea digna de confianza (trustworthy) y que respete los valores europeos, incluida la igualdad de género. La UE ha enfatizado la importancia de garantizar que los sistemas de IA sean transparentes, explicables y libres de sesgos, incluyendo los de género.
El Grupo de Expertos de Alto Nivel sobre IA (HLEG) de la UE ha desarrollado directrices éticas para una IA confiable, que incluyen principios como la no discriminación, la justicia y la equidad. Estos principios son fundamentales para garantizar que la IA no perpetúe las desigualdades de género. Además, la UE ha establecido un Observatorio de IA (AI Watch) para monitorear el desarrollo y la implementación de la IA en los Estados miembros, con un enfoque especial en los impactos sociales y éticos, incluidos los relacionados con el género.
España ha seguido de cerca las directrices europeas en materia de IA y ha desarrollado su propia Estrategia Nacional de Inteligencia Artificial, publicada en 2020. Esta estrategia se alinea con los principios de la UE y establece un marco para el desarrollo de una IA ética y centrada en los seres humanos. En particular, la estrategia española incluye referencias explícitas a la igualdad de género, reconociendo la necesidad de evitar los sesgos de género en los sistemas de IA y de promover la participación de las mujeres en el desarrollo y la implementación de estas tecnologías.
Además, España ha adoptado medidas concretas para garantizar que la IA se utilice de manera que promueva la igualdad de género. Por ejemplo, el Plan España Digital 2025 incluye entre sus objetivos la reducción de la brecha digital de género y la promoción de competencias digitales entre las mujeres. Asimismo, la Estrategia Nacional de IA establece la necesidad de incluir la perspectiva de género en el diseño y la implementación de los sistemas de IA, y de garantizar que estos sistemas sean inclusivos y no discriminatorios.
Por último, apuntar algunas propuestas para lograr este objetivo podrían ser: (i) Utilizar datos de entrenamiento diversos e inclusivos (ii) Desarrollar algoritmos transparentes y explicables, (iii) Incorporar la perspectiva de género en el diseño de la IA (iv) Formar a los operadores jurídicos en el uso de la IA con perspectiva de género: Es crucial que los jueces, fiscales y otros operadores jurídicos reciban formación sobre cómo utilizar la IA de manera responsable y con perspectiva de género
Es necesario un esfuerzo continuo de investigación y colaboración entre expertos en género, desarrolladores de IA y operadores jurídicos para asegurar que la IA se utilice de manera efectiva para promover la igualdad de género en la justicia. La IA no es una solución mágica, pero con un enfoque responsable y ético, puede ser una herramienta valiosa para construir una sociedad más justa e igualitaria.
¿Quieres participar en Mujeres por Derecho? Apuntate aquí
