La iniciativa de la Fundación Aranzadi LA LEY Mujeres por Derecho te ofrece con motivo del Día de la Mujer una selección de artículos de mujeres juristas con un eje común: el cumplimiento de la igualdad supone una forma de enriquecer y democratizar la sociedad. Desde su lanzamiento en abril de 2021 Mujeres por Derecho ha contado con la participación de más de 300 juristas, lo que le convierte en el foro de referencia para el debate sobre el pasado, presente y futuro del papel de las mujeres en la profesión jurídica.
La semana pasada se celebraba en la Universidad Complutense de Madrid un congreso titulado “Desafíos pendientes en la digitalización de los mercados financieros” en el marco de un proyecto de investigación que dirijo titulado “La digitalización de los mercados financieros (Análisis jurídico)”. En el marco del mismo tuvimos la oportunidad de reflexionar sobre el impacto transformador que están teniendo las nuevas tecnologías y su fuerza transformadora en los mercados financieros. Muchas de las reflexiones se centraron en la inteligencia artificial y muchas, aunque focalizadas en el ámbito del derecho privado, si elevamos un poco la mirada, son susceptibles de ser trasladadas al sector público. Porque, en efecto, la inteligencia artificial constituye una oportunidad para todos para mejorar la eficiencia y el proceso de toma de decisiones. Tanto en el ámbito público como en el privado la introducción de una tecnología disruptiva como la inteligencia artificial genera en primer lugar, resistencias y plantea, a su vez, desafíos y, por qué no decirlo, preocupaciones. Pero es evidente que también ofrece oportunidades.
El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024, define el sistema de IA como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales” (art.3.1 LEIA). La IA utiliza algoritmos preprogramados que, incluso, en su estado avanzado, pueden aprender solos, y permiten alcanzar resultados, soluciones y conclusiones. Pero ello presenta diversos riesgos de los que debemos ser conscientes. En primer lugar, la propia gestión de los datos y las políticas de entrenamiento de la IA con datos especialmente sensibles exige la implementación de una adecuada política de protección de datos y de respeto a la privacidad y, por qué no decirlo, cuestiones éticas. En segundo lugar, cada sistema de IA es diferente por ello es fundamental conocer cómo se entrena la solución que con carácter específico utilice cada organización.
Partiendo de esto, es evidente que la IA está llamada a intervenir e incidir en todos los sectores de la actividad, en todas las instituciones u organizaciones, públicas y privadas, pero también, a no mucho tardar, cabe esperar que entre de lleno en la toma de decisiones. El primer desafío que ello plantea es que los órganos decisorios deben asegurarse de la calidad de los datos y de su adecuado procesamiento. Porque no todos los sistemas de inteligencia artificial tienen la misma calidad.
A día de hoy no concibo que la inteligencia artificial vaya a sustituir a un órgano de decisión o que vaya a constituir el único elemento sobre el cual las organizaciones adopten sus decisiones. Sin embargo, éstas pueden e incluso en ocasiones deben apoyarse en estas soluciones con vistas a adoptar decisiones informadas, documentadas y objetivas que es, en última instancia, lo que se exige de cualquier miembro de un órgano de decisión. En efecto, lo que se requiere de éstos es que adopten sus decisiones debidamente informados y la información puede fundamentarse en datos (de ahí que haya señalado antes la necesidad de que los datos sean de calidad y de que se conozca la solución de IA que se utiliza).
Desde esta perspectiva, es evidente que el recurso a soluciones de IA por parte de los consejos de administración, de plenos o cualquier otra forma de organización que la institución adopte, constituye una herramienta útil, pero nunca (a día de hoy) deberá ser la única. ¿Cuándo puede ser conveniente el recurso a un sistema de IA para la adopción de una decisión? Lo primero que hay que poner sobre la mesa es que no siempre será necesario o, en todo caso, no lo será para todo. Los sistemas de IA pueden ser adecuados cuando la decisión a adoptar sea especialmente complicada ya sea por el elevado volumen de datos manejados o porque éstos sean especialmente complejos. Cabe esperar recurriendo a los sistemas de IA decisiones bien respaldadas, con fundamento. Por otro lado, un modelo predictivo basado en IA puede ayudar a la hora de tomar decisiones predictivas. De la misma manera, los modelos analíticos pueden permitir evaluar el impacto de las políticas propuestas. Y, last but not least, el recurso a sistemas de IA puede favorecer los consensos en el seno de un órgano decisorio.
La otra cara de la moneda la encontramos, sin embargo, en la asignación de responsabilidades en los supuestos en los que se acaben adoptando decisiones equivocadas o que tengas sesgos algorítmicos. Las decisiones a día de hoy no las adoptan sistemas de IA sino personas sobre la base de la información que éstos suministran que pueden resultar perjudiciales o, simplemente, incorrectas. A falta de un nuevo régimen legal, la responsabilidad deberá recaer sobre el órgano decisorio, el órgano competente en la adopción de la decisión de ahí que hayamos resaltado la necesidad de que las organizaciones conozcan y se aseguren de contar con un buen sistema de IA. En todo caso, insistimos en la idea que una decisión no debe basarse única y exclusivamente en la IA sino de forma combinada con otras informaciones más tradicionales. Es instrumento que a día de hoy debe ayudar y no sustituir y que plantea enormes desafíos jurídicos, éticos y de privacidad pero también exige la adaptación de las estructuras organizativas a este nuevo reto y la formación del personal, una formación no solo en las nuevas tecnologías sino en una dimensión más amplia, más humanista. A estos desafíos deben hacer frente todas las organizaciones.
¿Quieres participar en Mujeres por Derecho? Apúntate aquí
