Las Jornadas Internacionales: Desafíos jurídicos de la IA continuaron en el día de ayer con su segunda sesión, donde varios expertos y profesionales analizaron el avance de las herramientas digitales en el mundo jurídico. Este evento está organizado en colaboración con la Fundación para la Magistratura y respaldado por Aranzadi LA LEY como medio oficial.
En la primera mesa redonda, que dirigió Guillermo Hidalgo Viedma, abogado senior associate y director Área de Datos y seguridad en Cremades & Calvo Sotelo, intervinieron: María José Rivas Velasco, magistrada de la Audiencia Provincial de Almería; Guillermo Orozco Pardo, catedrático de Derecho Civil de la Universidad de Granada; y Ramón Herrera de las Heras, secretario General de Universidades.
María José Rivas enfocó su intervención en los principios éticos que han de aplicarse al desarrollo, implementación y uso de los sistemas de IA (beneficencia, no maleficencia, equidad y explicabilidad) y la evaluación de su impacto en los derechos fundamentales, afirmando que “la fiabilidad de la inteligencia artificial depende del respeto que tenga la tecnología por los derechos fundamentales”. Identificó los que debían de ser preservados y los instrumentos que el Reglamento UE de IA, utiliza para evitar daños.
Por su parte, Guillermo Orozco señaló la necesidad de crear un régimen jurídico propio que legisle sobre los problemas que se plantean respecto a la responsabilidad civil en el ámbito de la IA. En esta dirección, el catedrático cuestionó la imputación de aquélla: “si la IA se trata de un producto, por lo que no puede ser sujeto imputable ni responsable, y toma decisiones, ¿quién responde de su mala actuación?”
A continuación, Ramón Herrera, abordó el Reglamento de Inteligencia Artificial exponiendo las principales novedades que ha introducido, entre las que destacó la ampliación de las prohibiciones en el uso de la IA y el establecimiento de nuevas exenciones. De esta manera, el ponente matizó que “es necesario una valoración del impacto de la IA para la correcta aplicación del Reglamento”.
Transformación digital en la Administración de la Justicia
La segunda mesa se centró en la transformación digital de la Justicia. Moderada por Juan Ángel Moreno García, magistrado y director General de la Fundación para la Magistratura, contó con la intervención de tres prestigiosos profesionales: Iñaki Vicuña, letrado mayor emérito del CGPJ; Javier Hernández Díez, subdirector General de Transformación Digital de la Administración de la Justicia; Gabriel López Serrano, director de Asuntos Regulatorios de Microsoft Ibérica.
Iñaki Vicuña abrió el debate manifestando la necesidad tanto de una autoridad de control que garantice el cumplimiento del derecho en el uso de la IA, como de una formación profunda por parte de los jueces para saber las líneas de actuación en materia de la IA
Por su parte, Javier Hernández expuso los beneficios que aportan el uso de sistemas de inteligencia artificial en la administración de la justicia y, afirmó que “la automatización y la inteligencia artificial reducen el tiempo necesario para realizar tareas que hoy son imposible para los humanos”.
Para concluir, Gabriel López destacó que el 75% trabajadores usan IA generativa sin el conocimiento de las instituciones con las que están trabajando, y recalcó que “se requiere de una educación y un conocimiento profundo sobre el funcionamiento de la IA porque si no somos capaces de observar que ya la estamos usando vamos a ser parte del producto, si la usamos con conocimiento la vamos a poder usar de forma correcta”.
Gobernanza, compliance y accountability en IA
En la última mesa, moderada por Natalia Díaz Rodríguez, profesora Titular del Departamento de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Granada, intervinieron: Ricard Martínez Martínez, profesor de Derecho Constitucional de la Universidad de Valencia; Alberto Pena Fernández, jefe de Unidad de ECAT; Adrián González Sánchez, Cloud, Data & IA Specialist en Microsoft; Félix Sobrino Martínez, director de Corporación y Gobernanza e Iberdrola.
En esta mesa hubo consenso en recalcar la necesidad del alfabetismo de la IA y de la búsqueda de un uso de los sistemas de inteligencia artificial basados en principios de igualdad y de no discriminación. En especial, se deparó en la importancia de usar sistemas de IA que se basen en algoritmos transparentes.
En la imagen: ponentes de la mesa Gobernanza, compliance y accountability en IA.
