- “El reto está en encontrar el equilibrio entre cumplir con la trazabilidad exigida por el reglamento y mantener la confidencialidad inherente al trabajo jurídico”
En un contexto donde la Inteligencia Artificial (IA) está transformando el ámbito jurídico, el Reglamento Europeo de Inteligencia Artificial (RIA) surge como una normativa crucial que marca el camino para el desarrollo y uso responsable de sistemas de IA en la Unión Europea. José Medina, Director de Tecnología de Aranzadi LA LEY y Lamy Liaisons (Grupo Karnov), ofrece una mirada profunda sobre cómo esta regulación impacta en el sector legal y de qué forma las soluciones tecnológicas, como las ofrecidas por Aranzadi LA LEY, están ayudando a los despachos de abogados a adaptarse al cumplimiento del RIA.
Mientras los profesionales jurídicos se enfrentan al desafío de integrar IA en sus prácticas, José Medina subraya la importancia de contar con herramientas que no solo optimicen procesos, sino que también aseguren la conformidad regulatoria. Estas herramientas están diseñadas para fortalecer la transparencia, mejorar la formación y capacitación en IA, y garantizar la calidad y seguridad en la aplicación de la tecnología. En esta entrevista José Medina nos invita a explorar cómo el sector legal se está preparando para el futuro bajo un marco regulatorio que busca proteger derechos fundamentales y promover el uso responsable de la inteligencia artificial.
¿Cuáles son los principales desafíos que enfrenta el sector jurídico para cumplir con los requisitos del RIA?
El reglamento plantea retos específicos para el sector jurídico, ya que el uso de IA en este ámbito suele implicar decisiones sensibles, manejo de datos personales y potencial impacto en derechos de los clientes del despacho. Desde los departamentos tecnológicos hay que atender a requerimientos complicados ya que algunos de los sistemas pueden categorizados en riesgo alto. Debido a la sensibilidad de la información que maneja el sector. La protección y confidencialidad del dato es crítico, lo que obligaría a anonimizar la información antes de ser tratada por sistemas AI.
La trazabilidad es otro desafío importante a la hora de explicar o interpretar algoritmos que, en muchas ocasiones, vienen provistos por operadores terceros como Gemini, OpenAi, etc., que no dan visibilidad completa sobre los datos o algoritmos usados.
Otros retos, quizá menos técnicos, están relacionados con los sistemas utilizados para evitar sesgos o tener el control de la gobernanza de la AI, las políticas de uso interno y el seguimiento de su cumplimiento.
Y, por último, la gestión de los costes, que supone un importante reto a la hora de hacer previsiones económicas del TCO.
¿Cómo pueden los profesionales jurídicos asegurarse de que están siguiendo las obligaciones de verificación de datos de entrada en sistemas de IA de alto riesgo y qué desafíos enfrentan en la conservación de registros y documentación técnica?
El cumplimiento de las obligaciones de verificación de datos de entrada en sistemas de IA de alto riesgo es un aspecto muy importante del Reglamento.
Desde un punto de vista técnico y de procedimiento, podríamos organizarlo en tres líneas de trabajo:
- Primero, procedimientos claros de validación y limpieza de datos, incluyendo revisiones humanas cuando el origen de la información no sea plenamente verificable.
- Segundo, implementar una trazabilidad completa del ciclo de vida de los datos, dejando registro de su origen, las transformaciones aplicadas y los criterios de selección.
- Y tercero, garantizar que exista un proceso de revisión continua, ya que los sistemas de IA aprenden y evolucionan, y los datos deben mantenerse actualizados y sin sesgos.
En cuanto a la conservación de registros y documentación técnica, el RIA exige documentación exhaustiva de los modelos, datasets, decisiones y versiones de los sistemas, algo que muchas organizaciones del sector legal aún no tienen integrado en su operativa o les es complicado de definir en términos prácticos y por supuesto también en cumplimiento del GDPR. En mi opinión, el reto está en encontrar el equilibrio entre cumplir con la trazabilidad exigida por el reglamento y mantener la confidencialidad inherente al trabajo jurídico.
¿Qué servicios de inteligencia artificial pueden implementar los despachos de abogados para optimizar sus procesos internos en conformidad con el RIA?
Los despachos pueden implementar algunos sistemas como herramientas de automatización documental, extracción automática de información en contratos y otros documentos, y asistentes basados en modelos de lenguaje, pero que no tomen decisiones, sino que apoyen la redacción o el análisis jurídico. También existen herramientas de gestión administrativa, como la clasificación automatizada de correos, priorización de tareas, o detección de conflictos de interés, siempre asegurando la trazabilidad y el control humano.
¿Qué diferencia a Aranzadi LA LEY respecto a otras organizaciones en el desarrollo de IA, especialmente para el cumplimiento del RIA?
Creo que lo que realmente diferencia a Aranzadi LA LEY frente a otras alternativas es que nuestro enfoque hacia la inteligencia artificial no es solamente tecnológico, sino jurídico y ético.
Desarrollamos todas nuestras soluciones, incluyendo aquellas que utilizan IA con un principio de ‘compliance by design’, es decir, la conformidad con el Reglamento de Inteligencia Artificial y con el RGPD se integra desde la fase de diseño del producto. Contamos con una ventaja competitiva muy clara: nuestra profunda experiencia en contenido jurídico estructurado y de alta calidad.
¿De qué manera la seguridad tecnológica de Aranzadi LA LEY protege por medio de sus soluciones a los despachos jurídicos en el uso de IA conforme a la nueva normativa europea?
La seguridad tecnológica es uno de los pilares sobre los que Aranzadi LA LEY construye todas sus soluciones, y en el contexto del Reglamento Europeo de IA esto cobra aún más relevancia.
Todas nuestras soluciones cuentan con sistemas avanzados de gestión de identidades, cifrado y encriptación del dato, segmentación de entornos, etc., de modo que los datos de los clientes nunca se mezclan ni se exponen en procesos de entrenamiento de modelos.
Implementamos mecanismos de auditoría y registro continuo, lo que permite a los despachos demostrar cumplimiento con los requisitos de documentación y trazabilidad exigidos por el RIA.
¿Qué beneficios tiene el uso de los contenidos especializados de Aranzadi LA LEY en el cumplimiento de las disposiciones de IA del RIA?
El principal beneficio de utilizar los contenidos especializados de Aranzadi LA LEY en el contexto de la IA es que garantizan calidad, fiabilidad de la información jurídica que alimenta los sistemas de inteligencia artificial y por ende de los resultados que esta produce.
Nuestros contenidos no solo alimentan la inteligencia artificial, sino que la dotan de seguridad jurídica, contexto experto y responsabilidad, ayudando a que los despachos y organizaciones cumplan el RIA desde la base: el dato”.
Descubre cómo te ayuda la IA Jurídica K+ en la práctica del derecho
