09 de Diciembre de 2019 | 03:25
LEGAL TODAY. POR Y PARA ABOGADOS
 

Herramientas para el texto

Nuevas Tecnologías

10 de Enero de 2019

El Consejo de Europa adopta la primera Carta Ética Europea sobre el uso de inteligencia artificial en los sistemas judiciales

  • Para el CEPEJ, es esencial asegurar que AI siga siendo una herramienta al servicio del interés general
  • El cumplimiento de estos principios debe garantizarse en el procesamiento de las decisiones judiciales

Según acaba de informar recientemente el Consejo de Europa, La Comisión Europea para la Eficiencia de la Justicia (CEPEJ) adoptó el primer texto europeo que establece principios éticos relacionados con el uso de inteligencia artificial (AI) en los sistemas judiciales.

Fernando Biurrun Abad,
Abogado.
Fundador de Law&Trends
Consultor de Social Media @fbiurrun


La Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno es el primer instrumento europeo que establece cinco principios sustanciales y metodológicos que se aplican al procesamiento automatizado de decisiones y datos judiciales, basados ​​en técnicas de inteligencia artificial y que pueden guiar a los legisladores, legisladores y profesionales de la justicia cuando se enfrentan al rápido desarrollo de la inteligencia artificial en los procesos judiciales nacionales. 

Desarrollado por la Comisión Europea para la Eficiencia de la Justicia (CEPEJ) del Consejo de Europa, está dirigido a empresas privadas (empresas de nueva creación que operan en el mercado de nuevas tecnologías aplicadas a servicios legales-legaltechs), actores públicos a cargo del diseño y despliegue. Herramientas y servicios de inteligencia artificial en este campo, tomadores de decisiones públicos a cargo del marco legislativo o normativo, y el desarrollo, auditoría o uso de dichas herramientas y servicios, así como profesionales legales.

La opinión del CEPEJ, según lo establecido en la Carta, es que la aplicación de Inteligencia Artificial (AI) en el campo de la justicia puede contribuir a mejorar la eficiencia y la calidad y debe implementarse de manera responsable que cumpla con los derechos fundamentales garantizados, en particular, en la Convención Europea sobre Derechos humanos (CEDH) y el Convenio del Consejo de Europa sobre la protección de datos personales. Para el CEPEJ, es esencial asegurar que AI siga siendo una herramienta al servicio del interés general y que su uso respete los derechos individuales.

El CEPEJ ha identificado los siguientes principios fundamentales que deben respetarse en el campo de la AI y la justicia:

Respeto a los derechos humanos

Entre estos principios, el respeto a los derechos humanos y la no discriminación es de importancia fundamental. El objetivo es garantizar, desde la concepción hasta la aplicación práctica, que las soluciones garanticen el respeto de los derechos garantizados por el Convenio Europeo de Derechos Humanos y el Convenio núm. 108 del Consejo de Europa. El principio de no discriminación se expresa expresamente debido a la capacidad de ciertos procesos, operaciones, en particular en asuntos penales, para revelar la discriminación existente al agregar o clasificar datos relacionados con personas o grupos de personas. Por lo tanto, los actores públicos y privados deben garantizar que estas aplicaciones no reproduzcan o agraven esta discriminación y no conduzcan a análisis o prácticas deterministas.

Principio de calidad y seguridad

También se tienen en cuenta algunos desafíos cualitativos relacionados con la metodología de análisis y el procesamiento automatizado de las decisiones judiciales. Se establece claramente un principio de calidad y seguridad: debe ser posible procesar los datos mediante el aprendizaje automático sobre la base de originales certificados y la integridad de estos datos debe garantizarse en todas las etapas del procesamiento. Se recomienda encarecidamente la creación de equipos multidisciplinarios, compuestos por jueces, investigadores en ciencias sociales e informática, tanto en la fase de redacción como de dirección y en la aplicación de las soluciones propuestas.

Principio de transparencia 

El principio de transparencia de las metodologías y técnicas utilizadas en el procesamiento de las decisiones judiciales también es de gran importancia. El énfasis aquí está en la accesibilidad y comprensión de las técnicas de procesamiento de datos, así como en la posibilidad de que las autoridades o expertos independientes realicen auditorías externas. También se fomenta un sistema de certificación, que se renovará periódicamente.

Principio ‘bajo el control del usuario'

Además, se incluye el principio bajo el control del usuario, con él se subraya la necesidad de convertir al usuario en un agente activo y de sentirse a cargo de sus elecciones. En particular, el juez debe poder volver en cualquier momento a las decisiones judiciales y los datos que se han utilizado para producir un resultado y seguir teniendo la posibilidad de apartarse de él, teniendo en cuenta las especificidades del caso en cuestión. Cada usuario debe ser informado, en un lenguaje claro y comprensible, de la naturaleza vinculante o no vinculante de las soluciones propuestas por los instrumentos de AI, las diversas opciones posibles y su derecho a la asesoría legal y al recurso ante un tribunal

Para el CEPEJ, el cumplimiento de estos principios debe garantizarse en el procesamiento de las decisiones judiciales y los datos mediante algoritmos y en el uso que se haga de ellos.

La Carta del CEPEJ se acompaña de un estudio en profundidad sobre el uso de AI en los sistemas judiciales, en particular las solicitudes de AI que procesan decisiones y datos judiciales.

El CEPEJ reúne a expertos de los 47 estados miembros del Consejo de Europa con el objetivo de mejorar la calidad y la eficiencia de los sistemas judiciales europeos y fortalecer la confianza de los usuarios de los tribunales en tales sistemas.

Si quieres disponer de toda la información y la opinión jurídica para estar al día, no pierdas
de vista a Actualidad Jurídica Aranzadi

  • Comparte esta noticia en linkedin

Te recomendamos

  • ARANZADI FUSION

    Aranzadi Fusión

    Aranzadi Fusión es el primer y único ecosistema legal con todo lo que necesitas para la transformación digital y gestión integral de tu despacho, combinando tecnología e información inteligente. Todo ello en la nube y con la mayor seguridad para ayudarte a cumplir con la nueva normativa RGPD en base a estos tres niveles: legal, técnico y organizativo.

Artículos relacionados

 
 

Hemos actualizado nuestra Política de Privacidad. Antes de continuar por favor lea nuestra nueva Declaración de Privacidad. Además utilizamos cookies propias y de terceros para mejorar nuestros servicios y poder ofrecerle las mejores opciones mediante el análisis de la navegación. Si continúa navegando, consideramos que acepta su uso. Para más información pulse aquí.   Aceptar