Todos sabemos que las grandes compañías tecnológicas hacen uso de los algoritmos para traducir las cuestiones del mundo real de forma que puedan ser comprendidas por una máquina. Sin embargo, desconocemos generalmente que la Administración Pública emplea este tipo de operaciones sistemáticas para detectar, entre otras cosas, el riesgo de reincidencia de un preso.
En el año 2009, el Departamento de Justicia de Cataluña puso en marcha el protocolo RisCanvi que puede decidir sobre la libertad de un reo. Aunque desde la Generalitat defienden que el algoritmo se limita a orientar el dictamen humano, la herramienta presenta una influencia considerable frente al criterio de los profesionales. A lo largo de estos años, RisCanvi no ha estado exento de polémica ya que los abogados denuncian con frecuencia el perjuicio que sufren sus clientes. Asimismo, cabe mencionar que el magistrado de la Audiencia Provincial de Girona, Daniel Verona, ha llegado a afirmar que el algoritmo se utiliza para denegar permisos de forma habitual.
Cataluña, a diferencia de Reino Unido y Estados Unidos que adquirieron el sistema por parte de una empresa privada, apostó por desarrollarlo a través de sus propias instituciones públicas. El Grupo de Estudios Avanzados en Violencia de la Universidad de Barcelona, en colaboración con los servicios penitenciarios, llevó a cabo este proyecto que pondera simultáneamente hasta 43 elementos de riesgo divididos en factores personales, sociales, penales y penitenciarios.
En los 13 años que lleva en vigor este método, se han efectuado en torno a 90.000 riscanvis a los casi 38.000 internos evaluados que son sometidos a examen no solo al ingresar en prisión, sino cada seis meses. Atendiendo a las cifras que arroja el único informe público emitido por el Govern, pese a ofrecer un 77 % de acierto en reos que presentaban riesgo alto o moderado de reincidencia o un 4,6 % de falsos negativos clasificados con riesgo bajo y que reincidieron, puede observarse hasta un 82 % de falsos positivos que no reiteraron en conductas delictivas a pesar de haber sido clasificados como potencialmente propensos a ello.
Además, los letrados critican que tanto fiscales como jueces anteponen las resoluciones de un algoritmo sin sentimientos frente a las decisiones de expertos que trabajan cada día con los reos. Como consecuencia, denuncian la indefensión a la que se ven sometidos al no saber qué alegar ante la toma de decisiones del sistema cuyo algoritmo decide en base a meras estadísticas y no tanto según el caso particular de la persona en cuestión.
Un equipo multidisciplinar perteneciente a la junta de tratamiento de la prisión, compuesta por psicólogos, juristas y trabajadores sociales, se responsabiliza de efectuar la pertinente evaluación del informe con el que se nutre el algoritmo. Si bien es cierto que el resultado debe ser valorado por dicho equipo, las estadísticas confirman que tan solo se ha contradicho la decisión de la máquina un 3,2% de las veces.
Pese a que en un principio el programa se orientó para detectar únicamente el riesgo de reincidencia, ha podido constatarse que también ayuda a predecir otras cuestiones importantes como el suicidio o las autolesiones. Asimismo, RisCanvi juega un importante papel a la hora de determinar la situación de los sucesos más complejos de sociopatía ya que en dichos casos, debe primar la objetividad frente a la percepción de los miembros de la junta de tratamiento. Conviene tener en cuenta que las acciones llevadas a cabo en la cárcel no constituyen una ciencia exacta y que el día a día de los reos no se asemeja a lo que vivirán cuando obtengan la libertad.
Es evidente que la Inteligencia Artificial de RisCanvi resulta de gran ayuda y contribuye a la optimización de procesos. Sin embargo, la falta de transparencia y dificultad de someterlo a auditoría imposibilita comprobar su funcionamiento o existencia de sesgos que discriminen a un colectivo determinado. Aunque en Cataluña no hay indicios de que se haya producido tal vulneración de derechos fundamentales, existen evidencias secundadas por el Massachusetts Institute of Technology (MIT) de que otros algoritmos homólogos como Compas, discriminan, por ejemplo, a los negros.
Finalmente, tras analizar el impacto de RisCanvi en la situación de los reos, es evidente que existe una significativa división de opiniones entre los profesionales. Por un lado se encuentran los partidarios del sistema por la solidez que proporcionan sus resoluciones, y por otro, aquellos críticos con el programa que demandan transparencia en el funcionamiento del algoritmo. Todo apunta a que continuará abierto el debate acerca de si preferimos que haya cien culpables en la calle antes que un inocente en prisión o si consideramos que es mejor que haya cien inocentes en la cárcel a costa de evitar que haya un culpable suelto en la calle.
