La Inteligencia Artificial presenta un alto potencial para el aumento de la productividad, la automatización de tareas rutinarias o el desarrollo de la innovación. Sin embargo, su implementación en el sector público se presenta como un enorme desafío. El Club de los Miércoles, organizado por Aranzadi, ofreció ayer respuesta a muchas de las numerosas dudas que están surgiendo en materias como su diseño, desarrollo y aplicaciones prácticas, o su capacidad para mejorar la eficiencia en el funcionamiento de los servicios públicos.
En el encuentro, moderado por Cristina Retana, directora de Contenidos e Innovación de Aranzadi LA LEY, intervinieron Javier Plaza, catedrático de Derecho Civil de la Universidad de Valencia, y Gabriele Vestri, director del Observatorio Sector Público e Inteligencia Artificial de la Universidad de Cádiz.
Los tres expertos coincidieron tanto en destacar el potencial de esta tecnología como en la necesidad de tener en cuenta sus limitaciones ya que, de lo contrario, se podrían ver comprometidos determinados derechos fundamentales, como el de los ciudadanos a no ser objeto de una decisión basada únicamente en un tratamiento automatizado.
Cristina Retana: “La IA no está exenta de riesgos en el ámbito jurídico”
Cristina Retana recordó que la Inteligencia Artificial y en concreto la generativa, “es un tema de candente actualidad” y, aunque ya existía, “el gran cambio de paradigma comenzó hace un año con el nacimiento de ChatGPT”. Explicó que “estamos ante una tecnología pre entrenada”, sobre “un modelo de lenguaje extenso muy avanzado que responde a las consultas que se le plantean con una apariencia humana”. Advirtió que en el ámbito jurídico “no está exenta de riesgos” ya que esta tecnología “no está entendiendo el significado de lo que muestra como respuesta”. Reconoció no obstante que estos sistemas “aportan mucho valor, pero requieren supervisión bajo un entorno securizado”. Este es precisamente “el camino que estamos siguiendo en Aranzadi LA LEY”, “que nos va a permitir desarrollar nuevas herramientas que faciliten el trabajo de nuestros clientes”. Todo ello en línea con el marco normativo, del que destacó el reciente acuerdo para dar luz verde al Reglamento UE, la AI Act (aún pendiente de ratificación por el Parlamento Europeo y el Consejo de la UE), que cuenta entre sus principales objetivos “minimizar riesgos, pero también dar mucha transparencia sobre las fuentes de las que se nutre esta tecnología para ofrecer respuestas”.
Javier Plaza: “¿Cuándo deja de ser un programa para convertirse en inteligencia?”
Por su parte, Javier Plaza explicó que la IA “no es sino un desarrollo natural del software y de Internet; no deja de ser un programa de ordenador sofisticado que se caracteriza por no dejarnos diferenciar si la respuesta la ha dado una persona o una máquina”. La gran cuestión es ¿cuándo deja de ser un programa para convertirse en inteligencia? A esta pregunta respondió que “estamos en el Pleistoceno de la IA y esto es muy importante que lo sepa quien vaya a contratar un sistema. ¿Alguien en su cabal juicio presentaría una demanda utilizando ChatGPT? Sería una tremenda irresponsabilidad, como le ocurrió a un abogado en EE. UU. o a un juez en Brasil”.
En su aplicación en el ámbito jurídico afirmó que lo más importante es la fuente de información de la que se nutre para ofrecer respuestas y en concreto las bases de datos, entre las que destacó la de Aranzadi LA LEY. Apuntó no obstante que, en última instancia, es el profesional quien debe tomar la decisión, no la herramienta. “Lo mismo ocurre con el funcionario que utiliza la IA para tomar una decisión administrativa ya que los derechos fundamentales prevalecen sobre la tecnología”. Adelantó en exclusiva el sentido del fallo de la STJUE de 7 diciembre (Asunto C- 634/21), que “dictamina que una decisión sin intervención humana es contraria al art. 22 del Reglamento de Protección de Datos”. Cabe recordar que el artículo 22, apartado 1, del RGPD presenta una particularidad en comparación con las demás restricciones del tratamiento de datos contenidas en dicho Reglamento, en la medida en que consagra un «derecho» del interesado a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles. “Es un tema muy complejo, por lo que debemos tener en cuenta sus limitaciones”. Lo contrario “es una grave irresponsabilidad y contraria a los derechos fundamentales. Los derechos fundamentales tienen que prevalecen sobre la tecnología”, concluyó.
Javier Plaza destacó también “las dificultades y la complejidad en diseñar el alcance de la contratación pública de sistemas de inteligencia artificial, en cuanto a la titularidad del mismo y la de sus resultados”.
Gabriele Vestri: “No hay que confundir la IA con la automatización de procesos”
Por último, Gabriele Vestri hizo especial hincapié en las características prácticas que tiene la IA generativa en el sector público, que “es muy peculiar, por lo que hay que adaptar esta tecnología a sus exigencias”. Añadió que no todo lo que se implementa en las distintas administraciones es IA: “no hay que confundirlo con la automatización de los procesos de la actividad administrativa. Hay herramientas que se están vendiendo como IA en el sector público, pero que en realidad no lo son”. Y ya han surgido algunos problemas, como el sistema BOSCO, que se demostró que tenía fallos y denegaba el bono social a personas que tenían derecho recibirlo. Otro ejemplo es el Sistema de Seguimiento Integral en los casos de Violencia de Género (VioGén), “que en una ocasión dio un resultado de no proteger a una mujer que luego fue asesinada por su exmarido”.
También pidió ser estrictos con el lenguaje. “Hay dos palabras que usamos a diario como sinónimos cuando no lo son”. La primera es algoritmo, “que no tiene nada que ver con el código fuente. El algoritmo solo es un listado de reglas que necesitan de algo más para que se puedan utilizar y ese algo más es el código fuente, es decir la ejecución de las reglas del algoritmo”.
Destacó la necesidad de analizar la capacidad real de estos sistemas de IA: “Lo que no podemos hacer es pedir a la IA lo que no nos puede dar y que además está prohibido por la normativa en materia de protección de datos, pero si se utiliza en el marco de los parámetros legislativos, es de una gran utilidad”.
Además, la ciudadanía “tiene el reto de reclamar los derechos que pueden ser vulnerados por la IA”. Otro gran reto es “superar el deficiente conocimiento que, sobre todo las entidades locales, tienen sobre la Inteligencia Artificial. No descartó que, “al igual que existe la figura del delegado de protección de datos, en el futuro se cree la del delegado de protección algorítmica para acompañar a las administraciones en este proceso y velar por los derechos de los ciudadanos”.
Por último y sobre el impacto de esta nueva tecnología en el empleo público, afirmó que “a un trabajador no le podrá sustituir un algoritmo, pero probablemente sí sea sustituido por la persona que sepa utilizar dicho algoritmo”.
