El Club de los Miércoles, que organiza Aranzadi LA LEY, celebró ayer una nueva edición, en la que, bajo el título Ética y transparencia como principios de integración de la IA en el sector público, se debatió sobre el potencial transformador de la IA en la gestión pública. Dicho potencial dependerá de cómo sepamos gobernarla, con el objetivo de lograr una buena administración y consolidar la confianza ciudadana, siempre bajo los parámetros de unos criterios éticos, con transparencia y bajo la insustituible supervisión humana.
En el encuentro, que estuvo moderado por José Medina García, director de Tecnología de Aranzadi LA LEY y Lamy Liaisons (Grupo Karnov), intervinieron como ponentes: Vicente Bellver Capella, catedrático de Filosofía del Derecho de la Universitat de València y Guillermo M. Lago Núñez, secretario general del Ayuntamiento de Roquetas de Mar (Almería).
José Medina encuadró los temas de debate recordando que la IA ya forma parte de muchos servicios públicos, especialmente en la administración local, aunque el foco actual se haya desplazado hacia la IA generativa. En este contexto, planteó una cuestión clave: qué decisiones pueden delegarse en herramientas automatizadas y cuáles deben seguir siendo no delegables o requerir revisión humana, especialmente cuando una respuesta errónea pueda afectar a los derechos o intereses de la ciudadanía.
Transparencia y trazabilidad de lo generado con IA
Por su parte, Guillermo M. Lago Núñez explicó que, en la administración local, buena parte de lo que ya funciona son actuaciones administrativas automatizadas en procedimientos reglados (certificados, tasas o trámites de carpeta ciudadana). A su juicio, el avance exige marcos internos claros e identificar el sistema que genera cada documento. La trazabilidad y la transparencia son fundamentales para poder auditar el proceso y reducir riesgos, especialmente cuando se utilicen soluciones basadas en IA generativa.
Vicente Bellver defendió que la tecnología “no es una opción, sino una exigencia” de la propia condición humana, pero advirtió de que la ética no puede ser un elemento decorativo añadido al final, sino el punto de partida que debe informar del uso de estas herramientas en el sector público. En esa línea, subrayó la importancia de mantener al humano en el circuito, reforzar la educación y capacitación de los profesionales y orientar la IA a servicios que mejoren la vida cotidiana, apostando más por ciudades cuidadoras o sensibles que por una visión puramente “smart”.
Ética y responsabilidad en el uso de la IA
En el turno de preguntas, los participantes plantearon la cuestión de la responsabilidad ante posibles errores de sistemas de IA, coincidiendo los ponentes en que esta no puede delegarse en la tecnología y que resulta imprescindible mantener una supervisión humana real, con identificación clara de los sistemas utilizados y de las normativas bajo las que operan.
Asimismo, los participantes expresaron su preocupación por el riesgo de que el uso intensivo de la IA pueda derivar en una pérdida de conocimiento intelectual y de habilidades técnicas por parte de los profesionales. En este punto, se destacó la importancia de la formación y la educación continuas, para evitar una dependencia de la tecnología y garantizar que los empleados públicos conserven la capacidad de comprender, supervisar y, llegado el caso, sustituir a los sistemas automatizados.
El encuentro concluyó con un mensaje compartido entre los ponentes: la IA puede mejorar la prestación de servicios públicos, pero su adopción exige ética, transparencia, alfabetización y supervisión humana.
