nº 1.011 - 31 de octubre de 2024
Tratado sobre el Reglamento Europeo de Inteligencia Artificial
Lorenzo Cotino Hueso. Catedrático de Derecho Constitucional de la Universitat de València. Valgrai. OdiseIA.
Pere Simón Castellano. Profesor Titular de Derecho Constitucional de la Universidad Internacional de la Rioja – UNIR. OdiseIA.
Este tratado se aleja del formato tradicional de comentarios artículo por artículo, optando por una estructura temática que facilita una visión sistemática global y profunda de los aspectos más relevantes del Reglamento europeo de Inteligencia Artificial
La obra aborda cada una de las cuestiones reguladas en el Reglamento de Inteligencia Artificial, que promete ser un catalizador para el desarrollo de una IA ética y segura, alineada con los valores y derechos democráticos europeos
El Reglamento Europeo de Inteligencia Artificial (RIA) es la primera legislación de su tipo en el mundo, diseñada para armonizar y regular el desarrollo, implementación y uso de la inteligencia artificial (IA) en la Unión Europea. Esta obra colectiva, Tratado sobre el Reglamento Europeo de Inteligencia Artificial (DÚO), dirigida por quienes firmamos esta reseña, los doctores Lorenzo Cotino Hueso y Pere Simón Castellano, constituye una referencia indispensable para comprender y aplicar este complejo marco normativo.
Desde la propuesta inicial de la Comisión Europea en 2021, el RIA ha pasado por un arduo proceso legislativo, culminando en un acuerdo político en diciembre de 2023 y su aprobación definitiva en mayo de 2024. Además de regular una serie de sistemas de IA que se consideran inaceptables y por tanto prohibidos, el nuevo marco normativo europeo establece una serie de obligaciones específicas basadas en un enfoque de riesgo, donde los sistemas de IA de alto riesgo reciben un tratamiento regulatorio más riguroso y habrán de cumplir con estándares técnicos reforzados y controles de conformidad adicionales. Aunque la legislación ha entrado en vigor en 2024, su aplicación será gradual, extendiéndose incluso hasta 2030 en algunas áreas clave.
Este tratado se aleja del formato tradicional de comentarios artículo por artículo, optando por una estructura temática que facilita una visión global y profunda de los aspectos más relevantes del RIA. Se han organizado los contenidos en ocho partes, abarcando desde la contextualización internacional de la normativa, hasta la regulación específica de los sistemas de IA de alto riesgo y las IA de uso general, así como las implicaciones para los proveedores e implementadores de estas tecnologías. La obra incluye a los mejores especialistas en España, así como nombres de prestigio internacional como Jacques Ziller, Alessandro Mantelero y Juan Gustavo Corvalán.
Su implementación traerá consigo cambios significativos
En cuanto al impacto previsto del RIA, no cabe duda de que su implementación traerá consigo cambios significativos tanto en el mercado tecnológico como en la sociedad europea. Desde la prohibición de determinadas tecnologías hasta la creación de organismos de supervisión como la Oficina de la IA, el Reglamento promete ser un catalizador para el desarrollo de una IA ética y segura, alineada con los valores y derechos democráticos europeos.
Uno de los temas más controvertidos objeto de regulación en el RIA es el reconocimiento biométrico, que es abordado en un capítulo que analiza las exenciones, prohibiciones y especialidades para los sistemas de alto riesgo en este campo. El Reglamento establece limitaciones estrictas para el uso de tecnologías de identificación biométrica remota en tiempo real en espacios públicos, salvo en situaciones excepcionales como la prevención de delitos graves. Esta regulación busca garantizar que el uso de estas tecnologías no comprometa los derechos fundamentales de los ciudadanos.
Otro aspecto clave es la prohibición de sistemas de IA que evalúan y clasifican a personas a partir de datos descontextualizados, lo que podría llevar a decisiones discriminatorias. La obra analiza cómo el RIA trata de evitar que las IA perpetúen o amplifiquen sesgos sociales al procesar datos personales fuera de contexto. En términos de ciberseguridad, se estudia en detalle las obligaciones que establece el RIA para garantizar la seguridad de los sistemas de IA de alto riesgo. Los sistemas deben ser diseñados para ser robustos, precisos y estar protegidos contra ciberataques, lo que representa un desafío adicional para los proveedores y desarrolladores de estas tecnologías.
El impacto previsto del RIA es enorme, especialmente en sectores como la sanidad y la administración pública, tal y como se expone en distintas partes de la. obra. El Reglamento establece requisitos específicos para garantizar que los sistemas de IA utilizados en estos ámbitos respeten tanto los derechos de los ciudadanos como las normas sectoriales.
La obra es el resultado de la colaboración de 34 autores, entre los cuales 30 son doctores y 29 profesores universitarios. A través de este trabajo, los directores han buscado proporcionar una herramienta útil y exhaustiva tanto para profesionales del Derecho como para académicos, ofreciendo una visión práctica y teórica que será clave para la correcta interpretación y aplicación del RIA.
Por todo ello, este tratado no solo ofrece una guía para entender los matices del Reglamento, sino que contribuye de manera significativa al debate sobre el futuro de la IA en Europa y su influencia en el panorama global. ■