nº 1.001 - 30 de noviembre de 2023
España creará el primer ‘sandbox’ de pruebas del futuro Reglamento Europeo de Inteligencia Artificial
El Boletín Oficial del Estado publicó en su edición del pasado 9 de noviembre el Real Decreto 817/2023, de 8 de noviembre, que establece un entorno controlado de pruebas (sandbox) para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de Inteligencia Artificial (IA).
Esta iniciativa de España se realiza en el entorno de la propuesta de la Comisión Europea de elaborar un Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial, con el objetivo de asegurar el respeto de los derechos fundamentales de la ciudadanía y generar confianza en el desarrollo y la utilización de la Inteligencia Artificial de manera holística en la economía y la sociedad. El citado Reglamento busca proveer a la Unión Europea de un marco normativo con el fin de promover una Inteligencia Artificial fiable, ética y robusta.
La norma se dicta de conformidad con la habilitación prevista en el artículo 16 de la Ley 28/2022, de 21 de diciembre, de Fomento del Ecosistema de las Empresas Emergentes, donde se contempla la creación de entornos controlados, por períodos limitados de tiempo, para evaluar la utilidad, la viabilidad y el impacto de innovaciones tecnológicas aplicadas a actividades reguladas, a la oferta o provisión de nuevos bienes o servicios, a nuevas formas de provisión o prestación de los mismos o a fórmulas alternativas para su supervisión y control por parte de las autoridades competentes.
En este contexto, el Gobierno de España, con la colaboración de la Comisión Europea, pone en marcha el primer entorno controlado de pruebas para comprobar la forma de implementar los requisitos aplicables a los sistemas de Inteligencia Artificial de alto riesgo de la propuesta de Reglamento europeo de Inteligencia Artificial con el ánimo de obtener, como resultado de esta experiencia, unas guías basadas en la evidencia y la experimentación que faciliten a las entidades, especialmente las pequeñas y medianas empresas, y a la sociedad en general, el alineamiento con la propuesta del citado Reglamento Europeo de Inteligencia Artificial.
Esta iniciativa forma parte además de la estrategia española de transformación digital, denominada Agenda España Digital 2026, que se enmarca en el Plan de Recuperación y, en particular, en la Estrategia Nacional de Inteligencia Artificial. En particular, se inserta en el eje 6 dentro de la Estrategia Nacional de Inteligencia Artificial (ENIA), que en el marco del Plan de Recuperación, Transformación y Resiliencia corresponde al Componente 16.
Estructura del Real Decreto
El Real Decreto se estructura en un título preliminar y dos títulos y siete anexos.
El título preliminar contiene las disposiciones generales, estableciendo su objeto y ámbito de aplicación, así como las definiciones de los conceptos principales a efectos de lo previsto en la norma.
El título I se estructura en seis capítulos a través de los cuales se concreta los requisitos para la elegibilidad y la participación en el entorno controlado de pruebas, para lo que se regula el régimen jurídico aplicable; la figura del proveedor de sistema de inteligencia artificial; los criterios de elegibilidad; el modo de participación y procedimiento de admisión; la forma en que se evaluarán las solicitudes; las particularidades y condiciones concretas para el desarrollo de esta experiencia, y las garantías de las entidades participantes; los canales de comunicación y la finalización de la experiencia en el entorno. Con objeto de habilitar la participación en el entorno controlado de pruebas, se celebrarán convocatorias concretas en las que los proveedores de sistemas de Inteligencia Artificial que cumplan las condiciones específicas de participación y de elegibilidad puedan presentar una solicitud. Posteriormente se evaluarán las solicitudes para asegurar la participación tanto de una amplia variedad de sistemas de Inteligencia Artificial de alto riesgo, de propósito general y modelos fundacionales como en cuanto a una gran diversidad de tipologías de entidades. Tras la resolución de admisión de los mismos, podrá iniciarse la experiencia.
El título II contiene una serie de disposiciones relativas a la colaboración y coordinación entre autoridades, personas asesoras expertas y otros organismos españoles y europeos. En sus disposiciones adicional primera y segunda se indican, respectivamente, los medios, así como los resultados esperados del entorno controlado de pruebas y en sus disposiciones finales primera y segunda se indican, respectivamente, el título competencial, así como su vigencia y entrada en vigor.
Objetivos del entorno de pruebas
El entorno de pruebas posibilita la cooperación entre los usuarios y los proveedores de Inteligencia Artificial. Además, pretende acercar a las autoridades competentes las empresas desarrolladoras de Inteligencia Artificial con el objetivo de:
– Proporcionar claridad sobre los requisitos que establecerá el futuro Reglamento de IA para los sistemas de IA.
– Facilitar la transferencia de conocimientos técnicos en materia de cumplimiento sobre la aplicación de la legislación en la materia.
– Fomentar la innovación y promover el desarrollo de nuevos sistemas confiables.
– Probar las obligaciones y requisitos en un entorno controlado y realizar posteriormente guías técnicas y la recopilación de la información necesaria para poder ofrecer unos resultados sobre todo el proyecto.
Podrán participar en esta experiencia cualquier entidad de derecho privado, administraciones públicas o entidades del sector público. Asimismo, se seleccionarán sistemas de IA que estén comercializados o en fase de pruebas para emplearse en el banco de pruebas. Cualquier entidad seleccionada para participar en este entorno ha de estar sujeta a la jurisdicción española, por lo que será obligatorio que se trate de entidades residentes en España o que tengan un establecimiento permanente en España. Para la selección de las entidades participantes en dicho entorno, se publicará una convocatoria especificando los detalles de interés y requisitos para participar en el mismo.
Directrices y guías de buenas prácticas
Mientras el ecosistema en su conjunto se prepara para la aprobación del Reglamento europeo de Inteligencia Artificial, se espera que este proyecto piloto liderado por España, y apoyado por la Comisión Europea, genere directrices de buenas prácticas y guías que preparen y sensibilicen a las empresas, especialmente a pymes y startups, para facilitar su puesta en marcha.
En este contexto, el primer entorno de pruebas de Inteligencia Artificial pretende definir las posibles vías para implementar los requisitos aplicables a los sistemas de Inteligencia Artificial, entre los que figuran:
1. Componentes de seguridad de productos regulados (por ejemplo, productos sanitarios, maquinaria) que están sujetos a evaluación por terceros en virtud de la legislación sectorial pertinente.
2. Determinados sistemas de IA (autónomos) en los siguientes ámbitos:
– Identificación biométrica y categorización de personas físicas.
– Gestión y explotación de infraestructuras críticas.
– Educación y formación profesional.
– Empleo y gestión de trabajadores, acceso al autoempleo.
– Acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas.
– Cumplimiento de la ley.
– Gestión de la migración, el asilo y el control de fronteras.
– Administración de justicia y procesos democráticos.
Está previsto que la iniciativa conduzca a la elaboración de un informe con buenas prácticas, lecciones aprendidas y guías técnicas de aplicación, basadas en las pruebas y la experimentación práctica. Estos entregables podrán ser utilizados posteriormente por la Comisión Europea para el desarrollo de las directrices de la Unión Europea y como aportación al proceso de normalización para el proceso de estandarización, facilitando el cumplimiento del futuro Reglamento de IA por parte de las empresas, especialmente las pequeñas y medianas.
Por último, el Real Decreto establece la creación de un comité asesor de expertos integrado por profesionales independientes de reconocido prestigio y experiencia técnica en campos afines del conocimiento. ■