nº 975 - 24 de junio de 2021
Propuestas sobre el uso de la inteligencia artificial
Pablo Tena. Abogado senior de Nuevas Tecnologías en Ramón y Cajal Abogados
La Comisión Europea propuso el pasado 21 de mayo nuevas normas y medidas destinadas «a convertir a Europa en el centro mundial de una inteligencia artificial digna de confianza»
Una vez aprobada la propuesta de Reglamento, será de aplicación directa a todos los estados miembros de la Unión Europea
Hace escasos días, conocíamos que el Atlético de Madrid está trabajando en la implantación de un sistema de reconocimiento facial que, a partir de la temporada que viene, permitirá acceder a los aficionados al Wanda Metropolitano. Así lo declaró Miguel Ángel Gil Marín, consejero delegado del club, que también anunció la implantación de otras medidas tecnológicas, como la lectura de carnés de abonado a distancia, el abandono de los pagos en metálico, 1.500 puntos de señal wifi dentro del estadio, etc.
Esta noticia causó cierto revuelo en medios y redes sociales llegando a ser criticada por aficionados y periodistas en diferentes medios. Si bien es cierto que existen ciertas incógnitas desde el punto de vista de protección de datos, por ejemplo, ¿cuál sería la base de legitimación para este tratamiento?, o ¿cómo mitigar los riesgos legales que se deriven de este tratamiento?, este tipo de tecnología está presente de manera diaria en nuestra vida.
Implementada en prácticamente todos los sectores
Mas allá todos estos riesgos y problemáticas legales, la realidad es que, si miramos nuestros dispositivos móviles, encontraremos multitud de aplicaciones que incorporan este tipo de tecnología, por ejemplo, el reconocimiento facial para desbloquear el teléfono móvil o entrar en ciertas aplicaciones, asistentes virtuales de voz (Siri, Google, Alexa), etc.
Tampoco es extraño encontrar este tipo de tecnología en el sector bancario, en el que encontramos que la inteligencia artificial ayuda a agilizar sus procesos internos de prevención de blanqueo de capitales y financiación del terrorismo. También sucede en el sector agrícola que, mediante plataformas específicas, esta tecnología ayuda mejorar los rendimientos agrícolas y advierten de posibles impactos ambientales adversos.
En definitiva, a pesar del revuelo generado por la noticia del Atlético de Madrid, esta tecnología esta implementada en prácticamente todos los sectores y servicios que nos rodean. En este sentido, merece la pena destacar el Libro Blanco sobre la inteligencia artificial publicado por la Comisión Europea, en que se alerta de que «La inteligencia artificial se está desarrollando rápido. Cambiará nuestras vidas».
Precisamente por este avance, y considerando todos los beneficios económicos y sociales que pueden derivarse del uso de esta tecnología, la Comisión Europea propuso el pasado 21 de mayo nuevas normas y medidas destinadas «a convertir a Europa en el centro mundial de una inteligencia artificial digna de confianza».
Entre estas normas y medidas destaca la propuesta de Reglamento (UE) de la Comisión Europea sobre el marco jurídico aplicable a los sistemas de Inteligencia Artificial, que pretende otorgar confianza, así como abordar los potenciales riesgos futuros de su desarrollo.
El Reglamento propone un ámbito de aplicación subjetivo y territorial amplio, es decir, aplicará a (i) los proveedores que comercializan o ponen en servicio sistemas de inteligencia artificial, independientemente de que dichos proveedores estén establecidos en la Unión Europea o en un tercer país; (ii) los usuarios de sistemas de inteligencia artificial en la Unión Europea; y (iii) los proveedores y usuarios de sistemas de inteligencia artificial que estén ubicados en un tercer país donde el resultado producido se utilice en la Unión Europea.
Una división en cuatro niveles
La propuesta de Reglamento realiza una división en cuatro niveles, en base al riesgo, de los sistemas de inteligencia artificial:
– Riesgo inadmisible: quedan totalmente prohibidos por suponer una clara amenaza a la seguridad y derechos de las personas. Se entienden por estos, aquellos sistemas de inteligencia artificial que manipulan el comportamiento humano para eludir la voluntad de los usuarios y sistemas que permitan la «puntuación social» por parte de los Gobiernos.
– Riesgo alto: estarán permitidos siempre y cuando se sometan a una evaluación de conformidad y gestión del riesgo que suponen durante toda su vida útil. En este nivel de riesgo encontramos tecnología relativa a infraestructuras críticas, formación educativa o profesional, empleado, gestión de trabajadores y acceso al trabajo por cuenta propia, etc.
– Riesgo limitado: este riesgo exige obligaciones específicas de transparencia, en concreto, informar de manera clara y sencilla al usuario para que sea consciente de que está interactuando con una máquina.
– Riesgo mínimo o nulo: en este nivel se abarcan la gran mayoría de sistemas actuales de inteligencia artificial y, de mantenerse esta redacción, la propuesta de Reglamento estipula que estos sistemas estarían sujetos a sistemas voluntarios de autorregulación encontrándose, por tanto, fuera de la aplicación de este.
Por último, en relación con el régimen sancionador, la propuesta de Reglamento propone multas de hasta 30 millones de euros o el 6% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior.
Si bien es cierto que esta propuesta de Reglamento debe ser revisada y debatida por el Parlamento Europeo y el Consejo, una vez aprobado será de aplicación directa a todos los estados miembros de la Unión Europea.
Sin duda será uno de los temas mas relevantes este final de año… ■