Acciones aparentemente tan sencillas y prácticas como controlar el acceso al metro, vigilar y localizar a ciertas personas en la vía pública por parte de la policía, atravesar la frontera de un país o pasar el sistema de embarque de un aeropuerto a través de cámaras de reconocimiento facial parecen, a priori, inofensivas. Sin embargo, están, en la actualidad, sometidas a examen.
Se trata de novedades que, efectivamente, llegan en un momento en el que el acceso y el despliegue de este tipo de herramientas y aplicaciones de Inteligencia Artificial (en adelante, IA) están en pleno auge. Pero ¿son realmente tecnologías que deben limitarse por su gran impacto en los derechos fundamentales de los ciudadanos?
Pues bien, las técnicas de reconocimiento facial son tecnologías usadas para la identificación de las personas tomando como partida sus datos biométricos, a través de una combinación de cámaras tan sofisticadas que captan los rostros de las personas, incluso en los casos de multitud, comparándolas con bases de datos en las que esté recopilada la información necesaria para proceder a su identificación.
Estas tecnologías de reconocimiento facial con IA pueden utilizarse para autenticar (es decir, verificar que una persona es quien dice ser); identificar a una persona (es decir, encontrar a una persona entre un grupo de individuos en un área específica o base de datos); o pueden, incluso, aplicarse a fotografías o grabaciones de vídeos (como pueden ser los circuitos cerrados de televisión). Asimismo, se pueden destinar y afectar para diferentes fines y propósitos, entre otros y, como anticipábamos, para la búsqueda de personas en listas de vigilancia policial o el seguimiento de los movimientos de una persona en un espacio público.
Frente a los numerosos beneficios que el uso de estas tecnologías podría ocasionar, también comprenden en sí mismas injerencias graves. Esto implica que la utilización de estas tecnologías puede ser adecuada y conveniente, pero, en todo caso, ¿necesaria?
Estas tecnologías solo pueden considerarse estrictamente necesarias si la injerencia en los derechos fundamentales previstos en la Carta de los Derechos Fundamentales de la Unión Europea (en particular, el derecho a la protección de los datos personales y el derecho a la intimidad), así como sus restricciones, se limitan a lo absolutamente necesario. Esto es, a lo indispensable, excluyendo cualquier tratamiento de carácter general o sistemático, tal y como se ha planteado por parte del Comité Europeo de Protección de Datos en las Directrices 5/2022 sobre el uso de tecnologías de reconocimiento facial en el ámbito de la aplicación de la Ley.
Recientemente y, en relación con esto, el Parlamento Europeo, en una votación que se ha producido el 11 de mayo de este año, ha acordado incluir la prohibición del uso del reconocimiento facial en espacios públicos, así como de las herramientas policiales predictivas, y ha impuesto nuevas medidas de transparencia en aplicaciones generativas de IA (como DALL-E o el conocido ChatGPT), todas ellascuestiones que se pretenden reflejar en la próxima Ley de Inteligencia Artificial.
No es de extrañar que la Ley de Inteligencia Artificial, por sus múltiples aristas y complejidad, lleve en jaque los últimos dos años, supeditada a los caprichos de legisladores de todo el mundo. En concreto, en el ámbito de la Unión Europea se encuentra en la fase del proceso legislativo, una etapa en la que la Comisión Europea y los Estados Miembros ultiman sus términos.
Precisamente esta propuesta de Ley de Inteligencia Artificial se ha endurecido a consecuencia de la mencionada votación por parte del Parlamento Europeo con la inclusión de reglas más restrictivas sobre el uso del reconocimiento facial, la vigilancia biométrica y otras aplicaciones de IA.
Esta aprobación se deriva de la solicitud conjunta formulada e iniciada por el Comité Europeo de Protección de Datos, con las ya mencionadas Directrices 05/2022 sobre el uso de tecnologías de reconocimiento facial en el ámbito de la aplicación de la ley, y el Supervisor Europeo de Protección de Datos, un resultado que mantiene la siguiente línea:
- Prohibir determinados tipos de tratamiento de datos personales en cuanto a la identificación biométrica remota de personas que se encuentren en lugares públicos.
- Prohibir los sistemas de reconocimiento facial respaldados por IA, que toman por base sus datos biométricos para clasificar a las personas en función del origen étnico, el género, la política, orientación sexual u otros motivos discriminatorios.
- Prohibir la utilización del reconocimiento facial o cualquier otra tecnología análoga para poder inferir el estado de ánimo de una persona.
- Prohibir el procesamiento de datos personales en un contexto policial que tomaría por fundamento una base de datos de personas en función de la recopilación de datos personales a gran escala de una forma completamente discriminatoria, raspando imágenes faciales accesibles que se encuentren en línea.
Ambos organismos indicados ponen de manifiesto que tales prohibiciones abarcan tanto a sistemas de cámaras de reconocimiento facial, como a la utilización de huellas dactilares, llegando a alcanzar al reconocimiento por voz. Estas prohibiciones se completan con la imposición de grandes obligaciones de transparencia a las aplicaciones de IA que se utilicen con fines policiales o de vigilancia.
Partiendo de estas prohibiciones y según la clasificación propuesta de las herramientas de IA en función de su nivel de riesgo percibido, se pretende proporcionar un equilibrio entre la regulación de estas técnicas de reconocimiento facial con IA y la privacidad, libertad y autonomía de los ciudadanos, permitiendo la innovación y el impulso de estas herramientas con el compromiso del respeto y observancia de los derechos y libertades de las personas.
Por tanto, esta votación, junto con el establecimiento de códigos éticos robustos, la realización de códigos de conducta y el testeo seguro de este tipo de sistemas, ha sido el punto de partida para dar una prevalencia al derecho a la intimidad y el derecho a la protección de los datos personales, intentando crear un marco legal de IA al servicio y en torno al ser humano.
Todo lo expuesto es una evidente declaración de intenciones de la Unión Europea en un intento de velar por los derechos fundamentales de los ciudadanos, petición aprobada que queda ahora ya en manos de la Comisión Europea para que se instaure de una forma definitiva “una prohibición de cualquier procesamiento de datos biométricos, incluidas imágenes faciales, con fines policiales que conduzcan a una vigilancia masiva en espacios de acceso público”.
