LegalToday

Por y para profesionales del Derecho

Portal jurídico de Aranzadi, por y para profesionales del Derecho

30/05/2024. 14:01:35

LegalToday

Por y para profesionales del Derecho

La inteligencia artificial: un nuevo reto para la privacidad

Consultora jurídica especializada en Ciberseguridad, Privacidad y GRC (Gobierno, Riesgos y Cumplimiento).

En las últimas décadas se ha asistido a una transformación profunda en el ámbito de la vida personal y empresarial debido al avance de la tecnología. Esto supone un cambio de paradigma respecto a una mejora en la toma de decisiones, la productividad y la eficiencia en la sociedad.

En el ámbito industrial, son numerosas las organizaciones que utilizan herramientas digitales para coordinar tareas entre los miembros de un equipo a través del empleo del correo electrónico, videollamadas o mensajería instantánea. Ahí entra en juego la Inteligencia Artificial.

¿Qué es la Inteligencia Artificial?

De acuerdo con la “Propuesta de la Comisión de una Ley de Inteligencia Artificial”, la Inteligencia Artificial (en adelante, IA) es “el software que (…) puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa”. Es decir, es una disciplina que pretende crear máquinas y sistemas capaces de funcionar y reaccionar como un ser humano, simulando su comportamiento. Algunos ejemplos de esta inteligencia lo encontramos en: los coches autónomos, chatbots, realidad virtual, etc.

La integración de esta disciplina en nuestras vidas nos hace partícipes de un cambio que supone una de las principales revoluciones tecnológicas de la historia: la Cuarta Revolución Industrial. Como se informa en la revista científica Science: “Como todas las revoluciones, encierra grandes promesas y también peligros. La indignación ante las violaciones de la privacidad a gran escala demuestra los peligros de tomarse a la ligera la protección de los datos personales y nos recuerda que el progreso tecnológico desafía las políticas, los valores y los planteamientos éticos”.

¿Cuáles son las últimas novedades legales en materia de IA?

Recientemente, el Consejo de la UE adoptó un «Enfoque general para la Ley de Inteligencia Artificial«. Sin embargo, el texto aún no ha sido adoptado. El Parlamento Europeo se encamina hacia una votación clave en comisión a finales de abril. A continuación, figuran algunas notas relevantes del texto:

  • Los proveedores garantizarán que los sistemas de IA se desarrollen de forma que se informe a las personas físicas de que están interactuando con un sistema de IA, a menos que ello resulte obvio por las circunstancias y el contexto de uso. Esta obligación no se aplicará a los sistemas de IA autorizados por ley para detectar, prevenir, investigar y enjuiciar delitos penales, a menos que dichos sistemas estén a disposición del público para denunciar un delito penal.
  • Los sistemas de identificación biométrica a distancia «en tiempo real» no deben utilizarse a la ligera, sino que su uso en espacios de acceso público con fines policiales debe estar sujeto a una autorización expresa y específica de una autoridad judicial o de una autoridad administrativa independiente de un Estado miembro.
  • Prohibición de sistemas de IA que tengan una alta probabilidad de dañar física o psicológicamente a los ciudadanos con fines de manipulación subliminal, clasificación social o vigilancia indiscriminada a distancia.
  • Una clasificación de los sistemas de inteligencia artificial en torno a niveles de riesgo. El reglamento sigue un enfoque basado en el riesgo, diferenciando entre usos de la IA que crean (i) un riesgo inaceptable, (ii) un riesgo alto, y (iii) un riesgo bajo o mínimo. La lista de prácticas prohibidas del Reglamento incluye todos aquellos sistemas de IA cuyo uso se considera inaceptable por contravenir los valores de la Unión, por ejemplo, al vulnerar derechos fundamentales.

Además, se establecen varios requisitos adicionales para los sistemas de IA de alto riesgo, tales como:

  • Se establecerá, aplicará, documentará y mantendrá un sistema de gestión de riesgos en relación con los sistemas de IA de alto riesgo. El sistema de gestión de riesgos consistirá en un proceso iterativo continuo que se ejecutará a lo largo de todo el ciclo de vida de un sistema de IA de alto riesgo y que requerirá una actualización sistemática periódica.
  • Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de tal manera que puedan ser vigilados eficazmente por personas físicas durante el período en que el sistema de IA esté en uso. La vigilancia humana tendrá como objetivo prevenir o minimizar los riesgos para la salud, la seguridad o los derechos fundamentales.

Además, la Comisión y las autoridades nacionales crearán una base de datos a escala de la UE para los sistemas de IA de alto riesgo con implicaciones principalmente para los derechos fundamentales. La base de datos será gestionada por la Comisión y se les exigirá a los proveedores de IA de alto riesgo que registren sus sistemas antes de comercializarlos o ponerlos en servicio.

¿Cómo se regula la privacidad en los sistemas de IA?

Los sistemas de IA requieren grandes cantidades de datos que podrían incluir información relativa a personas físicas identificadas o identificables y, por tanto, datos personales. Por lo tanto, cuando se vayan a tratar datos personales, dichas operaciones estarán reguladas por el «Reglamento General de Protección de Datos» (en lo sucesivo, RGPD), desencadenando la aplicación de todas sus disposiciones, incluidos, entre otros, los principios de tratamiento de datos leal y transparente.

Los poderes analíticos de la IA pueden elaborar perfiles y tomar decisiones automatizadas con el potencial de afectar a los derechos fundamentales de las personas en relación con el tratamiento de sus datos personales. De ahí que las disposiciones del RGPD relativas a la toma de decisiones individuales automatizadas, incluida la elaboración de perfiles, desempeñen un papel importante a este respecto.

Sin intención de entrar en un análisis jurídico completo, el RGPD solo se aplica cuando una decisión se basa únicamente en el tratamiento automatizado incluida la elaboración de perfiles que produzca efectos jurídicos en el interesado o le afecte significativamente de modo similar.

En ese caso, el interesado tendrá derecho, además de a oponerse a dicho tratamiento, a acceder a los datos personales que sobre él se estuvieran tratando a fin de conocer la siguiente información:

  • La lógica aplicada. Puede entenderse como la información utilizada en el sistema de IA. Por ejemplo, si se rechaza una solicitud de préstamo, el artículo 22 del RGPD puede exigir al responsable del tratamiento que facilite información sobre cómo el algoritmo del sistema ha procesado los datos personales del interesado para tomar dicha decisión automatizada.
  • La importancia y las consecuencias previstas del tratamiento para el interesado. Por ejemplo, la denegación de un préstamo.

El RGPD ha modernizado el marco normativo de la UE, pero es necesaria la coordinación internacional para buscar la interoperabilidad jurídica entre países y regiones.

Conclusiones

El potencial de las técnicas de inteligencia artificial ofrece una oportunidad óptima para desarrollar nuevas tecnologías y formas de trabajo que contribuyan al desarrollo de la humanidad. En este sentido, existe la creencia generalizada de que las máquinas pueden suponer una amenaza para determinados puestos de trabajo. Sin embargo, las empresas y organizaciones deben aprovechar las oportunidades que ofrece la IA. Entre otras, la IA libera a las personas de tareas rutinarias y repetitivas y les permite dedicar más tiempo a funciones creativas.

Aunque parece obvio que la IA no puede sustituir la empatía de un profesional con sus clientes, sí puede ayudar a conocerlos mejor para ofrecer un mejor servicio.

Por tanto, las organizaciones deben formar a sus colaboradores para maximizar los beneficios que ofrece esta nueva tecnología, pero sin descuidar el cumplimiento legal y ético, que es fundamental para lograr un uso responsable y razonable.

Valora este contenido.

Puntuación:

Sé el primero en puntuar este contenido.