LegalToday

Por y para profesionales del Derecho

Portal jurídico de Aranzadi, por y para profesionales del Derecho

29/03/2024. 08:42:46

LegalToday

Por y para profesionales del Derecho

Inteligencia artificial: implicaciones en materia de protección de datos

abogado del Área Mercantil de Deloitte Legal

El Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (RGPD), y su posterior adaptación a nuestro ordenamiento jurídico, a través de la Ley Orgánica 3/2018 de 5 de diciembre, de Protección de Datos y Garantía de los Derechos Digitales (LOPDGDD), suponen un hito y una manifestación sintomática de la, cada vez mayor, preocupación de las organizaciones y los ciudadanos por el uso que se hace de los datos de carácter personal.

Inteligencia artificial

Todo ello, en un contexto tecnológico cada vez más disruptivo, donde toman protagonismo tecnologías como la Inteligencia Artificial, que diseña y programa máquinas capaces de llevar a cabo tareas que requieren inteligencia para ser realizadas, y que no permite prever con fiabilidad el impacto o las consecuencias que podrían derivarse de su uso y normalización.

Aunque actualmente se encuentra en un estado temprano de desarrollo, no podemos obviar la tarea de reflexionar desde una perspectiva ética, socioeconómica y, por supuesto, jurídica, acerca de las implicaciones que pueden derivarse de su utilización.

Obviamente se trata de una herramienta con un gran poder transformador, capaz de alterar las dinámicas de la prestación de servicios, incluso en el ámbito público, y de proporcionar a las empresas una mayor comprensión de sus procesos y de las necesidades de sus clientes.

No obstante, esta tecnología es susceptible de ser usada de forma deshonesta y su propio uso puede acarrear riesgos que deben ser previstos y mitigados en la medida de lo posible. En particular, el uso de esta tecnología sin la adopción de medidas apropiadas puede suponer una amenaza a la protección de los derechos fundamentales de los ciudadanos y, en particular, al derecho a la protección de sus datos de carácter personal.

Privacidad por diseño y transparencia

Sin duda, el primer escollo jurídico es la aplicación obligatoria, coherente y proactiva del principio de protección de datos desde el diseño, reconocido en el artículo 25 del RGPD. Básicamente consiste en comprobar que, en el momento de determinar los tratamientos de datos en estas aplicaciones, se implementan de manera efectiva las medidas técnicas y organizativas apropiadas para cumplir con los principios de protección de datos.

En ese ámbito, la realización de análisis de riesgos cada vez más detallados puede actuar como un factor determinante para garantizar y promover la confianza de la población sobre el uso de estas tecnologías, un enfoque que puede completarse con la adopción de criterios de proporcionalidad y limitación del uso de estas soluciones.

Otra obligación a tener en cuenta para las empresas o instituciones que desarrollen esta tecnología es la necesidad de aplicar el principio de transparencia y el derecho de información a los afectados, recogidos en los artículos 13 y 14 del RGPD y el artículo 11 de la LOPDGDD.

La aplicación de estos principios no resulta siempre una tarea sencilla. A modo de ejemplo, en determinadas circunstancias, la adopción de criterios de transparencia sobre los modelos y algoritmos empleados por estas soluciones, puede ofrecer dificultades desde el punto de vista de los derechos de propiedad intelectual y el derecho de la competencia, y no siempre resultará suficiente para garantizar la autodeterminación de los individuos en relación con el tratamiento de sus datos, o a favorecer la comprensión de estos sobre su complejidad o sus implicaciones.

Minimización de datos y decisiones automatizadas

Por otra parte, la aplicación de los principios reconocidos en la normativa de protección de datos, como el principio de minimización de los datos y protección de datos por defecto, puede colisionar frontalmente con el uso que esta tecnología de la información, en particular, con su capacidad para generar relaciones y maximizar la utilidad potencial de la información empleada.

Con respecto a la toma automatizada de decisiones, incluyendo la elaboración de perfiles, resulta preciso incidir en la enorme capacidad predictiva de estas tecnologías en relación con aspectos de la personalidad tales como el rendimiento profesional, la situación económica, salud, preferencias personales, intereses comerciales, comportamientos, etc., que pudieran desembocar en conclusiones no del todo precisas, o que incorporasen un sesgo o desviación de carácter discriminatorio. Estas desviaciones resultan inevitables, en la medida en que son consecuencia de un criterio humano (el del desarrollador) que puede resultar falible.

Es esencial por tanto respetar lo dispuesto en el artículo 22 del RGPD que otorga a todo interesado el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos en él o le afecte significativamente.

En el sentido de todo lo anterior ya se ha pronunciado el Consejo de Europa y, de forma similar, la reciente publicación del Ministerio de Ciencia, Innovación y Universidades de "Estrategia española de I+D+i en Inteligencia Artificial", cuando sugiere que el desarrollo y uso de estas tecnologías, basadas en el procesamiento intensivo y extensivo de información de muy distinta naturaleza, debe regirse en un alineamiento respetuoso con los derechos fundamentales, sobre el marco de la normativa aplicable, que proporcione claridad, legibilidad y perspectiva para los usuarios, inversores e innovadores.

En conclusión, las numerosas funcionalidades de esta tecnología y la promesa de nuevas posibilidades en la forma de entender sectores como la educación, la salud, la energía y el medio ambiente, en un ecosistema integrado por aplicaciones inteligentes, solo puede concebirse desde el equilibrio entre el progreso y la garantía de la protección de los datos de carácter personal de los usuarios finales.

Si quieres disponer de toda la información y la opinión jurídica para estar al día, no pierdas de vista a Actualidad Jurídica Aranzadi

Valora este contenido.

Puntuación:

Sé el primero en puntuar este contenido.