LegalToday

Por y para profesionales del Derecho

Portal jurídico de Aranzadi, por y para profesionales del Derecho

23/07/2024. 22:16:00

LegalToday

Por y para profesionales del Derecho

Tribuna EJE&CON: Inteligencia Artificial un rompecabezas legislativo y social

General Counsel Siemens Mobility Spain

La Inteligencia Artificial (IA) se ha convertido en uno de los temas más recurrentes en nuestras lecturas. Trasciende a todos los sectores, presenta oportunidades en todos los negocios y preocupa a todos los niveles, desde el individual, hasta la propia sociedad, organismos, instituciones y gobiernos. 

Existen miles de documentos, recomendaciones, guías y opiniones publicadas por universidades, institutos de investigación, organizaciones civiles, científicos y hasta empresarios, que describen las grandes posibilidades que ofrece la IA, su magia, sus potenciales riesgos, los principios éticos, derechos que deberían considerarse y propuestas del marco legal para regularla.  

Según los datos del “AI Index Report 2023” (HAI Standford University) en el año 2022 se publicaron en el mundo 37 leyes que incluían la palabra inteligencia artificial. El listado es liderado por EUA con 9 leyes, seguido por España con 5 y Filipinas con 4. En dicho Reporte se hace un análisis sobre la evolución en el lanzamiento de estrategias nacionales en materia de IA, siendo la primera Canadá en 2017. A partir de ahí 62 países han lanzado su estrategia. España en 2020, y las últimas en 2022 fueron Italia y Tailandia. 

Vemos un incremento en materia de estrategia legislativa en el mundo, y un repunte en los casos legales sobre IA, por ejemplo, en EUA en 2022 se presentaron 110 casos, 6 veces más que en 2016. No obstante, la realidad es que aún no existe una normativa armonizada que regule la IA en su totalidad en ningún país

Ante ésta titánica labor, los legisladores se enfrentan a varios retos, algunos de ellos son:  

  1. La tecnología va por delante a una velocidad muy acelerada. Las grandes inversiones que está realizando el sector privado y la competencia por lograr ser el primero en la línea contribuye a que la IA esté avanzando rápidamente.  
  1. Es una materia compleja, se desconoce el impacto real que puede tener. El campo de desarrollo de la IA es muy vasto y exige que se regule desde varias perspectivas de investigación científica e integración a la vida humana y a las cosas. Temas tan opuestos como soldados robots, autos inteligentes, Derechos Humanos y su teoría en relación con la frontera entre lo humano y no humano, la posible conciencia derivada de la súper IA auto regulable, la toma de decisiones ilimitada y sus consecuencias legales, constituye un reto importante. Convivimos con la IA en nuestra vida cotidiana, inclusive desde hace varios años. Muchas veces no somos conscientes de lo que significa su uso, por eso los datos personales, la intimidad e información privada requieren más que nunca de una protección especial. 
  1. No basta con regular la IA en un país o región. El entorno globalizado, en donde las fronteras se diluyen cuando se hace uso de internet, o en donde los negocios internacionales y su cadena de producción y de consumo se encuentra repartido en varias ubicaciones, exige la existencia de políticas y principios armonizados que garanticen la efectividad del control de los sistemas de IA. Asimismo, requiere el respeto de los bienes jurídicos protegidos en cualquier país, y sobre todo la posibilidad de poder identificar al operador responsable en caso de daños. 
  1. Encontrar el interés común en el ecosistema. El interés en el desarrollo de la IA tiene variaciones que pueden resultar opuestas. No es el mismo interés el que persigue la comunidad científica, que el que busca el sector empresarial, o el sector público. 
  1. Información ilimitada por múltiples canales. Nos enfrentamos a una gran cantidad de información y documentación compleja, difícil de procesar en poco tiempo. El legislador debe garantizar y aplicar los mecanismos necesarios para que cualquier sujeto que participe dentro de la constelación de la IA comprenda sus derechos y obligaciones. 

Después de la publicación en abril de 2021 de la propuesta de regulación de IA para la UE, el pasado junio el Parlamento Europeo adoptó modificaciones al texto propuesto, remitiéndolas al comité responsable de negociaciones inter-institucionales. Se espera que la forma final del texto normativo vea la luz a finales de año o a principios del siguiente, entre en vigor dentro de los 20 días siguientes a su publicación y aplique a partir de los 24 meses tras su entrada en vigor. 

En todo caso el objetivo en el mercado europeo es contar con un marco uniforme que permita utilizar la IA de manera legal, segura y fiable, respetando los derechos fundamentales y valores de la Unión. Destacando dentro de los derechos fundamentales, la libertad de expresión, la dignidad humana, no discriminación, protección de datos personales y el derecho a la intimidad. 

Como cuestiones éticas a considerar como base del desarrollo de la normativa están: la autonomía humana, la prevención del daño, la equidad, y la explicabilidad. 

El enfoque de la normativa es en base a riesgos y casos de uso, clasificando los sistemas de IA en (a) prohibidos, son INACEPTABLES porque permiten la manipulación, el control social, la alteración de la conducta humana, y la afectación de los derechos fundamentales; (b) alto riesgo, son ACEPTABLES con condiciones. Estos sistemas pueden tener consecuencias perjudiciales para la salud, seguridad y derechos fundamentales; y de (c) bajo Riesgo, son ACEPTABLES y tendrán que cumplir con obligaciones de transparencia.  

Dentro de las modificaciones propuestas está una nueva definición de sistema de IA, una revisión exhaustiva de los sistemas de IA prohibidos, regulación específica para la IA generativa, refuerzo a las competencias de las autoridades, sandboxes regulatorios, etc. La realidad es que muchos ojos están puestos en el esfuerzo que Europa está haciendo para liderar la regulación normativa de la IA, mientras que la colaboración internacional es clave para una mayor efectividad, al no existir fronteras en el desarrollo tecnológico globalizado. Sin lugar a duda, la IA es uno de los rompecabezas de mayor complejidad al que los legisladores se han enfrentado

Finalmente y adicional a toda la regulación que pueda desarrollarse en el tema de IA con un marco legal amplio, ágil y visionario incluyendo sanciones o penalizaciones, deberá fomentar la concienciación, entre otros, de sus desarrolladores (sistemas de control de fallas y ajustes en algoritmos, programación, autonomía en la toma de decisiones u otros relacionados), comercializadores (observación de las normas y principios éticos de venta y postventa) y consumidores (uso debido y legal) que prevea riesgos y situaciones no planeadas o fuera de control.  

Valora este contenido.

Puntuación:

Sé el primero en puntuar este contenido.