10 de diciembre de 2018 | 12:57

LEGAL TODAY. POR Y PARA ABOGADOS

 

Herramientas para el texto

Blog PRODAT

29 de Noviembre de 2018

Monika Katarzyna Golinska

Abogada colegiada en el Ilustre Colegio de Alcalá de Henares

La inteligencia artificial- hacia una autonomía absoluta

Muchas figuras prominentes, entre ellas Stephen Hawking y Bill Gates, han hablado de IA preocupándose por la seguridad en los últimos años. Hawking decía : "El desarrollo de plena la inteligencia artificial podría significar el fin de la raza humana ". El punto esencial sobre dichas afirmaciones reside en el nivel de autonomía que tienen los ordenadores o las máquinas, factor que se determina desde el diseño. Podemos definir la autonomía como la capacidad de una máquina para realizar por sí misma una función. Por tanto, podríamos decir que mientras la máquina no sea completamente autónoma o siempre que haya un mínimo de intervención humana, garantizaremos un nivel de seguridad objetivamente deseado.


La autonomía de las máquinas tiene tres dimensiones: el tipo de tarea que realiza la máquina; la relación entre el humano y una máquina en la realización de la tarea; y la sofisticación de la decisión de la máquina al realizar la tarea. Estas dimensiones son independientes entre sí, y cuando se incrementa cualquiera de ello se vuelve más "autónoma". A su vez, cuanto menos necesita de la intervención humana más compleja y menos predecible se vuelve. Ello puede llevar a consecuencias no deseadas a la hora de la toma de decisiones y la ejecución de tareas.

A nivel jurídico ello plantea diferentes preguntas: ¿cómo determinaremos la responsabilidad civil por actos ejecutados por máquinas sin intervención humana? ¿hasta qué punto es responsable el ser humano por la actuación de una máquina si su intervención en su control es mínima? ¿qué datos son adecuados y pertinentes para el funcionamiento de dichas tecnologías? ¿podremos renunciar a nuestra privacidad para mejorar ciertos aspectos de nuestra vida? O ¿cómo encajaremos los principios de protección de datos en la autonomía de las máquinas?

En actualidad la IA presenta múltiples ventajas en diferentes sectores. Por ejemplo, supone una mejora de seguridad física de las personas. Las máquinas alimentadas por los datos y algoritmos son capaces de detectar riesgos y amenazas imperceptibles para el ojo humano.

Un ejemplo de esto es la cámara de seguridad japonesa, aumentada por IA llamada "AI Guardman" que ayuda a los propietarios de tiendas o a su personal a identificar a los ladrones haciendo coincidir las posturas corporales con un comportamiento sospechoso predefinido. Cuando la cámara detecta el movimiento, emite una señal a un dispositivo que alerta a la persona a cargo de una posible amenaza. De este modo el personal puede acercarse al "sospechoso" y actuar de forma disuasoria.

Cuando estas máquinas se combinan con otra tecnología, como el reconocimiento facial, las cámaras de seguridad habilitadas para IA son capaces de proporcionar conciencia situacional en tiempo real al personal de seguridad existiendo la posibilidad de detectar a la persona al instante.  Automáticamente nos preguntamos, ¿Podríamos en este caso fundamentar la finalidad de tratamiento de las imágenes y análisis de comportamiento en un interés legítimo del responsable?

Otro ejemplo de uso de la IA para fines de seguridad son las gafas de reconocimiento facial que utiliza la policía China desde enero del año 2018. Lo único que necesita la tecnología es una imagen de la persona. Las "gafas inteligentes" ayudan en la detección de los sospechosos o de los delincuentes buscados cruzando los datos obtenidos de la imagen con la base de datos policial. Sin embargo, nos encontramos en un plano policial. ¿Podría ser utilizada dicha tecnología en Europa con la regulación actual?

También podemos encontrar otros usos de la IA que podría mejorar nuestra calidad de vida. Un buen supuesto son los coches que no necesitan de la intervención humana para llegar del punto A al punto B. De esta manera lo único de lo que tendría que preocuparse el conductor es de disfrutar del viaje.  Los Smart Cars o Driverless Cars o Self driving Car combinan un conjunto complejo de sistemas y software que permiten que la máquina se controle por sí misma. Están equipados con cámaras, sensores y sistemas de comunicación que permiten que el vehículo genere grandes cantidades de datos que, cuando se combinan con las capacidades de inteligencia, permite que el vehículo tome decisiones de manera similar a los conductores humanos. Si bien hoy en día no existen legalmente los vehículos en funcionamiento, que sean totalmente autónomos, existen coches que llegan al nivel 4 de la autonomía, en el cual, el coche es capaz de funcionar por sí solo, pero requiere de atención del conductor porque la IA no está exenta de errores. La introducción de la IA y el uso de datos para el funcionamiento de las máquinas se hace desde el diseño. Un ejemplo de enormes avances es Tesla que funciona en piloto automático. Tesla posee ocho cámaras de visión 360 grados alrededor del vehículo y que tienen un alcance de 250 metros. Además, cuenta con sensores ultrasónicos de detección de objetos y un radar con procesamiento de datos del mundo exterior que permite mejorar la visión del vehículo. Ello supone que el usuario del vehículo podrá relajarse completamente disfrutando de su viaje. Por el momento, la IA no está exenta de fallos y en marzo de este año se afirmó una muerte por un fallo en el piloto automático de Tesla. Hay que recalcar que, aunque el piloto funcione por sí mismo el vehículo recuerda que el conductor tiene que permanecer atento a la carretera. Además, es de destacar que las estadísticas aún así siguen siendo favorables disminuyendo el riesgo de accidentes en comparación con el factor humano. Se prevé que para el año 2022 existirán vehículos de nivel de autonomía 5, es decir, el coche será completamente autónomo sin la necesidad de una intervención humana. ¿Desaparecerá en este caso la responsabilidad del conductor? Tal y como pone de relieve un estudio realizado por el Parlamento Europeo  es un error pensar que este paradigma "exige nuevas reglas que se centran en cómo una máquina puede ser considerada, parcial o totalmente, responsable de sus actos u omisiones." Teniendo en cuenta los peligros de asumir que un robot tiene personalidad jurídica, queda directamente descartado que pudiera ser responsable, parcial o totalmente, de sus actos u omisiones. Solo una persona física, titular de un seguro debe ser responsable por sus actos u omisiones.

Desde luego el ejemplo más palpable de uso de la IA para la mejora de nuestras vidas lo podemos apreciar en nuestras propias casas. El uso de los electrodomésticos inteligentes como puede ser la lavadora, la tostadora etc. Imaginen una nevera que detecta falta de determinados alimentos que el usuario suele comprar de forma habitual y que la misma manda de manera telemática, una orden de compra al supermercado. Sin duda nos supone un ahorro de tiempo y mejora en la calidad de vida. Por otro lado, tenemos que permitir que dicha nevera recoja datos suficientes que permitan el análisis de un perfil de compra. De esta manera, dicho electrodoméstico recogerá todo lo referente a nuestra manera de alimentarnos, a qué marca es nuestra preferida, qué cantidad de producto consumimos, cuál es nuestra capacidad económica para una cesta de compra o si comemos de forma saludable. ¿Y si además dicho electrodoméstico funcionase mediante control por voz para ejecutar nuestros comandos? Podría pasar que el mismo quede constantemente en un estado de "escucha activa" que analiza continuamente todas las conversaciones que mantenemos en nuestra casa.

Lo mismo ocurre con las tecnologías de control de de los hogares como puede ser el Google home. Dicho aparato en conjunto con otros adaptables permite controlar mediante voz cualquier máquina que tenga infrarrojos, wifi o sino, siempre podemos adaptar el contenido mediante dispositivos inteligentes complementarios (como puedan ser los enchufes inteligentes). Dichos dispositivos almacenan datos como puedan ser: cuando nos acostamos, cuando nos levantamos (basándose en la hora de cuando apagamos la luz al irnos a dormir o en la hora de la alarma programada mediante voz), a qué hora salimos a trabajar, a qué hora comemos, cuándo consumimos más o menos energía, qué programas de TV vemos de forma habitual etc.  En resumen, acumulan absolutamente todos los datos referentes a nuestra vida.

Para dar las respuestas al dicho paradigma, el primer paso para asegurar los principios y mejorar la disponibilidad y el uso de los datos para el desarrollo y la implantación de las nuevas tecnologías, así como establecer un adecuado marco ético y legal que realce la seguridad jurídica, se da un primer paso mediante el Reglamento general de protección de datos (GDPR). Además, en 2019 la Comisión desarrollará y pondrá a disposición las pautas de ética de la Intligencia Artificial y las orientaciones sobre la interpretación de la directiva de Responsabilidad del Producto (Directive 85/374/EEC) mediante la cual  se establece el principio de responsabilidad sin falta aplicable a los productores europeos.

Los valores derivados de la utilización de datos en Europa oscilaron en el año 2016 alrededor de 300 000 millones de euros. Para dentro de tan sólo dos años la UE quiere aumentar dichos valores situando el PIB en un 4%  lo que se traduce en unos 730 000 millones de euros.

Para dar una respuesta al desarrollo de la IA Europa está desarrollando criterios y  principios que habrá de observarse a la hora de diseñar máquinas o robots con IA incorporada y que además, puedan funcionar de forma autónoma. En el seno de la Comisión se creó un Grupo de trabajo especializado encargado de diseñar un marco normativo aplicable a las relaciones de los robots y los consumidores. Se propuso entre otros, una regulación del sector mediante los códigos de conducta o códigos éticos, que no fue recibida positivamente, puesto que, como subrayó el estudio del Parlamento, la adhesión a dichos códigos es voluntaria y plantea ciertos problemas de cumplimiento en la práctica.

El último paso hacía la nueva regulación es la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL) y que contemplan las cuestiones tan esenciales como:

  • La aplicabilidad de las leyes de Asimov a los diseñadores, fabricantes y operadores de robots, incluidos los que disponen de autonomía y capacidad de autoaprendizaje integradas, dado que dichas leyes no pueden traducirse en código máquina;
  • normas en materia de responsabilidad, transparencia y rendición de cuentas que reflejen los valores humanistas intrínsecamente europeos y universales que caracterizan la contribución de Europa a la sociedad; que esas normas no deben afectar al proceso de investigación, innovación y desarrollo en el ámbito de la robótica;
  • desarrollo de los principios éticos
  • Carta sobre robótica elaborada con la asistencia de la Unidad de Prospectiva Científica (STOA) de la DG European Parliament Research Service, en la que se propone un código de conducta ética para los ingenieros en robótica, un código deontológico para los comités de ética de la investigación, una licencia para los diseñadores y una licencia para los usuarios;
  • actitud gradual, pragmática y prudente a fin de asegurarse que no se ponen trabas a la innovación;

El 27 de enero de 2017 el Parlamento emitió al respecto la Propuesta de Resolución del Parlamento Europeo(http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-2017-0005+0+DOC+XML+V0//ES). En todo caso dicha normativa habrá que interpretarse en conjunto con el Reglamento General de Protección de Datos 679/2016 de 27 de Abril.


Vote:
|| || || || |
Resultado:
44 votos
  • Comparte esta noticia en yahoo
  • Comparte esta noticia en technorati
  • Comparte esta noticia en digg
  • Comparte esta noticia en delicius
  • Comparte esta noticia en meneame
  • Comparte esta noticia en linkedin

Te recomendamos

  • ARANZADI FUSION

    ARANZADI FUSIÓN

    Aranzadi Fusión es el primer y único ecosistema legal con todo lo que necesitas para la transformación digital y gestión integral de tu despacho, combinando tecnología e información inteligente. Todo ello en la nube y con la mayor seguridad para ayudarte a cumplir con la nueva normativa RGPD en base a estos tres niveles: legal, técnico y organizativo.

Blog


Datos personales

Correo electrónico: info@prodat.es Web: www.prodat.es PRODAT es una organización especializada en servicios de Consultoría, Auditoría y Outsourcing en el ámbito de la Ley Orgánica ...ver perfil

Archivo del blog

 
 

Hemos actualizado nuestra Política de Privacidad. Antes de continuar por favor lea nuestra nueva Declaración de Privacidad. Además utilizamos cookies propias y de terceros para mejorar nuestros servicios y poder ofrecerle las mejores opciones mediante el análisis de la navegación. Si continúa navegando, consideramos que acepta su uso. Para más información pulse aquí.   Aceptar