LegalToday

Por y para abogados

Portal jurídico de Thomson Reuters, por y para abogados

08/07/2020. 09:29:37

LegalToday

Por y para abogados

Blog PRODAT

Inteligencia Artificial y coches autónomos. Una amenaza real para el ser humano

Abogada TIC y Protección de Datos. Responsable de Consultoría Prodat Castilla y León.

Cada mañana nos levantamos, y en nuestro día a día nos acompañan y rodean muchos, podríamos decir que incluso demasiados, dispositivos inteligentes: relojes, televisores, frigoríficos, sistemas de seguridad, aspiradores y hasta juguetes. Un listado que se encuentra en continuo crecimiento y se antoja cada vez más cercano a lo infinito, llegando incluso a hacernos pensar, que lo único que está dejando de funcionar de forma inteligente sea el ser humano.

Intelligencia artificial

Todos estos avances forman parte de la evolución de la Inteligencia Artificial, entendida como la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano.

Aunque podríamos decir que la Inteligencia Artificial (IA) se trata de un término relativamente reciente, pues hace poco más de 60 años que, de la mano del informático John McCarthy, se acuñaba por primera vez este término durante la conferencia de Darmouth de 1956, lo cierto es que su avance es desde hace tiempo imparable.

Pese a que no se cesa en el intento, y se han alcanzado grandes logros en el ámbito de la IA: se ha enseñado a las máquinas a ver, leer, escuchar, hablar o incluso conducir, parece que nada de ello lleguen a hacerlo del modo en que lo conseguimos los humanos, ¿o sí?

Precisamente esta última habilidad, la conducción autónoma y los coches conectados, está alcanzando un grado de evolución que cada vez más, roza la semejanza con la conducción humana.

En la actualidad ya se encuentran disponibles en el mercado, y son fácilmente accesibles, vehículos que cuentan con velocidad de crucero o sistemas de aparcamiento asistido, pero desde hace años, el sector automovilístico, se encuentra en continuo desarrollo y avance, presentándose como inminente la convivencia en las carreteras de vehículos tradicionales y autónomos.

Justamente las pruebas de la tecnología del coche autónomo llegaban en septiembre del pasado año 2019 a las autopistas españolas, momento en el que ya se planteaba la necesidad de adaptar las carreteras a esta nueva forma de movilidad conectada: instalación de sensores y cámaras que capten información y la transmitan a los coches conectados, mayor perduración en el tiempo de las marcas viales en el asfalto, estas deben verse bien bajo la lluvia, y un gran etc. En definitiva, contaremos con carreteras inteligentes de la mano de la tecnología 5G, es decir, una infraestructura también conectada.

Todo ello supondrá que los humanos, como meros pasajeros, viajaremos y nos desplazaremos en un entorno totalmente conectado.

Las ventajas de las carreteras y transporte del "futuro" son más que evidentes: seguridad y disminución de accidentes, carreteras más diáfanas y conectadas con la naturaleza, comodidad o un medioambiente más limpio. Sin embargo, debemos atender también a la otra cara de la moneda: las desventajas, que no se pueden considerar como pocas. Así, expongo a continuación algunos de los inconvenientes o puntos negativos que tan desarrollada tecnología lleva consigo.

Almacenamiento masivo de información.

No es ninguna novedad afirmar que los coches inteligentes o conectados, presentan retos importantes relativos a la privacidad y a la protección de los datos personales. Conocer la ruta de camino al trabajo o a nuestra casa, la agenda de contactos o nuestra voz o datos que permiten conocer pautas o estilos de vida, se configura como información que resulta cada vez más accesible para las empresas automovilísticas, gracias al uso de aplicaciones como Audi Conect, Mercedes Me, Apple Carplay o Android Auto, entre muchas otras.

El uso y almacenamiento de toda la información que generamos cuando utilizamos un vehículo conectado se encuentra sujeto a la normativa vigente en materia de protección de datos, esto es, Reglamento Europeo de Protección de Datos (RGPD), y Ley Orgánica 3/2018 de 5 de diciembre, de Protección de Datos Personales y Garantía de los derechos digitales (LOPDGDD), en tanto en cuanto se estén tratando datos de carácter personal.

Esto supondrá la necesidad de que, entre otras muchas obligaciones establecidas por la normativa mencionada, los fabricantes o entidades que puedan intervenir en el tratamiento de los datos personales, proporcionen una información clara y transparente a los ciudadanos, que cumpla en todo caso con las exigencias de los artículos 13 y 14 del RGPD y 11 de la LOPDGDD. A este respecto, y aunque la esencia de esta normativa es precisamente otorgar mayores garantías y proteger los derechos y libertades de los interesados, no deja de ser recomendable y casi necesario que, siendo conocedores de  la tendencia generalizada a incumplir la normativa o cumplimiento de mínimos, como usuarios de estos servicios prestemos especial atención a los términos y Políticas de Privacidad de las empresas responsables de las Apps que se encargan de conectar nuestros vehículos con el mundo.

Los coches autónomos como instrumento de "ataque".

Si hace casi dos años fue noticia el atropello mortal causado por un coche autónomo de la conocida empresa de transporte Uber, poniendo de manifiesto los fallos técnicos o los riesgos que puede suponer que el humano pierda el control de la máquina, es momento de poner sobre la mesa lo "tentadores" que estos vehículos pueden resultar para cualquier atacante informático.

El hecho de convertir los coches en una máquina inteligente y conectada implica transformarlos en una puerta de acceso a posibles ciberataques que no solamente pueden llegar a poner en riesgo la información que almacena el vehículo, sino un bien todavía más preciado que nuestros datos: nosotros mismos o cualquier otra persona que se cruce en el camino de un coche autónomo, en definitiva, vidas humanas.

Pensemos que los coches autónomos actúan en función de la programación realizada. Esto implica que, por ejemplo, al contar con sistemas de visión y procesamiento de la información que permiten la identificación de los peatones, es tan sencillo como modificar unos píxeles de esas imágenes y eliminar a un peatón, para evitar así el frenado del vehículo y arrollar en consecuencia a cualquiera que se cruce en su camino.  

¿Se puede mejorar la seguridad informática de estos vehículos?

Siendo conscientes de que, una vez más, el riesgo cero no existe, se ha puesto de manifiesto por parte de especialistas matemáticos que es posible resolver o reducir estos desafíos. Justamente existe un proyecto europeo  "Trustonomy Building Acceptance and Trust in Autonomous Mobility" (construir aceptación y confianza en la movilidad autónoma), que tiene como objeto mejorar los coches sin conductor durante los próximos tres años, contando para ello con la participación de investigadores de nueve países.

Por su parte, el Instituto Nacional de Ciberseguridad (INCIBE) también se ha pronunciado a este respecto, y en una publicación relacionada con los coches inteligentes, en la que analiza los protocolos y tecnologías de comunicación utilizadas por estos "vehículos del futuro", también incluye cuáles son los vectores de ataque en los coches inteligentes y cómo evitarlos.

  • Rogue AP para la comunicación WiFi. Robo de información de los ocupantes del vehículo, para posteriormente poder realizar acciones maliciosas o aprovechar la información y realizar ataques de ingeniería social.

    Medida propuesta. A la hora de conectar el dispositivo al WiFi, el usuario debe verificar que la red es la original del coche y no se trata de una red trampa.

  • Manipular la información de la ECU (Engine Control Unit). El atacante podría ser capaz de extraer y analizar información de la ECU, lo que podría provocar una alteración en el correcto funcionamiento del vehículo.

    Medida propuesta. Evitar el acceso físico a los atacantes controlando quién tiene acceso al vehículo.

  • Ataques por Bluetooth. Permiten, por ejemplo, el robo de datos sensibles de la persona que hace un emparejamiento de su dispositivo.

    Medida propuesta. Desconectar el Bluetooth siempre que no sea necesario y tener los dispositivos actualizados con la última versión disponible.

  • Uso de aplicaciones maliciosas. Aplicaciones que puedan encontrarse y descargarse de repositorios que no sean de confianza.

    Medida propuesta. Evitar el uso de aplicaciones de desarrolladores desconocidos, descargar siempre de repositorios de confianza, como Google Play Store o la App Store, o en la página oficial del fabricante.

  • Ataques RF. Dependiendo del modelo del vehículo y según el algoritmo que tenga a la hora de generar las claves, estas se podrían robar y utilizar posteriormente para abrir, cerrar o arrancar el coche.

    Medida propuesta. Generación automática de claves con cifrado cada vez que se utiliza la llave, evitando así que se puedan reutilizar las mismas claves.

En definitiva, los ataques a los que los fabricantes tienen que hacer frente incluyen: alteración de las mediciones realizadas, generación de errores o códigos que el coche interprete como peligrosos para su funcionamiento; o más graves aún, como han demostrado investigadores en PoC (Proof of Concept o Prueba de Concepto) realizando el frenado de un coche, o logrando hacerse con el control absoluto del vehículo, como ha sido demostrado por el investigador Charlie Miller.

La ética y moralidad en una máquina ¿es posible?

Sin perjuicio de todo lo anterior, y a pesar de que existen cuestiones técnicas como la percepción, que suponen un reto para los vehículos autónomos, en este caso el mayor obstáculo para que la máquina llegue a superar o igualar al ser humano, es la intuición. Capacidad del ser humano que tiene un impacto directo en las decisiones morales que en determinadas situaciones deben tomarse al volante.

Como ya comentaba en esta publicación, los coches autónomos actuarán en función de la programación realizada, y esto nos lleva a plantearnos cuestiones directamente relacionadas con el famoso Dilema del Tranvía: ¿cómo actuaría un vehículo autónomo ante una situación de peligro no prevista? ¿sacrificaría a los ocupantes del mismo, a los ocupantes de otro vehículo o a los peatones que circulan por la acera?

Aunque la compañía Mercedes parecía tenerlo claro en 2016, cuando declaró que elegirían a favor del pasajero sobre el peatón, sea éste el que sea, la respuesta a estas cuestiones no es sencilla. ¿Por qué? Al fin y al cabo, se pone de manifiesto que el coche autónomo debe estar preparado para valorar situaciones éticas difíciles, y por tanto hablamos de problemáticas que se escapan del ámbito de las matemáticas e ingeniería. Es por ello que, en el citado proyecto europeo Trustonomy Building Acceptance and Trust in Autonomous Mobility, participan también filósofos, entre otros profesionales, realizando reflexiones acerca de estas cuestiones éticas.

En definitiva, y tomando en consideración lo expuesto en esta publicación, pese a que se han producido avances gigantescos que hace años se consideraban impensables, nos encontramos lejos de cumplir las previsiones que hace cuatro años situaban en el presente año 2020 a 10 millones de coches autónomos circulando a nivel mundial. Se pone así de manifiesto una vez más, que aún quedan algunos escollos que superar antes de ponernos en manos de vehículos autónomos dentro de una infraestructura conectada, y mantendremos, por el momento, el control sobre nuestros vehículos. 

Blog

Logo PRODAT

Te recomiendo

Correo electrónico: info@prodat.es
Web: www.prodat.es

PRODAT es una organización especializada en servicios de Consultoría, Auditoría y Outsourcing en el ámbito de la Ley Orgánica de protección de datos de carácter personal (LOPD), Reglamento 2016/679 general de protección de datos de la Unión Europea, ISO 27001, Ley de servicios de la sociedad de la información y del comercio electrónico y Compliance.

PRODAT opera en todo el territorio nacional a través de una red de 20 oficinas y en la actualidad cuenta con más de 40 consultores que utilizan las mismas metodologías y herramientas informáticas.

Fundada en 1997, en la actualidad es una organización firmemente asentada en el mercado.