
Los avances a pasos agigantados de la tecnología han ido consolidando un cambio de paradigma, sobre todo desde finales del siglo XX hasta nuestros días. El paso de la antigua “Sociedad Industrial” a la actual “Sociedad de la Información” ha generado nuevas materias primas imperantes, tales como la información y los datos, pequeñas piezas de lo que se conoce como sistemas de inteligencia artificial; tan cotidianos y cada vez más comunes.
El Derecho en general, como uno de los organizadores de la sociedad y como todos nosotros, se encuentra todavía intentando encontrar una respuesta a estos cambios. Desde la Unión Europea y sus Estados aún se está tratando de consolidar un marco jurídico robusto. La norma madre en la materia, el Reglamento UE 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial —en adelante RIA—, señala en su Considerando 8 que son herramientas que aportan beneficios indiscutibles, pero al mismo tiempo, su preámbulo también apunta que su uso inadecuado puede entrañar numerosos riesgos o consecuencias negativas.
Sin embargo, como parte de cualquier cambio social, este nuevo paradigma digital ha causado que, de ciertas consecuencias gravísimas provocadas por la IA, emerjan implicaciones delictivas y, ante estas, es el Derecho Penal la rama jurídica por excelencia en cuanto a la tutela del “orden”.
Una nueva realidad automatizada, los vehículos autónomos
Un buen ejemplo que está comenzando a tener transcendencia es el de los vehículos de conducción automatizada —al integrar sistemas de IA para permitir autonomía en su circulación—.
Recupero este argumento e introduzco estas reflexiones a causa de una reciente publicación de la BBC News [1] este pasado 2 de agosto. La compañía Tesla ha sido finalmente condenada por un jurado de Florida tras un accidente causado por un vehículo autónomo en 2019 que integraba su tecnología Auto Pilot (la cual permite, a grandes rasgos, autonomía del vehículo en cuanto a su circulación). El Tesla Model S equipado con esta tecnología omitió su detención ante un semáforo en rojo y provocó el trágico fallecimiento de una pareja que circulaba en su vehículo. El conductor del vehículo automático, distraído mientras buscaba su smartphone, no advirtió la señal y el sistema inteligente integrado del Tesla tampoco logró identificar el semáforo en el que debía haberse detenido.
Este tipo de automóviles no forman parte únicamente del “sueño americano”. Desde la UE se ha permitido la implementación de los vehículos de conducción automatizada tras la adopción del Reglamento UE 2019/2144 relativo a los requisitos de homologación de tipo de los vehículos de motor, y tras sus actos de desarrollo (Reglamento Delegado 2022/2236 y Reglamento de Ejecución 2022/1426), los cuales establecen una suerte de marco técnico-administrativo para abrir la posibilidad de circulación de este tipo de automóviles.
Si bien el Reglamento distingue únicamente entre vehículos automatizados y completamente automatizados, lo cierto es que se usa comúnmente el estándar de la Society of Automotive Engineers J3016, (SAE de sus siglas en inglés), en función de los diferentes niveles de autonomía:
- SAE 0. Conducción manual o conducción no automatizada.
- SAE 1. “Feet off”, asistencia al conductor.
- SAE 2. “Hands off”, automatización parcial: el vehículo tiene funciones automáticas combinadas, como la aceleración y la dirección, pero el conductor debe permanecer comprometido con la tarea de conducción y monitorizar el entorno en todo momento.
- SAE 3. “Eyes off”, automatización condicional: el conductor es necesario, pero no se le requiere para monitorizar el entorno. El conductor debe estar listo para tomar el control del vehículo en cualquier momento, mediante previo aviso.
- SAE 4. “Mind off”, alta automatización: el vehículo es capaz de realizar todas las funciones de conducción en determinadas condiciones. El conductor tiene la opción de controlar el vehículo.
- SAE 5. “Driverless”, automatización completa: el vehículo es capaz de realizar todas las funciones de conducción en todas las condiciones.
En la actualidad, el Parlamento Europeo apunta que los niveles 1 y 2 de automatización se encuentran ya disponibles en el mercado. Los vehículos autónomos de niveles 3 y 4 se hallan todavía en fase de prueba con una incorporación progresiva prevista entre 2020 y 2030, mientras que el nivel 5 correspondiente a vehículos plenamente autónomos y no se esperan disponibles hasta después de 2030. Algunos países más avanzados como Alemania promocionan ya la compra de, por ejemplo, el DRIVE PILOT de Mercedes Benz con un SAE Nivel 3, gozando de unos 13.191 km de autonomía en el país germánico, en California y en Nevada.
En España, la Ley 18/2021, de 20 de diciembre introdujo el art. 11 bis en el abreviado, TRLTSV, definiendo las obligaciones del titular de un sistema de conducción automatizado, y póstumamente la Instrucción VEH 2022/07 de la DGT abrió la vía a estas pruebas controladas. En la misma línea, la Dirección General de Tráfico junto con la Estrategia de Seguridad Vial 2030, también están apostando por la implementación de vehículos de conducción automatizada con el fin de hacer más seguras las carreteras, puesto que la principal causa de la provocación de los siniestros es el error humano.
Aunque en España aún la circulación de este tipo de vehículos sea bastante incipiente, lo cierto es que el marco jurídico que está surgiendo junto con la intención de su implementación provocan una cuestión más tangible de lo que pensamos, así como sus peligros derivados.
Por tanto, ante una realidad de “conducción autónoma” muy pretendida en los próximos años, ciertas reflexiones son necesarias tras la posible creación de estos riesgos para la seguridad vial, y con ello, el Derecho penal habrá de enfrentarse a este tipo de retos, entendiendo una clara superación del principio de intervención mínima.
¿Son suficientes las respuestas del Derecho Penal?
Sin duda uno de los principales apuntes respecto a los sistemas de IA es la cuestión de cómo se genera esta peligrosidad hasta llegar a ciertas atribuciones delictivas. De por sí, los sistemas de IA no tienen capacidad cognoscitiva y volitiva para cometer un delito y, por tanto, el concepto de “autonomía” se ve desplazado a un estado actual de la ciencia en el que no puede todavía entenderse como plena.
Sin embargo, el factor humano detrás de la puesta en circulación de este tipo de productos, sí que puede incurrir en una cierta imprudencia grave o incluso en un dolo eventual tras permitir la circulación de este tipo de sistemas todavía incompletos que han ocasionado graves incidentes. Algunos autores sostienen que hasta que la IA no tenga una “autonomía plena”, las clásicas estructuras del Derecho penal todavía funcionan en aquella concurrencia de culpas clásica que se plantea de, ¿productor, desarrollador o conductor del vehículo?
Sin embargo, otro planteamiento en cuanto a la responsabilidad podría ser, ¿por qué la rebaja de los requisitos de “seguridad” de los vehículos autónomos no apunta también a una culpa de las corporaciones que lo han permitido? Si se permitiera la comercialización, provocando un beneficio directo o indirecto de las empresas (art. 31 bis CP) de sistemas de IA “peligrosos”, ¿deberían de responder únicamente las personas físicas?
Introduzco en el debate una de las líneas que ya ha adoptado parte de la doctrina, como la penalista Belén Macías Espejo, la cual allá ya por 2018 señalaba algunas de las lagunas de punibilidad sobre los coches autónomos, dentro de un sistema quizás incompleto de responsabilidad penal tecnológica.
Al discutir esta cuestión surge la duda de si el actual modelo español de responsabilidad penal de las personas jurídicas —de numerus clausus— resulta suficiente. ¿Qué sucede en aquellos supuestos como estos en los que se produzcan homicidios o lesiones y en los que el catálogo de delitos atribuibles a las personas jurídicas no incluya tales conductas?
Si bien este sistema de responsabilidad penal “tecnológica” aún está en implementación, las construcciones rígidas de los modelos de responsabilidad corporativa parecen efectivamente no dar respuesta a situaciones como las mencionadas —amén de las consecuencias accesorias del art. 129 CP, aunque no se pueda hablar propiamente de responsabilidad—.
Hay que tener consciencia de que, aunque muchas veces se pretenda no llegar a aquello del “expansionismo” del Derecho penal, el avance tecnológico denota que el Derecho debería de plantearse también sus ritmos de respuesta y, sobre todo, preguntarnos si el sistema actual de atribución de responsabilidad penal puede seguir manteniendo, en esta línea, las mismas estructuras sobre los nuevos desafíos que ya están causando estragos.