El Think Tank del Parlamento Europeo publicó el pasado 13 de enero de 2025 la recomendación “Regulating dark patterns in the EU: Towards digital fairness”, en atención a las limitaciones de la regulación sobre plataformas en línea detectadas por la Comisión Europea en el “Commission Staff Working Document Fitness Check on EU consumer law on digital fairness”, publicado el 2 de octubre de 2024. La equidad digital se sitúa en el centro del debate jurídico en materia de contratación, pues la futura Digital Fairness Act dispondrá de un tratamiento legal apto para cualquier entorno a los efectos de mitigar problemas comunes con las plataformas en línea como los sesgos de la inteligencia artificial –en adelante, IA– por razones de edad, género o de cualquier otra índole, la discriminación algorítmica, así como la desprotección del consumidor vulnerable, especialmente por el uso de asistentes digitales en los contratos algorítmicos y custobots. Resulta oportuno mencionar que la Comisión Europea encargó en 2024 unos informes nacionales para la adaptación de la normativa nacional en materia de contratos de consumo y mercantiles a la contratación con IA y los contratos algorítmicos, unas modalidades donde se observa vulnerabilidad y discriminación.
La falta de eficacia suficiente de la regulación de las plataformas en línea detectada por la Comisión Europea hace necesaria una equidad digital en materia de contratación que proporcione soluciones adecuadas a los cinco inconvenientes contenidos en el “Commission Staff Working Document Fitness Check on EU consumer law on digital fairness”. En primer lugar, los dark patterns o patrones oscuros, es decir, las técnicas de manipulación del comportamiento de sus usuarios y consumidores por la IA, los algoritmos y el procesamiento de datos. En segundo lugar, una interfaz gráfica de usuario cuya disposición y funcionamiento esté programada para generar comportamientos adictivos, como el infinity button, que activa la sugerencia infinita de contenido. En tercer lugar, la sugerencia personalizada o personalised targeting, como el microtargeting o la sugerencia de compra personalizada con base en las preferencias del usuario, cuyo tratamiento legal no es posible porque es una técnica de marketing aceptada. Cuando estas prácticas afecten a la libre competencia, ocasionando colusión algorítmica, el Reglamento de Servicios Digitales y el Reglamento de Mercados Digitales disponen de un régimen sancionador al respecto. En sentido opuesto, para la discriminación algorítmica no existe un tratamiento legal específico. En cuarto lugar, se advierten dificultades en las suscripciones digitales, especialmente para su cancelación. Finalmente, se han detectado malas prácticas en los influencersde los medios digitales, para cuya protección de los usuarios menores en España se está tramitando el “Anteproyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales”.
La regulación vigente se ha demostrado insuficiente para la corrección de la asimetría negocial, así como la solución de la brecha digital y el edadismo, la discriminación por razón de género y la prevención de las adicciones digitales. Por ello, el papel de la investigación debe centrarse en una equidad digital que garantice la protección, seguridad jurídica y tutela judicial efectiva ante los retos jurídicos que plantea la contratación con IA en cualquier entorno, especialmente cuando existen factores de vulnerabilidad, como la edad, o de discriminación, como el género.
¿Quieres participar en Mujeres por Derecho? Apúntate aquí
