La expansión de la inteligencia artificial plantea uno de los grandes desafíos éticos, jurídicos y sociales de nuestro tiempo. No se trata únicamente de una herramienta tecnológica más, sino de una realidad que está transformando la forma en que trabajamos, decidimos, nos informamos y nos relacionamos.
En este contexto adquiere especial relevancia la encíclica Magnifica Humanitas, del Papa León XIV, dedicada a la custodia de la persona humana en el tiempo de la inteligencia artificial. El documento sitúa el debate en su verdadero centro: la cuestión no es solo qué puede hacer la IA, sino qué debe permitirse hacer con ella y al servicio de quién debe ponerse.
Uno de los aspectos más importantes de la encíclica es que no presenta la tecnología como un mal en sí mismo. La inteligencia artificial puede aportar avances relevantes en medicina, educación, investigación, administración pública o productividad empresarial. El problema aparece cuando la técnica deja de ser instrumento y pasa a convertirse en criterio dominante de organización social.
Esta advertencia resulta especialmente necesaria en el entorno digital actual. Los sistemas de IA no funcionan de manera neutral ni espontánea. Son diseñados, entrenados, financiados y explotados por entidades concretas, con intereses concretos y utilizando enormes volúmenes de datos. Por eso, hablar de inteligencia artificial exige hablar también de poder, responsabilidad, transparencia y control.
La encíclica insiste en una idea esencial: más capacidad tecnológica no significa necesariamente más progreso humano. Una sociedad puede disponer de herramientas extraordinarias y, al mismo tiempo, utilizarlas para ampliar desigualdades, automatizar decisiones injustas, manipular la información o reducir a la persona a un simple perfil estadístico.
Desde esta perspectiva, la IA plantea un reto directo a la dignidad humana. Si una persona es valorada únicamente por su productividad, su puntuación algorítmica, su historial de consumo o su comportamiento digital, deja de ser tratada como sujeto y pasa a ser gestionada como objeto. Y ahí empieza el problema. No un problema menor, precisamente.
Especial relevancia adquiere también la concentración del poder digital. La encíclica advierte sobre el riesgo de que plataformas, infraestructuras, datos y capacidad de cálculo queden en manos de un número reducido de actores tecnológicos. Esta concentración puede condicionar el acceso a la información, la participación pública, las oportunidades laborales y hasta la formación de la opinión ciudadana.
Desde el Derecho Digital, esta reflexión conecta con la necesidad de establecer marcos normativos claros, supervisión efectiva, trazabilidad, evaluaciones de impacto, control humano significativo y vías reales de impugnación frente a decisiones automatizadas. No basta con proclamar principios si después el ciudadano no puede saber quién decide, con qué datos, bajo qué lógica y con qué consecuencias.
La encíclica presta también especial atención a la verdad como bien común. La IA puede facilitar el acceso al conocimiento, pero también multiplicar la desinformación, crear contenidos falsos, manipular imágenes o erosionar la confianza social. En una sociedad democrática, la verdad no es un adorno filosófico: es una infraestructura básica de convivencia.
Otro eje relevante es la dignidad del trabajo. La automatización puede liberar a las personas de tareas repetitivas, pero también puede generar precarización, vigilancia intensiva, sustitución de empleos y nuevas formas de exclusión. La IA debe servir para mejorar las condiciones de vida y de trabajo, no para convertir a las personas en piezas sustituibles dentro de una maquinaria de eficiencia permanente.
La inteligencia artificial seguirá avanzando. La cuestión es si avanzará al servicio de una humanidad más libre, justa y consciente, o si lo hará al servicio de nuevas formas de poder opaco. Como suele ocurrir con la tecnología, el riesgo no será que las máquinas piensen demasiado, sino que nosotros pensemos demasiado poco.
