En sus inicios, resolvía consultas… La IA empezaba a sustituir las búsquedas en Google y su uso se extendía para dar respuesta a cualquier tipo de información. Ahora, ya no son solo respuestas; los agentes de Inteligencia Artificial pueden ejecutar tareas, utilizar herramientas y tomar decisiones dentro de un proceso. Pero entonces, a los más profesionales les surge una pregunta incómoda: ¿quién responde?

En un despacho era relativamente sencillo entender el uso de herramientas de IA: resumir sentencias, revisar contratos, preparar comunicaciones, encontrar información… La fórmula hasta aquí podía ser sencilla: la IA responde y nosotros decidimos cómo usar sus respuestas. Es decir, nosotros decidimos cuál es la última palabra a la hora de decidir o ejecutar una tarea.

El caso es, y por eso me he decidido a escribir este artículo, que la forma en la que usamos esta revolucionaria tecnología está cambiando. Pensemos, por ejemplo, en un supuesto caso en el que un abogado le encarga a un agente de IA lo siguiente:

“Revisa los expedientes abiertos, identifica los que tienen algún plazo próximo y prepara las actuaciones necesarias.” En cuestión de segundos, el sistema consulta la documentación, analiza las fechas y establece un calendario, busca la información pertinente; después, genera los documentos de trabajo y planifica las tareas en función de los plazos. Es más, si está conectado con las herramientas adecuadas, puede incluso ordenar la ejecución de determinadas acciones. Esto no es solo una IA que responde consultas, sino que hablamos de una IA que actúa por nosotros.

¿Cómo lo ves? Un ahorro de tiempo magnífico, ¿verdad? Pues aquí puede comenzar el verdadero problema.

¿Qué ocurre cuando la IA deja de aconsejar y empieza a actuar?

La diferencia entre un asistente de IA y un agente puede parecer una cuestión técnica, pero en realidad tiene importantes consecuencias profesionales. Te lo planteo de otro modo, por tareas específicas:

• El asistente te redacta un correo; el agente puede enviarlo.
• El asistente analiza un expediente. El agente puede modificar la información que, bajo su criterio, haya determinado que debe ser diferente dentro del sistema.
•  El asistente puede proponerte una respuesta ante la consulta de un cliente. El agente puede enviársela directamente.

La diferencia estriba en la autonomía y cuanto mayor sea esta, mayor será la necesidad de establecer límites. Asegurar que la información que nos proporciona la IA es verídica ya es una cuestión importante, pero aún lo es más saber si la acción que puede realizar es correcta, ha sido autorizada y si debía ejecutarse.

Ante una incidencia, no sería ético responder “Lo hizo la IA” ¿no crees?

¿Quién asume la responsabilidad de la IA?

Cuando una persona comete un error podemos analizar la causa para resolverlo; preguntarnos quién tomó la decisión, de qué información disponía, qué instrucciones recibió o qué grado de diligencia aplicó.

Cuando interviene un agente de IA, el proceso puede ser mucho más complejo y es la clave de este artículo:

¿Quién responde si un agente interpreta incorrectamente una instrucción?

¿Y si utiliza información equivocada?

¿Y si envía un documento que todavía no había sido revisado?

¿Y si accede a datos a los que no debería haber accedido?

La tecnología puede haber ejecutado la acción; sin embargo, no significa que la responsabilidad desaparezca. Los profesionales no podemos convertir a la herramienta en una especie de responsable automático de nuestras decisiones. En este punto, toca ser más tajantes: supervisar no significa echar un vistazo de vez en cuando.

El Reglamento Europeo de Inteligencia Artificial introduce precisamente esta idea al exigir supervisión humana efectiva para los sistemas de IA de alto riesgo. Esa supervisión debe ser proporcional al riesgo y al nivel de autonomía del sistema. Asimismo, debe permitir a las personas comprender sus limitaciones, intervenir, descartar resultados o incluso detener el sistema cuando sea necesario.

¿Qué significa realmente “supervisar”?

Es importante puntualizar aquí, porque supervisar no significa aceptar automáticamente todo lo que propone la tecnología. Revisar el resultado de una acción cuando se ha producido el daño, tampoco lo es.

Supervisar significa saber qué está haciendo el sistema, qué puede hacer, qué no debería hacer y en qué momento debe intervenir una persona.

La supervisión efectiva exige criterio y este no es incompatible con la tecnología si podemos conocer la trazabilidad. Si un agente de IA ha ejecutado una acción tras la consulta de documentos, del uso de diferentes herramientas y de seguir una determinada secuencia de instrucciones, podremos reconstruir el proceso:

• Qué recibió.
• Qué consultó.
• Qué instrucciones siguió.
• Qué ejecutó.
• Quién lo autorizó.
• Quién lo supervisó.

Aunque a pesar de todo esto, el resultado final puede ser insuficiente, y en determinados contextos será preciso conocer también “el cómo”.

Para la profesión jurídica, acostumbrada a trabajar con documentos, pruebas y cadenas de decisiones, esta cuestión no te debería resultar extraña. Quizá estamos haciendo la pregunta equivocada.

Cuando sabemos de una nueva herramienta de Inteligencia Artificial nos preguntamos: “¿Qué puede hacer?”

Así que, del mismo modo, con los agentes de IA deberíamos cuestionarnos: “¿Qué estamos dispuestos a permitir que haga por nosotros?”

Recuerda que no es lo mismo automatizar una tarea que delegar una decisión.

Como tampoco es lo mismo delegar una decisión que permitir que esa decisión desencadene una acción que es, precisamente, hacia donde sigue avanzando la tecnología. Hoy por hoy, nos encontramos con sistemas capaces de recibir un objetivo, planificar los pasos necesarios y ejecutarlos con cada vez menos intervención humana. Sin duda, esto constituye una oportunidad extraordinaria para mejorar la productividad de los despachos, pero también obliga a revisar algunos conceptos que creíamos perfectamente claros, como son: autorización, diligencia, supervisión y responsabilidad.

¿Hasta dónde estás dispuesto o dispuesta a delegar tu responsabilidad?