La paradoja del valor de la verificación: ¿Estamos sobreestimando la eficiencia que la IA puede procurar a la abogacía?

Por Rocío Ramírez

Hace unas semanas leí un estudio de la Facultad de Derecho de la Universidad de Auckland que hablaba sobre la paradoja del valor de la verificación en el uso de la IA generativa en el sector legal. Os comparto el enlace: The Verification-Value Paradox: A Normative Critique of Gen AI in Legal Practice by Joshua Yuvaraj :: SSRN

Y me pareció una cuestión de sumo interés.

Como presupuesto de esta paradoja, el estudio refiere la paradoja del riesgo de oportunidad, que se funda en la irrupción acelerada y casi hipnótica de la IA en el sector legal. Y sobre cómo la abogacía, percibiendo la oportunidad estratégica que esta tecnología procura, así como la mejora de eficiencias, innovación y ventaja competitiva que puede suponer, la esté integrando de forma apresurada en sus procesos internos, sin entender realmente el riesgo inherente a su uso sin supervisión.

Este riesgo de oportunidad genera una confianza excesiva en la IA para lograr eficiencia y competitividad. Y lleva a pasar por alto problemas estructurales de esta tecnología, como las alucinaciones o la falta de transparencia en la generación de sus resultados, con los riesgos que ellos supone en la seguridad jurídica, los deberes deontológicos y la reputación profesional.

El número creciente de asuntos con errores graves, datos incorrectos o referencias inventadas debido a las alucinaciones de la IA, son ya conocidos por todos. El prestigio profesional y la competitividad de los profesionales que usaron los resultados sin supervisión ni verificación, se ha visto seriamente comprometida.

Y he aquí la paradoja del riesgo de oportunidad, que surge cuando la búsqueda de estas oportunidades termina generando riesgos que comprometen la seguridad jurídica y la reputación profesional. Es decir, el intento de aprovechar la oportunidad que esta tecnología ofrece crea el riesgo que se pretendía evitar (no ser competitivo en la era de la IA).

Es por ello, que implícitamente al uso de esta tecnología, va asociado el deber de revisión, supervisión y validación de los resultados generados. Esfuerzo que será más exigente, cuanto más compleja sea la tarea que le hayamos encomendado.

Ciertamente es difícil resistirse a no delegar parte de nuestra carga de trabajo en un sistema que redacta contratos en segundos, sintetiza jurisprudencia a la velocidad del rayo y anticipa riesgos con una precisión matemática.

Sin embargo, detrás de esta promesa late una pregunta incómoda: ¿realmente estamos ganando tanta eficiencia como pensamos? O, dicho de otro modo, ¿hemos calculado bien el coste oculto que la revisión, supervisión y validación de sus resultados exige?

Porque parece que la abogacía ha subestimado el coste del esfuerzo de esta tarea de verificación. Hemos comprado la narrativa de la eficiencia, sin calcular el precio de la supervisión.

No debemos olvidar que los sistemas generativos no piensan, sino que predicen. Y en esa predicción se cuelan errores que, en nuestro mundo, no son triviales: referencias normativas o jurisprudenciales inexistentes, interpretaciones sesgadas, conclusiones que parecen sólidas, pero carecen de sustento.

El riesgo de generación de resultados incorrectos obliga a revisar cada línea y cada argumento generado por IA.

La confianza ciega no es una opción en contextos donde la exactitud en la interpretación normativa y jurisprudencial, considerando los hechos y circunstancias particulares de cada caso, constituye un requisito fundamental. Donde los argumentos esgrimidos para sustentar nuestras pretensiones no pueden apoyarse en alucinaciones. Y donde la más mínima imprecisión en estos aspectos puede atentar gravemente a los deberes a los que nos debemos.

Esta labor de verificación se dificulta por la opacidad de los resultados generados por IA. Al funcionar como una caja negra, desconocemos su lógica interna y cómo llega a sus respuestas, lo que complica la supervisión y validación.

La falta de transparencia hace que supervisar la IA sea indispensable, pero paradójicamente, más compleja que el trabajo que pretendíamos simplificar.

Es aquí donde aparece la paradoja del valor de la verificación. El valor neto del uso de la IA no depende solo de la eficiencia que promete, sino del coste de verificar sus resultados. La fórmula es:

Valor neto del uso de la IA= eficiencia – coste de verificación.

Pero ¿qué ocurre cuando el coste de verificación se dispara? Porque cuanto más sofisticada es la tarea que le deleguemos (un análisis contractual complejo, la definición de una complicada estrategia procesal, o la emisión de un dictamen jurídico de gran calado), más tiempo y esfuerzo necesitamos para comprobar que la máquina no ha alucinado.

El supuesto ahorro se diluye en el tiempo y esfuerzo que hay que dedicar a la revisión, ya que el riesgo de pasar por alto un error se convierte en una amenaza real.

Esta paradoja mantiene como corolario lo siguiente: si no podemos confiar en ningún resultado sin supervisión humana, y no hay manera de entender cómo ha razonado la IA para generar un determinado resultado, esto significa que, en la práctica, la promesa de eficiencia se podría convertir en una ilusión. Porque el esfuerzo de revisar tiene un coste que rara vez se incluye en los cálculos de retorno de inversión.

Aquí es donde la paradoja del valor de la verificación se hace evidente. Cuando se sobrevalora la utilidad de la inteligencia artificial porque se subestima el coste y esfuerzo que implica la revisión de sus resultados, dándose el dilema de si el beneficio neto justifica la inversión

No porque la tecnología sea inútil o carezca de valor, sino porque la narrativa que la rodea, ignora el factor más crítico, que es que la supervisión no es opcional, es innegociable.

¿Significa esto que debemos rechazar la IA?

No. Significa que debemos replantear cómo la usamos. La solución no pasa por una adopción acrítica, sino por un modelo híbrido que combine automatización con control humano riguroso.

Solo así podremos equilibrar innovación y seguridad jurídica. Porque, en derecho, la eficiencia sin verificación no es progreso. Es riesgo.