La paradoxa del valor de la verificació: Estem sobreestimant l‟eficiència que la IA pot procurar al‟advocacia?

Per Rocío Ramírez

Fa unes setmanes vaig llegir un estudi de la Facultat de Dret de la Universitat d'Auckland que parlava sobre la paradoxa del valor de la verificació en l'ús de la IA generativa al sector legal. Us comparteixo l'enllaç: The Verification-Value Paradox: A Normative Critique of Gen AI in Legal Practice by Joshua Yuvaraj :: SSRN

I em va semblar una qüestió de molt interès.

Com a pressupost d'aquesta paradoxa, l'estudi fa referència a la paradoxa del risc d'oportunitat, que es fonamenta en la irrupció accelerada i gairebé hipnòtica de la IA al sector legal. I sobre com l'advocacia, percebent l'oportunitat estratègica que aquesta tecnologia procura, així com la millora d'eficiències, innovació i avantatge competitiu que pot suposar, l'estigui integrant de manera precipitada en els processos interns, sense entendre realment el risc inherent al seu ús sense supervisió.

Aquest risc d'oportunitat genera una confiança excessiva a la IA per aconseguir eficiència i competitivitat. I porta a passar per alt problemes estructurals d'aquesta tecnologia, com ara les al·lucinacions o la manca de transparència en la generació dels seus resultats, amb els riscos que ells suposa en la seguretat jurídica, els deures deontològics i la reputació professional.

El nombre creixent d'assumptes amb errors greus, dades incorrectes o referències inventades a causa de les al·lucinacions de la IA, ja són coneguts per tots. El prestigi professional i la competitivitat dels professionals que van fer servir els resultats sense supervisió ni verificació, s'ha vist seriosament compromesa.

I heus aquí la paradoxa del risc d'oportunitat, que sorgeix quan la cerca d'aquestes oportunitats acaba generant riscos que comprometen la seguretat jurídica i la reputació professional. És a dir, l'intent d'aprofitar l'oportunitat que ofereix aquesta tecnologia crea el risc que es pretenia evitar (no ser competitiu a l'era de la IA).

És per això que implícitament a l'ús d'aquesta tecnologia va associat el deure de revisió, supervisió i validació dels resultats generats. Esforç que serà més exigent, com més complexa sigui la tasca que us haguem encomanat.

Certament, és difícil resistir-se a no delegar part de la nostra càrrega de treball en un sistema que redacta contractes en segons, sintetitza jurisprudència a la velocitat del llamp i anticipa riscos amb una precisió matemàtica.

Tot i això, darrere d'aquesta promesa batega una pregunta incòmoda: realment estem guanyant tanta eficiència com pensem? O, dit altrament, hem calculat bé el cost ocult que la revisió, supervisió i validació dels seus resultats exigeix?

Perquè l'advocacia sembla que ha subestimat el cost de l'esforç d'aquesta tasca de verificació. Hem comprat la narrativa de l'eficiència sense calcular el preu de la supervisió.

No hem d'oblidar que els sistemes generatius no pensen, sinó que prediuen. I en aquesta predicció es colen errors que, al nostre món, no són trivials: referències normatives o jurisprudencials inexistents, interpretacions esbiaixades, conclusions que semblen sòlides, però no tenen suport.

El risc de generació de resultats incorrectes obliga a revisar cada línia i cada argument generat per IA.

La confiança cega no és una opció en contextos on l'exactitud en la interpretació normativa i jurisprudencial, considerant els fets i les circumstàncies particulars de cada cas, constitueix un requisit fonamental. On els arguments esgrimits per sustentar les nostres pretensions no es poden recolzar en al·lucinacions. I on la més mínima imprecisió en aquests aspectes pot atemptar greument els deures als quals ens devem.

Aquesta feina de verificació es dificulta per l'opacitat dels resultats generats per IA. En funcionar com una caixa negra, desconeixem la seva lògica interna i com arriba a les respostes, cosa que complica la supervisió i validació.

La manca de transparència fa que supervisar la IA sigui indispensable, però paradoxalment, més complexa que la feina que preteníem simplificar.

És aquí on apareix la paradoxa del valor de la verificació. El valor net de l'ús de la IA no depèn només de l'eficiència que promet, sinó del cost de verificar-ne els resultats. La fórmula és:

Valor net de lús de la IA= eficiència – cost de verificació.

Però què passa quan el cost de verificació es dispara? Perquè com més sofisticada és la tasca que el deleguem (una anàlisi contractual complexa, la definició d'una complicada estratègia processal o l'emissió d'un dictamen jurídic de gran importància), més temps i esforç necessitem per comprovar que la màquina no ha al·lucinat.

El suposat estalvi es dilueix en el temps i l'esforç que cal dedicar a la revisió, ja que el risc de passar per alt un error es converteix en una amenaça real.

Aquesta paradoxa manté com a corol·lari el següent: si no podem confiar en cap resultat sense supervisió humana, i no hi ha manera d'entendre com ha raonat la IA per generar un resultat determinat, això significa que, a la pràctica, la promesa d'eficiència es podria convertir en una il·lusió. Perquè l'esforç de revisar té un cost que poques vegades s'inclou als càlculs de retorn d'inversió.

Aquí és on la paradoxa del valor de la verificació es fa evident. Quan se sobrevalora la utilitat de la intel·ligència artificial perquè se subestima el cost i esforç que implica la revisió dels seus resultats, donant-se el dilema de si el benefici net justifica la inversió

No perquè la tecnologia sigui inútil o no tingui valor, sinó perquè la narrativa que l'envolta ignora el factor més crític, que és que la supervisió no és opcional, és innegociable.

Això vol dir que hem de rebutjar la IA?

No. Significa que hem de replantejar com la fem servir. La solució no passa per una adopció acrítica, sinó per un model híbrid que combini automatització amb control humà rigorós.

Només així podrem equilibrar innovació i seguretat jurídica. Perquè, en dret, l‟eficiència sense verificació no és progrés. És risc.