La IA al·lucina: la diferència la marca el professional

Per Concepció Campos Encunya, coordinadora d'Upro (programa formatiu en Competències Digitals) i membre del Consell Assessor sobre Innovació, Advocacia i Justícia Digital de l'Advocacia. 

X: @mccamposacunha

La intel·ligència artificial al·lucina. Aquesta afirmació, lluny de ser alarmista, ha de ser el punt de partida imprescindible per a qualsevol reflexió seriosa sobre la integració d'aquestes eines a l'exercici professional del dret.

Què és una al·lucinació? Quan parlem d'al·lucinacions ens referim a la tendència dels sistemes d'IA generativa a fabricar informació que sembla veraç, coherent i tècnicament correcta, però que no té fonament real. En l'àmbit jurídic, això es tradueix en la invenció de referències jurisprudencials inexistents, cites doctrinals apòcrifes o interpretacions normatives que mai no han estat sostingudes per cap tribunal.

Precisament perquè aquest fenomen és inherent al funcionament actual d‟aquests sistemes, l‟alfabetització digital i les competències tècniques no són opcionals: són l‟única salvaguarda efectiva. No n'hi ha prou amb utilitzar la IA; és imprescindible comprendre-la prou per identificar-ne les limitacions, verificar-ne els resultats i establir-ne els controls adequats.

Les competències digitals no són un afegit formatiu desitjable sinó la condició de possibilitat per a un ús responsable i professional d'aquestes tecnologies.

La realitat supera la ficció

La casuística internacional, i també nacional, ens ofereix exemples que han de servir com a advertiment i aprenentatge. Als Estats Units hem estat testimonis recentment de casos que han sacsejat la comunitat jurídica: advocats que han presentat escrits citant sentències completament inventades per sistemes d'IA, casos que han derivat en sancions disciplinàries, pèrdua de credibilitat professional i danys reputacionals de difícil reparació.

Al nostre entorn també hem vist treure el dubte sobre l'ús d'eines d'IA per part d'advocats, jutges i altres operadors jurídics. Aquests dubtes no són infundats ni revelen l'existència de ludites, sinó una legítima preocupació per garantir la qualitat, el rigor i la veracitat que exigeix ​​l'exercici del dret.

Perquè aquests episodis no són anècdotes aïllades ni errors de principiants desprevinguts; són la manifestació d'una bretxa formativa que afecta professionals experimentats que (encara) no han desenvolupat les competències necessàries per destriar quan la IA està fabricant contingut.

Integració sí, però amb garanties

És fonamental que els professionals del sector legal incorporem l'ús de la intel·ligència artificial a la nostra pràctica professional. La IA ofereix capacitats extraordinàries: anàlisi de grans volums documentals, identificació de patrons jurisprudencials, generació d'esborranys preliminars, investigació exploratòria de qüestions complexes.

Rebutjar aquestes eines per principi seria tan irresponsable com adoptar-les sense criteri. La clau és la integració amb supervisió i coneixement.

No es tracta de tenir por dels riscos que presenta la IA, sinó de garantir que podem aprofitar totes les oportunitats que ofereix amb la garantia professional i deontològica suficient. No es tracta de témer lús de la IA. La por és paralitzant i improductiva; la prudència informada és estratègica i necessària.

La diferència rau en la formació: qui coneix les capacitats i limitacions d'aquestes eines pot desplegar protocols de verificació efectius, establir fluxos de treball que minimitzin errors i maximitzin eficiència, i distingir quines tasques es poden delegar parcialment a la IA i quines requereixen exclusivament judici humà.

Riscos concrets per a l'exercici professional de l'advocacia

Per als que exercim l'advocacia, les possibilitats que la IA inventi referències de sentències, normatives o doctrinals són elevades i representen riscos molt concrets.

Una sentència fictícia esmentada en un escrit processal no només compromet l'argumentació jurídica; pot constituir una falta deontològica greu, generar responsabilitat professional davant del client i erosionar la confiança que el tribunal diposita a la nostra paraula. La reputació professional, construïda durant anys d'exercici rigorós, es pot veure compromesa per la incorporació acrítica de contingut generat artificialment.

Les conseqüències van més enllà de la pèrdua de credibilitat. Depenent de les circumstàncies, ens podem enfrontar a responsabilitats disciplinàries davant dels col·legis professionals, responsabilitat civil davant de clients perjudicats per estratègies defectuoses basades en informació falsa, i fins i tot, en casos extrems, conseqüències d'índole penal si la utilització de documentació falsa es considera constitutiva de delicte.

El desconeixement de les limitacions de l'eina no constitueix eximent quan la nostra obligació professional és garantir la veracitat i el rigor del nostre treball. Diligència deguda.

Cap a una pràctica professional responsable

La resposta adequada no és ni la prohibició ni l'adopció entusiasta sense filtres de la IA, sinó la construcció d'una pràctica professional responsable que integri aquesta tecnologia com a eina auxiliar sotmesa a supervisió humana qualificada.

Com fer-ho?

• Primer, Alfabetització. Formació contínua en competències digitals que ens permeti comprendre com funcionen aquests sistemes, què poden i què no poden fer, i on resideixen les principals vulnerabilitats.
• Segon, Supervisió. Establiment de protocols de verificació que converteixin la comprovació de fonts en un pas no negociable abans dincorporar qualsevol contingut generat per IA al nostre treball professional.
• Tercer, Transparència. Adoptar una cultura de transparència que ens porti a documentar quan i com utilitzem aquestes eines, facilitant traçabilitat i accountability.

Per tant, la pregunta no és si els professionals del sector legal estan utilitzant la IA sinó si compten amb la formació suficient per fer-ho de manera crítica i verificada. La supervisió humana informada no és un fre a la innovació; és la condició que permet que la innovació sigui, efectivament, progrés.

En definitiva, pot ser que la IA sigui capaç de redactar un escrit en pocs minuts, però només tu pots garantir que cada sentència o referència legal esmentada existeix: aquesta verificació és el que et converteix en professional, no pas en usuari.