L'home que va vendre la seva ombra

Per Iñigo Jiménez, expert en Mobilitat de RedAbogacía.

LinkedIn: https://www.linkedin.com/in/inigojimenez/

El 1814, mentre Europa es recomponia de les guerres napoleòniques, el botànic i poeta Adelbert von Chamisso va escriure una faula que, llegida dos segles després, provoca un calfred profètic. És la història de Peter Schlemihl, un home que comet l?error de vendre la seva pròpia ombra a un estrany personatge vestit de gris a canvi d?una bossa d?or inesgotable. Al principi el tracte sembla una genialitat econòmica, però Schlemihl aviat descobreix que en desprendre's d'aquesta taca fosca que s'arrossega als peus ha perdut l'ancoratge a la realitat. Sense ombra, els altres deixen de reconèixer-ho com a humà i la seva identitat es dissol en la llum.

Aquella inquietant ficció romàntica ressona avui amb una vigència que espanta. Cada cop que pugem la fotografia d'un tercer a una aplicació d'Intel·ligència Artificial, ja sigui per convertir un amic en un víking hiperrealista o per rejovenir el rostre d'un familiar, estem negociant sense saber-ho amb la seva ombra digital.

El que és fascinant, i alhora aterridor d'aquest instant tecnològic, és com hem trivialitzat l'alquímia de la imatge. Considerem aquests actes simples jocs de llums, passatemps innocus. Tot i això, si mirem més de prop, com qui ajusta el focus d'un microscopi, veurem que estem manipulant la matèria mateixa de la identitat. L'Agència Espanyola de Protecció de Dades (AEPD) acaba de publicar un document que funciona com un astrolabi per a navegants despistats en aquestes aigües turbulentes. La seva premissa és d'una claredat encegadora: una imatge, generada per IA o no, és una dada personal si permet identificar una persona. I alterar-la és, inevitablement, tocar la fibra sensible de la seva privadesa.

Per al jurista, que ha d'actuar com el guardià d'aquestes noves fronteres, i per a qualsevol de nosaltres, és vital comprendre que aquest fenomen té dues cares: una de visible que ens enlluerna a la pantalla i una altra d'invisible que opera en el silenci elèctric dels servidors.

Si observem a través de la lent del que és evident, els perills semblen clars. La tecnologia ha democratitzat una capacitat que abans estava reservada als déus o als grans estudis de cinema: alterar la realitat. Allò que l'AEPD anomena «impactes visibles» són aquestes conseqüències que salten a la retina quan la imatge sintètica comença a circular.

El vertigen comença amb la pèrdua de context. Una fotografia feta a la intimitat d'un sopar, sota una llum càlida i segura, no és una carta blanca per ser processada per una xarxa neuronal. Quan aquesta imatge es transforma entrem en el terreny de la descontextualització, on fets que mai no van passar adquireixen la textura de la veritat. Imaginem per un segon l'impacte d'un vídeo hiperrealista on un professional comet un acte il·lícit que no va passar mai. El mal al seu honor no és virtual, és tan físic com una pedrada.

Però hi ha un abisme encara més fosc: la sexualització. La creació de nus sintètics, l'anomenada deepfake pornography, a partir de fotos neutres és un senyal d'alarma que parpelleja en vermell intens. La facilitat per a la humiliació, especialment quan les víctimes són persones vulnerables, ens recorda que la tecnologia pot actuar com un amplificador de les nostres pitjors pulsions. Aquí la persistència de la dada digital fa que el mal sigui difícilment reversible. Esborrar una taca a internet és gairebé tan impossible per Schlemihl recuperar l'ombra que va vendre per unes monedes.

Tot i això, si afilem la mirada i observem més enllà de l'espectre visible, descobrim el que podríem anomenar l'habitació fosca del revelat digital. La veritable advertència és que el risc existeix pel sol fet de pujar la imatge, fins i tot si el resultat mai no arriba a veure la llum pública.

Aquí és on cal parar atenció a l'arquitectura invisible del sistema:

• El segrest del control: A l'instant en què els fotons convertits en bits toquen el núvol, el subjecte perd la sobirania. L?arxiu passa a regir-se pels dissenys d?un proveïdor extern, una entitat que sovint opera en una jurisdicció llunyana i sota regles tan opaques com una caixa negra.
• La memòria fantasma: Què passa amb la foto original? Molts sistemes fan una «retenció tècnica» i en guarden còpies ocultes per entrenar el model. La imatge del tercer queda atrapada en uns llimbs digitals, emmagatzemada per un temps indeterminat sense que l'afectat ho sàpiga.
• La biometria persistent: Potser el més inquietant és la capacitat de la IA per generar inferències. En processar la foto, la màquina no només «veu» una cara, sinó que extreu la cartografia exacta de la cara i els patrons biomètrics que ens fan únics. Algunes eines estan dissenyades per a la identificació persistent, creant un motlle de la nostra identitat en una màquina que mai no oblida.

Aquesta asimetria informativa és el taló d'Aquil·les de la nostra defensa: com podem demanar que esborrin la nostra empremta si ni tan sols sabem quin sistema està somiant amb la nostra cara?

Al final, aquest manual de riscos no és només una guia tècnica per a advocats. És una reflexió sobre la condició humana al segle XXI. Hem construït miralls capaços de somiar, però en aquests somnis de vegades prenen forma els malsons aliens. Com aquell desafortunat Peter Schlemihl, estem aprenent per força que la nostra ombra, composta per la nostra imatge, la nostra veu i les nostres dades, no és un accessori trivial del que ens puguem desprendre. És una extensió indivisible de la nostra dignitat.

La missió en aquesta era no és aturar la tecnologia, sinó garantir que en el frenesí de la innovació l'ésser humà no acabi devorat pel propi reflex. Ens hem d'assegurar que, quan s'apagui la pantalla, seguim sent els amos de la nostra llum.

font: https://www.aepd.es/prensa-y-comunicacion/notas-de-prensa/la-aepd-alerta-sobre-los-riesgos-visibles-e-invisibles-del