L'homme qui a vendu son ombre

Par Iñigo Jimenez, expert en mobilité RedAbogacía.

LinkedIn : https://www.linkedin.com/in/inigojimenez/

En 1814, tandis que l'Europe se remettait des guerres napoléoniennes, le botaniste et poète Adelbert von Chamisso écrivit une fable qui, lue deux siècles plus tard, suscite un frisson prophétique. C'est l'histoire de Peter Schlemihl, un homme qui commet l'erreur de vendre son ombre à un étrange personnage vêtu de gris en échange d'une bourse d'or inépuisable. Au premier abord, l'affaire semble un coup de génie économique, mais Schlemihl découvre bientôt qu'en se séparant de la tache sombre qui traîne à ses pieds, il a perdu tout lien avec la réalité. Sans son ombre, les autres cessent de le reconnaître comme un être humain, et son identité se dissout dans la lumière.

Cette fiction romantique troublante résonne aujourd'hui avec une pertinence effrayante. Chaque fois que nous téléchargeons la photo de quelqu'un d'autre sur une application d'intelligence artificielle, que ce soit pour transformer un ami en Viking hyperréaliste ou pour rajeunir le visage d'un membre de notre famille, nous négocions sans le savoir avec son ombre numérique.

Ce qui est à la fois fascinant et terrifiant à l'heure actuelle, c'est la façon dont nous avons banalisé l'alchimie de l'image. Nous considérons ces actes comme de simples jeux de lumière, des passe-temps inoffensifs. Pourtant, à y regarder de plus près, comme on ajuste la mise au point d'un microscope, on constate que nous manipulons l'essence même de l'identité. L'Agence espagnole de protection des données (AEPD) vient de publier un document qui sert de guide à ceux qui se sentent perdus dans ces eaux tumultueuses. Son postulat est d'une clarté limpide : une image, qu'elle soit générée par l'IA ou non, constitue une donnée personnelle si elle permet d'identifier une personne. Et la modifier touche inévitablement au cœur même de sa vie privée.

Pour le juriste, qui doit se faire le gardien de ces nouvelles frontières, et pour chacun d'entre nous, il est vital de comprendre que ce phénomène a deux visages : un visage visible qui nous éblouit sur l'écran et un visage invisible qui opère dans le silence électrique des serveurs.

Si l'on considère la situation sous l'angle de l'évidence, les dangers apparaissent clairement. La technologie a démocratisé une capacité autrefois réservée aux dieux ou aux grands studios de cinéma : celle de modifier la réalité. Ce que l'Agence espagnole de protection des données (AEPD) appelle les « impacts visibles » sont les conséquences qui frappent immédiatement le spectateur lorsque l'image de synthèse commence à circuler.

Le vertige commence avec la perte de contexte. Une photographie prise dans l'intimité d'un dîner, sous une lumière chaude et rassurante, n'est pas un blanc-seing à analyser par un réseau neuronal. Lorsque cette image est transformée, nous entrons dans le domaine de la décontextualisation, où des événements qui ne se sont jamais produits acquièrent une apparence de vérité. Imaginez un instant l'impact d'une vidéo hyperréaliste où un professionnel commet un acte illégal qui n'a jamais eu lieu. L'atteinte à sa réputation n'est pas virtuelle ; elle est aussi concrète qu'une pierre jetée en plein visage.

Mais il existe un abîme encore plus sombre : la sexualisation. La création de nus synthétiques, la pornographie dite « deepfake », à partir de photos neutres est un signal d’alarme. La facilité avec laquelle l’humiliation peut survenir, surtout lorsque les victimes sont vulnérables, nous rappelle que la technologie peut amplifier nos pires instincts. Ici, la persistance des données numériques rend les dégâts quasiment irréversibles. Effacer une tache sur Internet est presque aussi impossible que la tentative de Schlemihl de récupérer l’ombre qu’il a vendue pour quelques centimes.

Cependant, si nous portons un regard plus attentif sur ce qui se cache derrière le spectre visible, nous découvrons ce que l'on pourrait appeler la « chambre noire » du traitement numérique. Le véritable danger réside dans le simple fait de télécharger l'image, même si le résultat ne sera jamais diffusé.

C’est là qu’il faut s’intéresser à l’architecture invisible du système :

• La prise de contrôle : dès que les photons convertis en bits atteignent le cloud, le sujet perd sa souveraineté. Le fichier est alors régi par les volontés d'un fournisseur externe, une entité qui opère souvent dans une juridiction lointaine et selon des règles opaques.
• Mémoire fantôme : qu’advient-il de la photo originale ? De nombreux systèmes effectuent une « conservation technique » et conservent des copies cachées pour entraîner le modèle. L’image de la personne concernée se retrouve piégée dans un entre-deux numérique, stockée indéfiniment à son insu.
• Biométrie persistante : L’aspect le plus troublant réside peut-être dans la capacité de l’IA à formuler des déductions. En traitant une photo, la machine ne se contente pas de « voir » un visage, mais en extrait la cartographie précise et les caractéristiques biométriques qui nous rendent uniques. Certains outils sont conçus pour une identification permanente, créant un moule de notre identité dans une machine qui ne l’oublie jamais.

Cette asymétrie d'information est le talon d'Achille de notre défense : comment pouvons-nous leur demander d'effacer notre trace si nous ne savons même pas quel système rêve de notre visage ?

En définitive, ce manuel de gestion des risques n'est pas qu'un simple guide technique pour juristes. C'est une réflexion sur la condition humaine au XXIe siècle. Nous avons construit des miroirs capables de rêver, mais dans ces rêves, les cauchemars d'autrui prennent parfois forme. À l'instar du malheureux Peter Schlemihl, nous apprenons à nos dépens que notre ombre, composée de notre image, de notre voix et de nos données, n'est pas un accessoire anodin dont on peut se débarrasser. Elle est un prolongement indissociable de notre dignité.

La mission de notre époque n’est pas de freiner le progrès technologique, mais de veiller à ce que, dans la frénésie de l’innovation, l’humanité ne soit pas consumée par son propre reflet. Nous devons nous assurer que, lorsque l’écran s’éteint, nous restions maîtres de notre propre lumière.

source: https://www.aepd.es/prensa-y-comunicacion/notas-de-prensa/la-aepd-alerta-sobre-los-riesgos-visibles-e-invisibles-del