06 novembre 2023

L'Ombra Digital: el perill dels Deepfakes

Per Iñigo Jiménez, expert en Mobilitat de RedAbogacía.

Com a creadors de contingut, hem presenciat la preocupació creixent al voltant dels deepfakes i les seves repercussions ètiques. Si bé la tecnologia subjacent pot ser fascinant, el seu abús per a propòsits il·legals o perjudicials és inacceptable.

Des del recent cas d'Almendralejo, on es va utilitzar la IA per generar imatges falses de menors nus, fins a la investigació de la Internet Watch Foundation (IWF), que va revelar gairebé 3.000 imatges d'abús sexual infantil generades per IA, demostren que aquesta amenaça requereix acció urgent.

Ningú hauria d'haver de suportar el trauma de veure's envoltat de pornografia profana o acusacions calumnioses contra la seva voluntat.

La legislació espanyola protegeix fermament la privadesa i dignitat humanes. No obstant això, la naturalesa digital dels deepfakes exigeix ​​més sofisticació en la seva regulació. Urgeix que les autoritats enforteixin les lleis, capacitin els organismes encarregats de fer-les complir i eduquin la societat en conjunt.

Com a pares i joves ens toca auxiliar en aquest esforç compartint coneixements. Xerrar sobre la privadesa en línia, el consentiment, la verificació de fonts i la resiliència davant l'assetjament resulta essencial. Tenir cura de la pròpia “petjada digital” i promoure valors de compassió entre parells també ajuda a contrarestar l'impacte del mal ús de la tecnologia.

CONSELLS PER A PROGENITORS:

  • Parla amb els teus fills sobre privadesa digital i consentiment des d'una edat primerenca. Explica que allò que comparteixen en línia pot ser vist per qualsevol.
  • Coneix les plataformes i jocs que usen. Passa temps al costat mentre naveguen per orientar-los sobre què contenen i com reportar problemes.
  • Revisa periòdicament les seves configuracions de privadesa i assegura't que només comparteixen amb amics coneguts.
  • Ensenya la importància de no enviar fotos o vídeos íntims que poden ser manipulats mitjançant tecnologies com els deepfakes.
  • Capacita't sobre deepfakes i comparteix els teus coneixements amb els teus fills de forma pedagògica. Parlar del tema els dóna eines per identificar-los.
  • Fes servir controls parentals per limitar l'accés a contingut no apropiat per a la seva edat i monitoritza la seva navegació per detectar comportaments de risc.
  • Inculca valors d'empatia i de respecte perquè sàpiguen com actuar si identifiquen un cas de deepfake o són víctimes d'assetjament.
  • Dóna l'exemple navegant amb prudència. Els teus fills aprendran hàbits saludables veient-te prendre mesures bàsiques de seguretat.

CONSELLS PER ALS JOVES I MENORS

  • Pensa bé el que comparteixes en línia i amb qui. Una foto inapropiada pot ser usada en contra teu anys després.
  • Configura bé les xarxes socials, aplicacions i jocs. Assegureu-vos que només els vostres amics puguin veure el vostre contingut.
  • Sigues caut amb els missatges i trucades de gent que no coneixes. Poden intentar enganyar-te per robar informació o imatges teves.
  • No creguis tot allò que circula per internet. Aprèn a verificar fonts i dades abans de replicar informació o ficar-te a embolics.
  • Si alguna cosa sembla massa escandalosa per ser veritat, probablement és falsa. Els deepfakes solen exagerar la realitat.
  • Denuncia ràpid si Identifiques un deepfake nociu o ets víctima d'assetjament. Demana ajuda a professors o adults de confiança.
  • No tingueu por d'expressar el vostre sentir davant la pressió dels altres. La teva seguretat és el primer.
  • Cura dels altres. Una broma de mal gust pot ferir profundament algú. Sigueu compassius.

Els creadors de deepfakes contribueixen a erosionar la confiança pública en sistemes com la biometria, amb conseqüències econòmiques i polítiques de pes.

Els deepfakes tenen un potencial seriós per soscavar la capacitat de la societat per distingir els fets de la ficció. Imagina't si els deepfakes fossin usats per generar notícies falses o manipular propaganda política just abans d'unes eleccions. Podria distorsionar seriosament el discurs públic i minar la confiança de la gent en institucions clau. Fins i tot s'han expressat preocupacions sobre la seva capacitat per incriminar falsament figures públiques com a polítics o CEOs.

Cal fomentar un diàleg constructiu entre especialistes, defensors de drets, plataformes digitals i autoritats, per fonamentar solucions que preservin tant l'avenç científic com la dignitat humana a l'era virtual.

Només units aconseguirem vèncer aquesta ombra digital que amenaça el nostre futur compartit.

Comparteix: