13 maig 2021

La intel·ligència artificial, a ratlla a la UE

Per Maitane Valdecants. Abogada. sòcia a Audens

@maivaldeflores

La Intel·ligència Artificial (en endavant IA) és una tecnologia que, mitjançant la millora de la predicció o l'optimització de recursos, pot portar grans beneficis, tant econòmics com socials, en sectors d'allò més diversos: finances, transport, sector públic o mitjà ambient. Però també pot plantejar riscos i conseqüències negatives per a les persones i per a la societat.

Per això, la Unió Europea pretén preservar el lideratge tecnològic, assegurant els beneficis de les noves tecnologies desenvolupades però sempre sota els valors, principis i drets fonamentals de la Unió.

Així, el passat 21 d'abril, la Comissió va plantejar la proposta de marc normatiu sobre IA amb una sèrie d'objectius específics: garantir que els sistemes d'IA comercialitzats i utilitzats en el mercat de la UE siguin segurs i respectin els drets fonamentals i valors de la Unió; garantir la seguretat jurídica per facilitar la inversió i la innovació en IA; millorar la governança i l'aplicació efectiva de la legislació vigent sobre drets i requisits de seguretat aplicables als sistemes d'IA; facilitar el desenvolupament d'un mercat únic per a aplicacions d'IA legals, segures i fiables i prevenir la fragmentació de mercat, motiu pel qual s'ha triat el reglament com a instrument legal.

Pel que fa a el contingut de la proposta, s'estableixen normes harmonitzades per al desenvolupament, comercialització i ús de sistemes d'IA a la Unió seguint un enfocament proporcionat basat en el risc. Aquestes normes s'aplicaran a través d'un sistema de governança a nivell dels estats membres, sustentat en estructures ja existents, i d'un mecanisme de cooperació a nivell de la Unió amb l'establiment d'una Junta Europea de IA.

A més, es vincula la promoció de la innovació impulsada per la IA a la Llei de Governança de Dades, la Directiva de Dades Obertes i altres iniciatives sota l'estratègia de la UE per les dades, que establiran mecanismes i serveis de confiança per a la reutilització, intercanvi i posada en comú, essencials per al desenvolupament de models d'IA basats en dades d'alta qualitat.

La proposta comença amb una sèrie d'aclariments interpretatius de conceptes entre les que es troba la relativa a què podem entendre per "sistema d'IA", Que el defineix com un eSCADA que es desenvolupat amb una o diverses tècniques (que especifica en el seu annex I) i que "pot, per a un conjunt donat d'objectius definits per humans, generar resultats com a contingut, prediccions, recomanacions o decisions que influeixen en els entorns amb els quals interactuen".

El text prohibeix un seguit de pràctiques com la comercialització, posada en servei o ús d'un sistema IA que desplegui tècniques subliminals capaços de distorsionar el comportament d'una persona que li causi o pugui causar oa un tercer un dany físic o psicològic; o d'un sistema IA que exploti qualsevol de les vulnerabilitats d'un grup de persones a causa de la seva edat o discapacitat, per tal de distorsionar el comportament d'una persona pertanyent a aquest grup d'una manera que causi o pugui causar, a aquesta persona o una altra, dany físic o psicològic; o de sistemes d'IA per part de les autoritats públiques, o en nom seu, per a l'avaluació o classificació de la fiabilitat de les persones físiques en funció del seu comportament social o personal i que, com a conseqüència, derivi en un tracte perjudicial o desfavorable en contextos socials que no guardin relació amb els contextos en què les dades es van generar o recopilar originalment o que aquest tracte sigui injustificat o desproporcionat respecte al seu comportament social o la seva gravetat.

També es prohibeix l'ús de sistemes d'identificació biomètrica remota "en temps real"En espais d'accés públic amb el propòsit de fer complir la llei, amb algunes excepcions com la recerca selectiva de possibles víctimes específiques de delictes, inclosos els nens desapareguts, o la prevenció d'un atac terrorista.

D'altra banda, s'especifica què es consideraran sistemes d'alt risc i s'estableix per a ells l'obligació d'implementar, documentar i mantenir un mètode de gestió de riscos. Aquest consistirà en un procés continu que identificarà i analitzarà els riscos coneguts i previsibles, d'estimar i avaluar els riscos que puguin sorgir i adoptarà mesures adequades de gestió d'aquests riscos.

La proposta tampoc s'oblida de la necessitat de garantir la transparència per permetre als usuaris interpretar els resultats de sistema i fer-lo servir de manera adequada i exigeix ​​que, durant el període d'ús dels sistemes d'IA d'alt risc, aquests puguin ser supervisats per persones físiques, amb l'objectiu de prevenir o minimitzar els riscos per a la salut, la seguretat o els drets fonamentals.

Així mateix, estableix obligacions per als proveïdors de sistemes d'AI d'alt risc. Entre d'altres, la de dur a terme una avaluació de conformitat, per posteriorment col·locar el marcatge CE, o la d'assegurar-se que els sistemes d'IA destinats a interactuar amb persones físiques estiguin dissenyats i desenvolupats de manera que aquestes estiguin informades que estan interactuant amb un sistema d'IA, llevat que això sigui obvi per les circumstàncies i el context d'ús. Aquesta obligació no s'aplica als sistemes d'IA autoritzats per la llei per detectar, prevenir, investigar i perseguir delictes, llevat que aquests sistemes estiguin disponibles perquè el públic pugui denunciar un delicte.

Pel que fa als usuaris, hauran d'usar el sistema en concordança a les instruccions d'ús, assegurar-se que les dades d'entrada siguin rellevants en vista de l'propòsit previst de sistema d'IA d'alt risc i complir amb la seva obligació de realitzar una avaluació d'impacte de la protecció de dades, entre d'altres.

D'altra banda, la Proposta de Reglament obliga els estats membres a designar una autoritat de notificació, que serà la responsable d'establir i dur a terme els procediments necessaris per a l'avaluació, designació i notificació dels organismes d'avaluació de la conformitat i de el seu seguiment.

Els organismes notificats han de ser els que verifiquin la conformitat de sistema d'IA d'alt risc, sent independents de proveïdor, de qualsevol altre operador que tingui un interès econòmic, així com de qualsevol competidor de l'proveïdor.

Finalment, per al possible incompliment de l'Reglament, els estats membres han d'establir un règim de sancions, que hauran de ser eficaces, proporcionades i dissuasòries i es preveuen multes administratives de fins a trenta milions d'euros o, si l'infractor és una empresa, de fins al 6% del seu volum de negocis anual total a nivell mundial corresponent a l'exercici financer anterior, si aquest és superior.

Encara que altres Estats han optat per una regulació més permissiva, la Unió Europea sempre s'ha caracteritzat per posar el focus en les persones i en el respecte als Drets Fonamentals. El marc jurídic sempre ha estat l'escut que impedeix que tot el tècnicament viable tingui encaix sense una reflexió ètica i amb totes les seves conseqüències en el mercat, impactant directament en les nostres societats i en la nostra forma de viure. És per això, que la proposta busca trobar un equilibri entre la innovació i el respecte als valors de la Unió.

 

Comparteix: