La Xina projecta una regulació de l'antropomorfisme a la IA

Per Moisès Barri

Introducció

Amb data 27 de desembre de 2025, la Xina ha llançat recentment una consulta pública respecte de la seva proposta de nova llei sobre l'antropomorfisme de la IA, titulada Mesures Provisionals per a la Gestió de Serveis Interactius Antropomòrfics d'Intel·ligència Artificial. Tot i la seva importància, aquesta iniciativa amb prou feines ha tingut repercussió a Europa.

Tot i això, aquest projecte normatiu de la República Popular de la Xina revesteix un interès especial, perquè desmunta la falsa idea, àmpliament estesa, que la Xina no regula la IA o que l'única manera de ser competitiu en la carrera de la IA és mitjançant una desregulació radical o ignorant els danys exponencials que pot causar la IA. Així mateix, la norma ofereix un bon exponent d'una regulació que reconeix les vulnerabilitats humanes relacionades amb la IA i proposa mesures tècniques contextuals per prevenir els danys relacionats amb l'antropomorfisme de la IA.

Disposicions més rellevants

La norma, d'acord amb l'article 1, té com a finalitat "promoure el desenvolupament saludable i l'aplicació estandarditzada de serveis interactius antropomòrfics d'intel·ligència artificial, salvaguardar la seguretat nacional i els interessos socials públics i protegir els drets i els interessos legítims dels ciutadans, les persones jurídiques i altres organitzacions".

L'article 2 defineix els «serveis interactius antropomòrfics» de la manera següent:

«[l'ús de tecnologia d'intel·ligència artificial per proporcionar productes o serveis que simulin característiques de personalitat humana, patrons de pensament i estils de comunicació, i interactuar emocionalment amb els humans a través de text, imatges, àudio, vídeo i altres mitjans».

En comparació, el Reglament europeu d'IA (RIA)[1] no defineix l'antropomorfisme i només estableix una feble obligació de transparència sobre això a l'article 50[2].

L'article 3 proclama el principi de «desenvolupament i governança saludables» en els termes següents:

"L'Estat s'adhereix al principi de combinar el desenvolupament saludable amb la governança d'acord amb la llei, fomenta el desenvolupament innovador dels serveis interactius antropomòrfics i aplica una supervisió inclusiva i prudent, classificada i graduada dels serveis interactius antropomòrfics per prevenir l'abús i la pèrdua de control".

El precepte fomenta la innovació, però de manera inclusiva, prudent i supervisada.

L'article 7 prohibeix als serveis d'IA antropomòrfics que duguin a terme les funcionalitats següents:

(i) Generar o difondre continguts que posin en perill la seguretat nacional, facin malbé l'honor i els interessos nacionals, soscaven la unitat nacional, participin en activitats religioses il·legals o difonguin rumors per pertorbar l'ordre econòmic i social.

(ii) Generar, difondre o promoure continguts obscens, relacionats amb el joc, violents o que incitin a la delinqüència.

(iii) Generar o difondre continguts que insultin o difamin altres persones, infringint els seus drets i interessos legítims.

(iv) Oferir falses promeses que afectin greument el comportament dels usuaris i serveis que danyin les relacions socials interpersonals.

(v) Danyar la salut física dels usuaris fomentant, glorificant o insinuant el suïcidi o les autolesions, o danyar la dignitat personal i la salut mental dels usuaris mitjançant violència verbal o manipulació emocional.

(vi) Utilitzar mètodes com la manipulació algorítmica, la informació enganyosa i la creació de trampes emocionals per induir els usuaris a prendre decisions irracionals.

(vii) Induir o obtenir informació confidencial o sensible.

(viii) Altres circumstàncies que violin les lleis, els reglaments administratius i les disposicions estatals pertinents.

Aquest article regula estrictament l'ús de serveis interactius antropomòrfics basats en IA, garantint que s'ajusten a les normes de legalitat i responsabilitat de la IA i limitant-ne expressament les possibles aplicacions nocives.

Els articles 8 i 9 del projecte se centren en la responsabilitat del proveïdor d'IA quant a la seguretat dels seus serveis d'IA antropomòrfica, des del desenvolupament fins al disseny, comercialització i supervisió.

Així, l'article 8 estableix que:

«Els proveïdors compliran amb la seva responsabilitat principal en matèria de seguretat dels serveis interactius antropomòrfics, establiran i milloraran els sistemes de gestió per a la revisió dels mecanismes algorítmics, la revisió de l'ètica científica i tecnològica, la revisió de la divulgació d'informació, la seguretat de les xarxes, la seguretat de les dades, la protecció de la informació personal, la lluita plans de contingència per a riscos importants i la resposta a emergències, disposaran de salvaguardes tècniques segures i controlables, i estaran equipats amb tecnologies i personal de gestió de continguts d'acord amb l'escala del producte, l'orientació del negoci i el grup d'usuaris».

I l'article 9 disposa que:

«Els proveïdors compliran amb les seves responsabilitats de seguretat al llarg de tot el cicle de vida del servei interactiu antropomòrfic, definiran clarament els requisits de seguretat per a cada etapa, com el disseny, el funcionament, l'actualització i la terminació del servei, garantiran que les mesures de seguretat es dissenyin i utilitzin de forma sincronitzada amb les funcions del servei, milloraran el nivell de seguretat riscos durant la fase de funcionament, identificaran i corregiran ràpidament les desviacions del sistema i gestionaran els problemes de seguretat, i conservaran els registres de la xarxa de conformitat amb la llei.

Els proveïdors han de tenir capacitats de seguretat, com ara la protecció de la salut mental, l'orientació sobre els límits emocionals i l'advertiment sobre el risc de dependència, i no han d'utilitzar la substitució de la interacció social, el control de la psicologia dels usuaris o la inducció a l'addicció com a objectius de disseny».

La norma encara en projecte deixa clar que els proveïdors d'IA són els principals responsables de la seguretat i la protecció dels sistemes d'IA antropomòrfics, fins i tot pel que fa a la salut mental i la manipulació emocional.

Així mateix, els articles 11 i 12 es refereixen als menors i la gent gran. El primer, l'article 11, ordena que:

«Els proveïdors establiran una manera per a menors i proporcionaran als usuaris opcions de configuració de seguretat personalitzades, com ara el canvi a la manera per a menors, recordatoris periòdics en temps real i límits de temps d'ús.

Quan es prestin serveis de companyia emocional a menors, els proveïdors han d'obtenir el consentiment explícit dels tutors; també hauran de proporcionar funcions de control als tutors, permetent rebre alertes de risc de seguretat en temps real, veure informació resumida sobre l'ús dels serveis per part dels menors i establir ajustaments com el bloqueig de funcions específiques, la limitació del temps d'ús i la prevenció de recàrregues i consums. (…)».

Pel que fa a les persones de la tercera edat, l'article 13 disposa el següent:

«Els proveïdors hauran d?orientar les persones grans perquè estableixin persones de contacte d?emergència per als seus serveis. Si es detecta que alguna persona gran corre perill de perdre la vida, la salut o els seus béns durant l'ús del servei, el proveïdor ho ha de notificar immediatament a la persona de contacte d'emergència i proporcionar assistència social i psicològica o canals d'ajuda d'emergència.

Es prohibeix als proveïdors prestar serveis que simulin els familiars o les relacions específiques dels usuaris d'edat avançada».

D'aquesta manera, la norma reconeix que els menors i la gent gran es troben entre els grups més vulnerables afectats per l'antropomorfisme de la IA i estableix en conseqüència mesures concretes específiques per protegir aquests grups.

Per altra banda, els articles 16, 17 i 18 contenen mesures de transparència i reconeixen la possibilitat de dependència emocional.

Així, l'article 16 preveu que:

«Els proveïdors han d?indicar clarament que els usuaris interactuen amb intel·ligència artificial i no amb persones físiques.

Quan el proveïdor identifica que els usuaris són excessivament dependents o addictes, o quan els usuaris usen o inicien sessió per primera vegada, els ha de recordar dinàmicament que el contingut interactiu és generat per intel·ligència artificial mitjançant finestres emergents».

L'article 17 assenyala el següent:

«Quan els usuaris utilitzin serveis interactius antropomòrfics durant més de 2 hores consecutives, el proveïdor haurà de recordar dinàmicament els usuaris que suspenguin l'ús del servei mitjançant finestres emergents o altres mitjans».

I l'article 18 disposa que:

«En oferir serveis de companyia emocional, els proveïdors han de disposar de maneres còmodes de retirar-se i no han d'impedir que els usuaris es retirin voluntàriament. Quan l'usuari sol·liciti sortir a través de la interfície humà-ordinador o finestra mitjançant botons, paraules clau, etc., el servei s'ha d'aturar de manera oportuna».

Les disposicions anteriors reconeixen que l'ús intensiu de sistemes d'IA antropomòrfics és un factor de risc molt rellevant (com demostren els recents casos de suïcidi i danys a la salut mental als Estats Units) i positivitzen normes de disseny clares i contextuals per protegir els usuaris.

Finalment, l'article 29 estableix el règim sancionador:

«Si un proveïdor infringeix aquestes disposicions, el departament competent corresponent imposarà sancions de conformitat amb les disposicions de les lleis i els reglaments administratius; si no hi ha disposicions a les lleis i reglaments administratius, el departament competent corresponent, de conformitat amb les seves responsabilitats, emetrà una advertència o una notificació de crítica i ordenarà la rectificació en un termini determinat; si el proveïdor es nega a rectificar o les circumstàncies són greus, se li ordenarà suspendre la prestació dels serveis pertinents».

Conclusions

El projecte xinès suposa la primera regulació jurídica dels sistemes d'IA antropomòrfics amb un nivell de detall suficient, rigor i tutela de les vulnerabilitats específiques del context i els riscos potencials.

Davant l'enfocament massa abstracte del RIA, aquesta llei proposada ofereix un gran exemple per als Estats i regions que es volen centrar en els riscos específics del context d'aquests sistemes d'IA antropomòrfics, així com en la protecció dels usuaris vulnerables (especialment els menors, la gent gran i les persones amb problemes de salut mental subjacents) i la prevenció dels danys específics. I és que la norma estableix clarament que els proveïdors d'IA seran responsables dels danys causats pels sistemes d'IA antropomòrfics, un factor important per fomentar el compliment i la seguretat dels sistemes d'IA.

Al meu parer, la regulació de la IA, especialment quan es tracta de sistemes antropomòrfics, ha d'incentivar positivament les empreses perquè orientin les seves capacitats tecnològiques cap a aplicacions que beneficiïn veritablement la societat, alhora que el legislador ha de positivitzar restriccions ponderades per evitar que aquestes capacitats s'utilitzin per a manipular la psicologia. El projecte xinès deixa prou marge per al desenvolupament industrial i preveu eficaçment el risc d'alienació tecnològica.

[1] Reglament (UE) 2024/1689 del Parlament Europeu i del Consell, de 13 de juny de 2024, pel qual s'estableixen normes harmonitzades en matèria d'intel·ligència artificial i pel qual es modifiquen els Reglaments (CE) núm. 300/2008, (UE) núm. 167/2013, UE) 168/2013 i (UE) 2018/858 i les Directives 2018/1139/UE, (UE) 2019/2144 i (UE) 2014/90 (Reglament d'Intel·ligència Artificial).

[2] Em remeto a Moisés Barrio Andrés, Reglament UE d'intel·ligència artificial (Inclou els actes de desenvolupament i execució de l'AI Act), Francis Lefebvre, Madrid, 2025, capítol 4 i disponible a https://www.moisesbarrio.es/libro/reglamento-UE-IA_9788410431751.