La Chine prévoit de réglementer l'anthropomorphisme dans l'IA

Par Moses Barrio

Introduction

Le 27 décembre 2025, la Chine a lancé une consultation publique sur son projet de loi relatif à l'anthropomorphisme de l'IA, intitulé « Mesures provisoires pour la gestion des services d'intelligence artificielle anthropomorphiques interactifs ». Malgré son importance, cette initiative a reçu peu d'attention en Europe.

Toutefois, ce projet de réglementation de la République populaire de Chine présente un intérêt particulier car il réfute l'idée fausse, largement répandue, selon laquelle la Chine ne réglemente pas l'IA ou que la seule façon d'être compétitif dans la course à l'IA est de recourir à une déréglementation radicale ou d'ignorer les dommages exponentiels que l'IA peut causer. De plus, cette réglementation offre un bon exemple de cadre qui reconnaît les vulnérabilités humaines liées à l'IA et propose des mesures techniques contextuelles pour prévenir les préjudices associés à l'anthropomorphisme de l'IA.

dispositions les plus pertinentes

Le règlement, selon son article 1, vise à « promouvoir le développement sain et l’application normalisée des services d’intelligence artificielle interactive anthropomorphe, à sauvegarder la sécurité nationale et les intérêts sociaux publics, et à protéger les droits et intérêts légitimes des citoyens, des personnes morales et des autres organisations ».

L’article 2 définit les « services interactifs anthropomorphiques » comme suit :

« [L’]utilisation de la technologie de l’intelligence artificielle pour fournir des produits ou des services qui simulent les caractéristiques de la personnalité humaine, les schémas de pensée et les styles de communication, et interagissent émotionnellement avec les humains par le biais de textes, d’images, d’audio, de vidéo et d’autres médias. »

En comparaison, le règlement européen sur l'IA (RIA)[1] Elle ne définit pas l'anthropomorphisme et n'établit à cet égard, dans son article 50, qu'une faible obligation de transparence.[2].

L’article 3 proclame le principe de « développement et de gouvernance sains » dans les termes suivants :

« L’État adhère au principe qui consiste à allier développement sain et gouvernance conforme à la loi, encourage le développement novateur des services interactifs anthropomorphiques et applique une supervision inclusive, prudente, classifiée et graduée de ces services afin de prévenir les abus et les pertes de contrôle. »

Ce principe encourage l'innovation, mais de manière inclusive, prudente et encadrée.

L’article 7 interdit aux services d’IA anthropomorphes d’effectuer les fonctions suivantes :

(i) Générer ou diffuser un contenu qui met en danger la sécurité nationale, porte atteinte à l’honneur et aux intérêts nationaux, compromet l’unité nationale, participe à des activités religieuses illégales ou répand des rumeurs pour perturber l’ordre économique et social.

(ii) Générer, diffuser ou promouvoir du contenu obscène, lié au jeu, violent ou criminel.

(iii) Générer ou diffuser un contenu qui insulte ou diffame d’autres personnes, portant atteinte à leurs droits et intérêts légitimes.

(iv) Faire de fausses promesses qui affectent gravement le comportement des utilisateurs et des services qui nuisent aux relations sociales interpersonnelles.

(v) Porter atteinte à la santé physique des utilisateurs en encourageant, en glorifiant ou en insinuant le suicide ou l’automutilation, ou porter atteinte à la dignité personnelle et à la santé mentale des utilisateurs par la violence verbale ou la manipulation émotionnelle.

(vi) Utiliser des méthodes telles que la manipulation algorithmique, la désinformation et la création de pièges émotionnels pour inciter les utilisateurs à prendre des décisions irrationnelles.

(vii) Inciter ou obtenir des informations confidentielles ou sensibles.

(viii) Autres circonstances qui violent les lois, règlements administratifs et dispositions étatiques pertinents.

Cet article réglemente strictement l'utilisation des services interactifs anthropomorphiques basés sur l'IA, en veillant à ce qu'ils respectent les normes de légalité et de responsabilité en matière d'IA et en limitant expressément leurs applications potentiellement nuisibles.

Les articles 8 et 9 du projet portent sur la responsabilité du fournisseur d’IA en ce qui concerne la sécurité de ses services d’IA anthropomorphes, du développement à la conception, en passant par le marketing et le suivi.

L’article 8 stipule donc que :

« Les fournisseurs devront assumer leur responsabilité première en matière de sécurité des services interactifs anthropomorphiques, établir et améliorer les systèmes de gestion pour l'examen des mécanismes algorithmiques, l'examen de l'éthique scientifique et technologique, l'examen de la divulgation d'informations, la sécurité du réseau, la sécurité des données, la protection des informations personnelles, la lutte contre la fraude dans les télécommunications et les réseaux, les plans d'urgence pour les risques majeurs et les interventions d'urgence, disposer de garanties techniques sûres et contrôlables, et être équipés de technologies de gestion de contenu et de personnel adaptés à l'échelle du produit, à l'orientation commerciale et au groupe d'utilisateurs. »

Et l'article 9 stipule que :

« Les fournisseurs s’acquitteront de leurs responsabilités en matière de sécurité tout au long du cycle de vie du service interactif anthropomorphique, définiront clairement les exigences de sécurité pour chaque étape, telles que la conception, l’exploitation, la mise à niveau et l’arrêt du service, veilleront à ce que les mesures de sécurité soient conçues et utilisées de manière synchronisée avec les fonctions du service, renforceront le niveau de sécurité intrinsèque, consolideront la surveillance de la sécurité et l’évaluation des risques pendant la phase opérationnelle, identifieront et corrigeront rapidement les anomalies du système et géreront les problèmes de sécurité, et tiendront à jour les registres du réseau conformément à la loi. »

Les prestataires doivent posséder des capacités de sécurité, telles que la protection de la santé mentale, des conseils sur les limites émotionnelles et des avertissements sur le risque de dépendance, et ne doivent pas utiliser la substitution de l'interaction sociale, le contrôle de la psychologie des utilisateurs ou l'induction de la dépendance comme objectifs de conception.

Le projet de règlement indique clairement que les fournisseurs d'IA sont les principaux responsables de la sûreté et de la sécurité des systèmes d'IA anthropomorphes, notamment en ce qui concerne la santé mentale et la manipulation émotionnelle.

Les articles 11 et 12 concernent également les mineurs et les personnes âgées. L'article 11 stipule que :

« Les fournisseurs mettront en place un mode enfant et proposeront aux utilisateurs des options de paramètres de sécurité personnalisés, telles que le passage en mode enfant, des rappels périodiques en temps réel et des limites de temps d'utilisation. »

Lorsqu'ils fournissent des services d'accompagnement émotionnel à des mineurs, les prestataires doivent obtenir le consentement explicite des tuteurs ; ils doivent également fournir aux tuteurs des outils de contrôle leur permettant de recevoir des alertes en temps réel sur les risques de sécurité, de consulter des informations récapitulatives sur l'utilisation des services par les mineurs et de paramétrer des options telles que le blocage de certaines fonctions, la limitation du temps d'utilisation et l'empêchement des recharges et de la consommation. (...)

Concernant les personnes âgées, l'article 13 stipule ce qui suit :

« Les prestataires de services doivent inciter les personnes âgées à désigner des personnes à contacter en cas d'urgence. Si une personne âgée risque de perdre la vie, sa santé ou ses biens pendant qu'elle utilise le service, le prestataire doit immédiatement en informer la personne à contacter en cas d'urgence et lui fournir un soutien social et psychologique ou des services d'aide d'urgence. »

Il est interdit aux prestataires de proposer des services qui simulent des membres de la famille ou des relations spécifiques des utilisateurs âgés.

Ainsi, le règlement reconnaît que les mineurs et les personnes âgées font partie des groupes les plus vulnérables touchés par l'anthropomorphisme de l'IA et établit par conséquent des mesures concrètes spécifiques pour protéger ces groupes.

En outre, les articles 16, 17 et 18 contiennent des mesures de transparence et reconnaissent la possibilité d’une dépendance affective.

L’article 16 prévoit donc que :

« Les fournisseurs doivent clairement indiquer que les utilisateurs interagissent avec une intelligence artificielle et non avec des personnes physiques. »

Lorsque le fournisseur constate qu'un utilisateur est trop dépendant ou accro, ou lorsqu'il utilise ou se connecte pour la première fois, il doit lui rappeler de manière dynamique, par le biais de fenêtres contextuelles, que le contenu interactif est généré par une intelligence artificielle.

L'article 17 stipule ce qui suit :

« Lorsque les utilisateurs utilisent des services interactifs anthropomorphiques pendant plus de 2 heures consécutives, le fournisseur doit leur rappeler dynamiquement d'arrêter d'utiliser le service, par le biais de fenêtres contextuelles ou d'autres moyens. »

Et l'article 18 stipule que :

« Lorsqu’ils offrent des services de soutien émotionnel, les prestataires doivent prévoir des moyens simples pour que les utilisateurs puissent se retirer et ne doivent pas empêcher les utilisateurs de quitter volontairement le service. Lorsqu’un utilisateur demande à quitter le service via l’interface homme-machine ou la fenêtre à l’aide de boutons, de mots-clés, etc., le service doit être interrompu immédiatement. »

Les dispositions ci-dessus reconnaissent que l'utilisation intensive de systèmes d'IA anthropomorphes constitue un facteur de risque très pertinent (comme le démontrent les cas récents de suicide et d'atteinte à la santé mentale aux États-Unis) et affirment des normes de conception claires et contextuelles pour protéger les utilisateurs.

Enfin, l’article 29 établit le régime de sanctions :

« Si un fournisseur enfreint ces dispositions, le service compétent appliquera des sanctions conformément aux dispositions légales et réglementaires ; à défaut de dispositions légales et réglementaires, le service compétent, conformément à ses attributions, adressera un avertissement ou une mise en demeure et ordonnera la rectification dans un délai déterminé ; si le fournisseur refuse de rectifier la situation ou si les circonstances sont graves, il lui sera ordonné de suspendre la fourniture des services concernés. »

Conclusions

Le projet chinois représente la première réglementation juridique des systèmes d'IA anthropomorphes avec un niveau de détail, de rigueur et de protection suffisant contre les vulnérabilités et les risques potentiels spécifiques au contexte.

Contrairement à l'approche excessivement abstraite de l'RIA, ce projet de loi offre un excellent exemple aux États et régions qui souhaitent se concentrer sur les risques. spécifique Le règlement aborde le contexte de ces systèmes d'IA anthropomorphes, ainsi que la protection des utilisateurs vulnérables (notamment les mineurs, les personnes âgées et les personnes souffrant de troubles mentaux sous-jacents) et la prévention de préjudices spécifiques. En effet, il établit clairement que les fournisseurs d'IA seront responsables des dommages causés par leurs systèmes d'IA anthropomorphes, un facteur essentiel pour garantir la conformité et la sécurité de ces systèmes.

À mon avis, la réglementation de l'IA, notamment en ce qui concerne les systèmes anthropomorphes, devrait inciter les entreprises à orienter leurs capacités technologiques vers des applications véritablement bénéfiques à la société. Parallèlement, les législateurs doivent établir des restrictions équilibrées afin d'empêcher que ces capacités ne soient utilisées pour manipuler la psychologie des utilisateurs et exploiter leurs vulnérabilités à des fins lucratives. Le projet chinois offre un cadre propice au développement industriel et prévient efficacement le risque d'aliénation technologique.

[1] Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées sur l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139, (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle).

[2] Je vous renvoie à Moisés Barrio Andrés, Règlement de l'UE sur l'intelligence artificielle (y compris les actes de mise en œuvre et de développement de la loi sur l'IA)Francis Lefebvre, Madrid, 2025, chapitre 4 et disponible sur https://www.moisesbarrio.es/libro/reglamento-UE-IA_9788410431751.