Moisés Barrio : « Le principal risque de l’IA est la violation des droits fondamentaux. »

À l’heure où l’intelligence artificielle (IA) révolutionne des secteurs entiers, de la justice à l’entreprise privée, des questions se posent quant aux limites légales de son utilisation.

« Le principal risque juridique auquel les entreprises sont confrontées lors de la mise en œuvre de l’IA est la violation des droits fondamentaux, notamment la protection des données personnelles, la transparence, le contrôle humain et la non-discrimination, ainsi que le respect des exigences réglementaires spécifiques aux systèmes d’IA à haut risque », déclare Moisés Barrio Andrés, avocat au Conseil d’État, membre du Conseil consultatif sur l’innovation, le droit et la justice numérique et coordinateur du programme Upro en compétences numériques, promu par le Barreau et l’Unión Profesional.

L’expert juridique souligne qu’il ne s’agit pas d’une question mineure : « Ce manquement peut entraîner des sanctions administratives importantes et l’obligation de prendre des mesures correctives immédiates. » Par conséquent, insiste-t-il, la bonne application du Règlement général sur la protection des données (RGPD) et du Règlement européen sur l’intelligence artificielle (RGPD) est « cruciale pour toute organisation qui aspire à innover de manière responsable. »

Moisés Bario coordonne le module « Répercussions juridiques de la numérisation » de ce programme gratuit de 150 heures, qui forme déjà plus de 13 000 professionnels. À l’issue de la formation, les participants recevront le certificat de compétences professionnelles numériques, qui atteste de leur qualification en droit du numérique. Les inscriptions sont encore ouvertes.

Pour Barrio, le point de départ est de veiller à ce que la numérisation ne laisse personne de côté. « Il est essentiel de garantir l’accessibilité universelle, l’interopérabilité des systèmes, la protection des données personnelles, l’égalité de traitement et la non-discrimination, ainsi que l’adoption de mesures spécifiques pour les groupes vulnérables. De plus, des protocoles de sécurité, de transparence et de contrôle doivent être mis en place pour l’utilisation des technologies, assurant la traçabilité et la réversibilité des actions automatisées », explique-t-il.

À cet égard, l'avocat souligne l'importance du décret-loi royal 6/2023, qui renforce les droits numériques au sein du système judiciaire. Il précise que « ce décret reconnaît le droit des citoyens à un accès personnalisé aux procédures, aux informations et aux services accessibles du système judiciaire ».

Cette vidéo nous rappelle qu’« aujourd’hui, un avocat est soit numérique, soit il sera dépassé ». D’où l’importance de la formation des professionnels du droit aux nouvelles technologies.

Moisés Barrio dans X : @moisesbarrioa