L'intelligence artificielle dans les prisons

Par Cristina Garcia Aguado, membre de la sous-commission du droit pénitentiaire. TOAJP Gipuzkoa.

L'IA, défi ou réalité.

Selon les experts, les défis à cet égard sont considérables. Dans les prisons, les principaux défis concernent les infrastructures, la numérisation et la normalisation de l'information. Il est donc essentiel de moderniser et d'unifier les bases de données, en veillant à ce qu'elles soient correctement structurées, mises à jour et facilement accessibles.

Dans cette tâche, l’IA peut être un grand allié, mais des ressources humaines et matérielles sont également nécessaires.

Par ailleurs, il est essentiel de prendre en compte les implications juridiques de l'IA dans le système pénitentiaire et de garantir le respect de la réglementation. Les risques éthiques liés à l'utilisation de l'IA en milieu carcéral doivent également être pris en compte afin de prévenir les abus et de garantir la dignité des détenus.

Les responsables pénitentiaires peuvent être sceptiques ou réticents à l'intégrer à leurs décisions, ce qui peut s'expliquer par une méconnaissance de cette technologie. Par conséquent, à mon avis, une approche globale est nécessaire, alliant innovation technologique et engagement institutionnel pour garantir les meilleurs résultats possibles en prison.

Je crois qu'il est essentiel de suivre une série de pratiques éthiques et techniques, notamment des audits réguliers des algorithmes afin d'identifier et de corriger tout biais. Cela implique d'analyser la manière dont le système prend des décisions et de détecter d'éventuelles tendances affectant certains groupes de manière disproportionnée. En identifiant ces problèmes, les algorithmes peuvent être ajustés pour en minimiser l'impact.

Un autre point à prendre en compte est la qualité des données utilisées pour entraîner les systèmes d'IA. Il est important de garantir que les ensembles de données soient aussi complets et représentatifs que possible.

Les systèmes d’IA doivent être conçus de manière à ce que leurs décisions soient explicables et vérifiables.

Les principaux défis concernent les biais, car l'IA peut amplifier les biais historiques, compromettant ainsi l'équité des décisions judiciaires, notamment à l'encontre des groupes vulnérables. Les décisions automatisées peuvent ignorer les nuances humaines et les facteurs contextuels, ce qui peut s'avérer très grave en détention provisoire. Un autre défi est la protection de la vie privée et des données personnelles ; c'est pourquoi je pense qu'il est essentiel que des humains supervisent le fonctionnement de l'IA.

Cependant, l'IA offre de nombreuses possibilités d'utilisation au sein du système pénitentiaire. Certaines prisons l'utilisent déjà.

L'IA pourrait réduire la subjectivité et le pouvoir discrétionnaire de toute décision. Elle peut analyser les données pour évaluer plus objectivement le risque de fuite ou de récidive, contribuant ainsi à réduire le recours excessif à la détention provisoire et à privilégier des alternatives moins restrictives. Elle pourrait également contribuer à optimiser l'allocation des ressources en identifiant les cas à faible risque qui ne nécessitent pas de détention.

L’IA peut libérer de l’espace dans les prisons et permettre de concentrer les ressources sur la surveillance des personnes qui représentent réellement une menace.

L’IA peut également contribuer à la réhabilitation des détenus, car les programmes traditionnels appliquent une approche unique qui peut ne pas être efficace pour tout le monde.

Dans l’Union européenne, le règlement général sur la protection des données (RGPD) limite la prise de décision automatisée et le profilage des individus sur la base de catégories spécifiques de données personnelles afin d’éviter les effets discriminatoires.

L'ONU a encouragé les États membres à promouvoir des systèmes d'intelligence artificielle sûrs et fiables, de manière inclusive et équitable, au bénéfice de tous. L'objectif est d'éviter de renforcer ou de perpétuer des applications et des résultats discriminatoires ou biaisés.

Je voudrais conclure cet article par une réflexion : il reste encore beaucoup à faire et à progresser dans la mise en œuvre de l’IA. Les possibilités sont infinies. L’IA est déjà une réalité.