L'AEPD publie un guide sur les exigences dans les audits de traitement qui incluent l'intelligence artificielle

• Le document propose des lignes directrices et des critères objectifs, du point de vue de la protection des données, qui devraient être intégrés dans les audits des traitements qui incluent des composants basés sur l'intelligence artificielle.
• L'impact que les traitements basés sur l'IA pourraient avoir sur les droits et libertés des citoyens met en évidence la nécessité d'établir des modèles de développement matures dans les systèmes et les traitements dans lesquels ils sont utilisés
• Le Guide s'adresse aux managers et managers qui doivent auditer des traitements incluant l'IA, aux développeurs souhaitant offrir des garanties sur leurs produits et solutions, aux Délégués à la protection des données et aux équipes d'auditeurs en charge de l'évaluation desdits traitements
• Accès à Guide des exigences pour les audits des traitements de données personnelles qui incluent l'intelligence artificielle

L'Agence espagnole de protection des données (AEPD) a publié le guide Exigences relatives aux audits du traitement des données personnelles qui incluent l'intelligence artificielle, un document qui propose des conseils et une liste des objectifs de contrôle et contrôles qui pourraient être intégrés dans ces audits dans une perspective de protection des données.

Le traitement de données personnelles dans lequel l'intelligence artificielle (IA) est utilisée pour effectuer des analyses et des inférences nécessite l'application d'un modèle de développement mature qui offre des garanties de qualité et de confidentialité. Il l'impact que les traitements pourraient avoir basée sur l'IA dans les droits et libertés des citoyens met en évidence nécessité de mettre en place des mesures de contrôle efficaces, exactitude, responsabilité, responsabilité, gestion des risques et transparence concernant les systèmes et le traitement des données dans lesquels ils sont utilisés.

Le règlement général sur la protection des données (RGPD) établit dans son article 24 l'obligation pour les personnes qui traitent des données d'appliquer «des mesures techniques et organisationnelles appropriées afin de garantir et de pouvoir démontrer que le traitement est conforme au présent règlement». Ces mesures doivent être choisies "en tenant compte de la nature, de la portée, du contexte et des finalités du traitement, ainsi que des risques de probabilité et de gravité variables pour les droits et libertés des personnes" et l'un de ces outils pour "garantir et pouvoir démontrer que «la conformité au RGPD est la réalisation d'audits. Cela nécessite d'avoir critères objectifs conçu pour effectuer l'audit des composants de l'IA dans une perspective de protection des données.

Le document comprend des objectifs tels que l'inventaire de l'algorithme audité, l'identification des responsabilités et le respect du principe de transparence; identifier les finalités, analyser la proportionnalité et la nécessité du traitement et les limites de la conservation des données; assurer la qualité des données et contrôler les biais éventuels et vérifier et valider les actions menées et les résultats obtenus dans le respect du principe de responsabilité active du RGPD, entre autres.

Le texte s'adresse principalement aux managers et managers qui doivent auditer des traitements intégrant des composants basés sur l'IA, afin de garantir et pouvoir démontrer le respect des obligations et principes en matière de protection des données auxquels ils sont soumis; aux développeurs qui souhaitent offrir des garanties sur leurs produits et solutions; aux Délégués à la Protection des Données en charge à la fois de superviser les traitements et de conseiller les responsables et, enfin, les équipes d'auditeurs en charge de l'évaluation desdits traitements.

le guide Exigences relatives aux audits du traitement des données personnelles qui incluent l'intelligence artificielle Il a été développé sur la base d'une étude réalisée par Éticas Research and Consulting sous la commande et la supervision de l'Agence espagnole de protection des données et des revues réalisées par des experts du Hub d'Intelligence Artificielle du Conseil Supérieur de la Recherche Scientifique (CSIC AI HUB), de l'Observatoire de l'impact social et éthique de l'intelligence artificielle (OdiseIA), de l'Association Professionnelle des Organismes Supérieurs des Systèmes d'Information et des Technologies des Administrations Publiques (ASTIC), Groupe d'Innovation Pédagogique en Cybersécurité (CiberGID) -ETSI Informática - UNED et le Centre de développement technologique et industriel (CDTI).

Protection des données et technologies émergentes

Ce document complète le Guide d'adéquation au RGPD des traitements intégrant l'intelligence artificielle de l'Agence, qui traite du respect effectif des principes de protection des données à caractère personnel dans les traitements intégrant des solutions d'intelligence artificielle. Un chapitre y était consacré à l'audit, le posant comme l'un des outils d'évaluation possibles et un instrument visant à obtenir des produits explicables, prévisibles et contrôlables.

Le choix des contrôles à auditer, l'étendue de leur analyse et la formalité nécessaire à leur mise en œuvre dépendront, comme dans tout audit, de l'objectif et de l'étendue définis pour celui-ci, ainsi que de l'analyse des risques réalisée. L'auditeur doit sélectionner les contrôles appropriés pour l'audit spécifique et ajouter ceux qu'il juge appropriés.