Moisés Barrio: “O principal risco da IA ​​é a violação dos direitos fundamentais”

Numa altura em que a inteligência artificial (IA) está a revolucionar setores inteiros, da justiça à iniciativa privada, surgem questões sobre os limites legais da sua utilização.

“O principal risco jurídico que as empresas enfrentam ao implementar IA é a violação de direitos fundamentais, especialmente a proteção de dados pessoais, a transparência, a supervisão humana e a não discriminação, bem como o cumprimento dos requisitos regulamentares específicos para sistemas de IA de alto risco”, afirma Moisés Barrio Andrés, advogado do Conselho de Estado, membro do Conselho Consultivo de Inovação, Direito e Justiça Digital e coordenador do programa Upro em competências digitais, promovido pela Ordem dos Advogados e pela Unión Profesional.

O especialista jurídico enfatiza que esta não é uma questão menor: “Essa não conformidade pode acarretar penalidades administrativas significativas e a obrigação de adotar medidas corretivas imediatas”. Portanto, ele insiste que a correta aplicação do Regulamento Geral de Proteção de Dados (RGPD) e do Regulamento Europeu de Inteligência Artificial (RIA) é “crucial para qualquer organização que aspire a inovar de forma responsável”.

Moisés Bario coordena o módulo sobre “Repercussões legais da digitalização” neste programa gratuito de 150 horas, com o qual Mais de 13.000 profissionais já estão sendo treinados.  Ao final do curso, você receberá o Certificado de Habilidades Digitais Profissionais, que o credencia como advogado digital. As inscrições ainda estão abertas..

Para Barrio, o ponto de partida é garantir que a digitalização não deixe ninguém para trás. “É essencial garantir a acessibilidade universal, a interoperabilidade dos sistemas, a proteção de dados pessoais, a igualdade de tratamento e a não discriminação, bem como a adoção de medidas específicas para grupos vulneráveis. Além disso, devem ser estabelecidos protocolos de segurança, transparência e controle para o uso das tecnologias, garantindo a rastreabilidade e a reversibilidade das ações automatizadas”, explica.

A este respeito, o advogado destaca a importância do Real Decreto-Lei 6/2023, que reforça os direitos digitais no âmbito do sistema judicial. Ele salienta que "é nele que se reconhece o direito dos cidadãos ao acesso personalizado aos procedimentos, à informação e aos serviços acessíveis do sistema judicial".

Este vídeo nos lembra que "hoje, um advogado ou é digital ou ficará para trás". Daí a importância de os profissionais do direito se capacitarem em novas tecnologias.

Moisés Barrio em X: @moisesbarrioa