Moisés Barrio: “El principal riesgo de la IA es la vulneración de los derechos fundamentales”

En un momento en que la inteligencia artificial (IA) revoluciona sectores enteros, desde la justicia hasta la empresa privada, surgen interrogantes sobre los límites jurídicos de su uso.

“El principal riesgo legal que enfrentan las empresas al implementar IA es la vulneración de los derechos fundamentales, especialmente la protección de datos personales, la transparencia, la supervisión humana y la no discriminación, así como el cumplimiento de los requisitos normativos específicos para sistemas de IA de alto riesgo”, afirma Moisés Barrio Andrés, letrado del Consejo de Estado, miembro del Consejo Asesor sobre Innovación, Abogacía y Justicia Digital y coordinador del programa Upro en competencias digitales, impulsado por la Abogacía y Unión Profesional.

El jurista subraya que no se trata de un asunto menor: “Este incumplimiento puede conllevar sanciones administrativas significativas y la obligación de adoptar medidas correctoras inmediatas”. Por ello, insiste, la correcta aplicación del Régimen General de Protección de Datos y del Reglamento Europeo de IA resulta “crucial para cualquier organización que aspire a innovar de manera responsable”.

Moisés Bario coordina el módulo de “Repercusiones jurídicas de la digitalización” en este programa gratuito de 150 horas con el que ya se están formando más de 13.000 profesionales.  Al final del curso se obtendrá el Certificado de Competencias Digitales Profesionales que acredita como abogad@ digital. Las inscripciones aún siguen abiertas.

Para Barrio, el punto de partida es asegurar que la digitalización no deje a nadie atrás. “Es imprescindible garantizar la accesibilidad universal, la interoperabilidad de los sistemas, la protección de datos personales, la igualdad de trato y la no discriminación, así como la adopción de medidas específicas para colectivos vulnerables. Además, se deben establecer protocolos de seguridad, transparencia y control en el uso de tecnologías, asegurando la trazabilidad y reversibilidad de las actuaciones automatizadas”, explica.

En ese sentido, el letrado destaca la relevancia del Real Decreto-Ley 6/2023, que refuerza los derechos digitales en el ámbito de la Administración de Justicia. Según apunta, “es donde se reconoce a la ciudadanía el derecho a un servicio personalizado de acceso a procedimientos, informaciones y servicios accesibles de la Administración de Justicia”.

En este vídeo nos recuerda que “hoy un abogado o es digital o se quedará fuera del mercado”. De ahí la importancia de que los profesionales de la abogacía se formen en nuevas tecnologías.

Moisés Barrio en X: @moisesbarrioa