Sesgos algorítmicos y discriminación: una revisión de la regulación de la inteligencia artificial en el Perú desde un enfoque de derechos humanos

Abstract

El presente trabajo de investigación pretende realizar un análisis de la regulación nacional sobre la inteligencia artificial, a fin de evidenciar la ausencia de disposiciones que integren el enfoque de derechos humanos y los estándares internacionales para el combate de la discriminación ejercida mediante los sesgos algorítmicos. Para ello, empezaremos introduciendo los conceptos de algoritmos e inteligencia artificial para un mejor entendimiento sobre las teorías en torno a estas nuevas tecnologías y su vínculo con el derecho. Asimismo, demostraremos sus riesgos para las personas en situación de vulnerabilidad y la manera en que la inteligencia artificial puede perpetuar discriminación, prejuicios y estereotipos. Posteriormente, a partir de los avances a nivel internacional sobre la materia, expondremos los estándares internacionales que se han desarrollado tanto en tratados más generales sobre el derecho a la no discriminación como en instrumentos de soft law que tratan de manera específica los sesgos algorítmicos. De modo que, podamos destacar la importancia de un enfoque de Derechos Humanos para tratar la problemática y reflejemos ello en la práctica, al analizar en España y Colombia las distintas maneras de integración en sus cuerpos normativos de estos parámetros internacionales. Con todo ello, nos será posible analizar a nivel nacional la ley Nº 31814 y su proyecto de reglamento y plantear los cambios que deben ser necesarios para integrar un enfoque conforme a lo estipulado en el Derecho Internacional de los Derechos Humanos.

This research paper aims to analyse the national regulation on artificial intelligence in order to highlight the absence of provisions that integrate the human rights approach and international standards to combat discrimination exercised through algorithmic biases. To do so, we will begin by introducing the concepts of algorithms and artificial intelligence in order to better understand the theories surrounding these new technologies and their link to the law. We will also demonstrate their risks for people in vulnerable situations and how artificial intelligence can perpetuate discrimination, prejudices and stereotypes. Then, drawing on international developments on the subject, we will set out the international standards that have been developed both in more general treaties on the right to non-discrimination and in soft law instruments that deal specifically with algorithmic biases. In this way, we will be able to highlight the importance of a human rights approach to the problem and reflect this in practice by analysing the different ways in which Spain and Colombia have integrated these international parameters into their bodies of law. With all of this, we will be able to analyse at the national level the law Nº 31814 and its draft regulation and propose the changes that should be necessary to integrate an approach in accordance with the stipulations of International Human Rights Law.