Autor
Palabras clave
Artificial intelligence
algorithmic bias
discrimination
data quality
European Union
Artificial Intelligence Act
fundamental rights
non-discrimination
automated decision-making.
Resumen
Artificial Intelligence (AI) increasingly shapes daily life in areas like healthcare, education, and public services. The European Union’s Artificial Intelligence Act (Regulation (EU) 2021/0106, 2024) recognizes AI as a powerful tool but highlights risk that require regulation. A major concern is discriminatory bias in AI systems, often caused by poor data quality, misuse, underrepresentation of relevant information in algorithm design, or excessive irrelevant data leading to biased or discriminatory decisions. This paper explores the root causes of algorithmic bias and reviews the EU’s legal responses, focusing on the AI Act’s regulatory framework. Ensuring fairness and non-discrimination in AI is crucial to protect fundamental rights in an increasingly automated world.
Keywords
Inteligencia artificial; sesgo algorítmico; discriminación; calidad de los datos; Unión Europea; Reglamento de Inteligencia Artificial; derechos humanos; no discriminación; toma de decisiones automatizada.
Abstract
La inteligencia artificial (IA) influye cada vez más en la vida diaria en sectores como la sanidad, la educación y los servicios públicos. El Reglamento de Inteligencia Artificial de la Unión Europea (Reglamento (UE) 2021/0106, 2024) reconoce que la IA es una herramienta poderosa, pero con riesgos que deben ser regulados. Uno de los principales es el sesgo discriminatorio, causado frecuentemente por la mala calidad de los datos, el uso indebido, la infrarrepresentación de información relevante en el diseño algorítmico o el exceso de datos irrelevantes que generan decisiones sesgadas o discriminatorias. Este trabajo analiza las causas del sesgo y revisa las respuestas legales de la UE, con énfasis en el marco regulador del Reglamento. Garantizar la equidad y la no discriminación en la IA es clave para proteger derechos fundamentales en un mundo cada vez más automatizado.