La Comisión Europea (en adelante, “CE”), ha publicado un estudio centrado en el análisis de la interacción de los sesgos humanos y algorítmicos, y qué mecanismos pueden implementarse para minimizar las discriminaciones que puedan surgir de la toma de decisiones basada en Inteligencia Artificial (en adelante, “IA”).
El estudio de la CE se circunscribe, principalmente a dos ámbitos: A) Recursos Humanos (RRHH) y B) Concesión de créditos.
Algunas de las conclusiones que se obtuvieron en el marco del estudio son:
- Los sistemas de IA capaces de tomar decisiones con efectos jurídicos deben supervisarse de manera integral y multidimensional. El estudio de la CE pone de manifiesto la necesidad de que el control de los sistemas de IA vaya más allá del mero control individual.
- Es fundamental dotar a los supervisores de sistemas de IA de reglas, criterios y pautas específicas que les indiquen cuándo y cómo ignorar las recomendaciones de la IA, lo que supone ayudar a las personas responsables de la supervisión a comprender cómo sus propias decisiones se alinean o se desvían de las recomendaciones algorítmicas.
- Alfabetización en materia de IA. El estudio de la CE pone de manifiesto la importancia de la educación y sensibilización en materia de IA. Sensibilizar a usuarios, desarrolladores y responsables de implantación sobre la existencia de riesgos asociados al uso de sistemas de IA, es fundamental para minimizar decisiones arbitrarias.
