Decisiones automatizadas y riesgos algorítmicos: por una interpretación de la discriminación algorítmica a la luz de los derechos fundamentales

Resumen

El artículo examina la discriminación algorítmica como problema jurídico-constitucional producido por la convergencia entre decisiones automatizadas, opacidad técnica y desigualdades estructurales. Se parte de la hipótesis de que la discriminación algorítmica no debe ser interpretada solo como un defecto técnico del modelo, un error estadístico o el uso indebido de datos personales, sino también como una forma contemporánea de afectación de derechos fundamentales, cuando los sistemas automatizados clasifican, jerarquizan, recomiendan o excluyen personas en dominios sensibles de la vida social. La investigación adopta un método lógico-deductivo, con revisión bibliográfica y análisis normativo, articulando derecho antidiscriminatorio, protección de datos, proporcionalidad y teoría de los derechos fundamentales. El argumento incorpora el modelo decisorio epistémico-ponderativo desarrollado en la investigación doctoral, en el cual la intensidad de la intervención, el peso abstracto de los derechos en colisión y la certeza de las premisas técnicas orientan la gradación A1-A3 de riesgo algorítmico. Se sostiene que la respuesta constitucional adecuada debe desplazar el debate de la simple transparencia formal hacia un modelo de justificabilidad algorítmica, en el cual la apertura informacional, la explicabilidad, la auditabilidad, la supervisión humana significativa y la distribución dinámica de la carga probatoria sean calibradas conforme al riesgo y al impacto sobre la persona afectada o sobre grupos en vulnerabilidad. Se concluye que, a mayor intensidad de la interferencia y menor certeza de las premisas técnicas, mayor debe ser el deber de demostración, de corrección y de prevención impuesto al controlador, al desarrollador, al usuario institucional y al Estado.