Decisões automatizadas e riscos algorítmicos: por uma interpretação da discriminação algorítmica à luz dos direitos fundamentais

Resumo

O artigo examina a discriminação algorítmica como problema jurídico-constitucional produzido pela convergência entre decisões automatizadas, opacidade técnica e desigualdades estruturais. Parte-se da hipótese de que a discriminação algorítmica não deve ser interpretada apenas como defeito técnico do modelo, erro estatístico ou uso indevido de dados pessoais, mas também como forma contemporânea de afetação de direitos fundamentais, quando sistemas automatizados classificam, ranqueiam, recomendam ou excluem pessoas em domínios sensíveis da vida social. A pesquisa adota método lógico-dedutivo, com revisão bibliográfica e análise normativa, articulando direito antidiscriminatório, proteção de dados, proporcionalidade e teoria dos direitos fundamentais. O argumento incorpora o modelo decisório epistêmico-ponderativo desenvolvido em pesquisa doutoral, no qual a intensidade da intervenção, o peso abstrato dos direitos em colisão e a certeza das premissas técnicas orientam a gradação A1-A3 de risco algorítmico. Sustenta-se que a resposta constitucional adequada deve deslocar o debate da simples transparência formal para um modelo de justificabilidade algorítmica, no qual abertura informacional, explicabilidade, auditabilidade, supervisão humana significativa e distribuição dinâmica dos ônus probatórios sejam calibradas conforme o risco e o impacto sobre a pessoa afetada ou sobre grupos em vulnerabilidade. Conclui-se que, quanto maior a intensidade da interferência e menor a certeza das premissas técnicas, maior deve ser o dever de demonstração, de correção e de prevenção imposto ao controlador, ao desenvolvedor, ao utilizador institucional e ao Estado.