Racismo Algorítmico: Como os Geradores de Imagens Reproduzem a Discriminação Racial?

Resumo

O presente trabalho analisa a Inteligência Artificial Generativa e os geradores de imagens a partir de termos sob uma ótica racial. A Inteligência Artificial se tornou um novo agente tecnológico capaz não só de absorver e organizar dados, mas também de transformar determinados termos em imagens de cunho. Nesse passo, incorporando a Teoria dos Sistemas para explicar a comunicação e a linguagem e tendo a arte como ponto central, foi utilizado o site ChatGPT para entender as referências artísticas tidas como relevantes pela Inteligência Artificial Generativa. A seguir, utilizando o gerador de imagem Night Cafe, foram geradas imagens contendo as palavras-chave “beautiful”, “beauty standards” e “powerful” atreladas aos termos humanos “body”, “woman”, “man” e “family”. Após uma análise do resultado das imagens geradas sob a ótica luhmanniana, entende-se que essa modalidade de Inteligência Artificial evidencia a ausência de neutralidade e imparcialidade do algoritmo, bem como a perpetuação das desigualdades pelas novas tecnologias.