Racismo Algorítmico: Como os Geradores de Imagens Reproduzem a Discriminação Racial?

Julia Garcia Tavora Menegaz; Igor Alves Pinto

doi:10.5020/2317-2150.2025.15850

Autores

Julia Garcia Tavora Menegaz Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil
Igor Alves Pinto Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

DOI:

https://doi.org/10.5020/2317-2150.2025.15850

Palavras-chave:

inteligência artificial generativa, arte, imagem, linguagem, branquitude

Resumo

O presente trabalho analisa a Inteligência Artificial Generativa e os geradores de imagens a partir de termos sob uma ótica racial. A Inteligência Artificial se tornou um novo agente tecnológico capaz não só de absorver e organizar dados, mas também de transformar determinados termos em imagens de cunho. Nesse passo, incorporando a Teoria dos Sistemas para explicar a comunicação e a linguagem e tendo a arte como ponto central, foi utilizado o site ChatGPT para entender as referências artísticas tidas como relevantes pela Inteligência Artificial Generativa. A seguir, utilizando o gerador de imagem Night Cafe, foram geradas imagens contendo as palavras-chave “beautiful”, “beauty standards” e “powerful” atreladas aos termos humanos “body”, “woman”, “man” e “family”. Após uma análise do resultado das imagens geradas sob a ótica luhmanniana, entende-se que essa modalidade de Inteligência Artificial evidencia a ausência de neutralidade e imparcialidade do algoritmo, bem como a perpetuação das desigualdades pelas novas tecnologias.

Downloads

Não há dados estatísticos.

Biografia do Autor

Julia Garcia Tavora Menegaz, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Mestranda no Programa de Pós-Graduação em Direito na Universidade Federal do Rio de Janeiro (PPGD-UFRJ), com bolsa de fomento da CAPES/PROEX. Bacharela em Direito pela Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (2022). Estagiária docente nas disciplinas de Teoria Geral do Processo e Processo Civil I no curso de graduação da Faculdade Nacional de Direito. Coordenadora discente e pesquisadora do Núcleo de Mediação e Conciliação da Faculdade Nacional de Direito - NUMEC/FND (UFRJ). Membro-fundador da Liga de Direito Civil (LADC) da Universidade Federal do Rio de Janeiro. Foi monitora disciplina de Extensão "Veias Abertas da América Latina" e das disciplinas Direito Internacional Público, Teoria Geral do Processo, Direito Processual Civil e Direito Comercial I. Foi diretora de assuntos acadêmicos, eventos e midias sociais do Centro Acadêmico Cândido de Oliveira - CACO/Direito-UFRJ

Igor Alves Pinto, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Pós-Doutorado no Programa de Pós-Graduação em Direito (PPGD) pela UFRJ. Doutor em Direito pelo Programa de Pós-Graduação em Direito (PPGD) pela UFRJ na linha de "Teorias da decisão e da interpretação e justiça". Mestre pelo (PPGD) na linha de "Direitos Humanos, Sociedade e Arte". Graduado em Direito pela UFRJ. Professor substituto de Direito Civil pela Faculdade Nacional de Direito - UFRJ (2019-2021).

Referências

AZEVEDO JÚNIOR, J. G. de. Apostila de arte: artes visuais. São Luís: Imagética Comunicação e Design, 2007.

BENENSON, F. ‘Mathwashing,’ Facebook and the zeitgeist of data worship. Technical.ly. Technically, [s. l.], 8 jun. 2016. Disponível em: https://technical.ly/uncategorized/fred-benenson-mathwashing-facebook-data-worship/. Acesso em: 11 jun. 2025.

CARRERA, F. A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais. MATRIZes, São Paulo, v. 14, n. 2, p. 217–240, 2020. DOI: https://doi.org/10.11606/issn.1982-8160.v14i2p217-240

CHATGPT (versão GPT-4-turbo). OpenAI, [s. l.], 2024. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

FERRARI, F.; CECHINEL, C. Introdução a algoritmos e programação. Bagé: Universidade Federal do Pampa, 2008. Disponível em: https://lief.if.ufrgs.br/pub/linguagens/FFerrari-CCechinel-Introducao-a-algoritmos.pdf. Acesso em: 14 dez. 2024.

FOUCAULT, M. Poder-corpo. In: FOUCAULT, M. (org.). Microfísica do poder. Rio de Janeiro: Graal, 1996. p. 81-85.

FOUCAULT, M. História da sexualidade: a vontade de saber. 22. ed. Rio de Janeiro: Graal, 2012.

GROSSI, M. P. Masculinidades: uma revisão teórica. Mandrágona, [s. l.], v. 12, n. 12, p. 1-37, 2004. Disponível em: https://bit.ly/2YA6BWY. Acesso em: 14 dez. 2024.

KILOMBA, G. Memórias da plantação: crônicas da resistência. São Paulo: Companhia das Letras, 2019.

LA JUVENTUD de bacchus. Musée D’Aquitaine, [s. d.]. Disponível em: https://www.musee-aquitaine-bordeaux.fr/es/articulo/la-juventud-de-bacchus-1884. Acesso em: 10 dez. 2024.

LIM, W. M.; GUNASEKARA, A.; PALLANT, J. L.; PALLANT, J. I.; PECHENKINA, E. Generative AI and the future of education: ragnarök or reformation? A paradoxical perspective from management educators. The International Journal of Management Education, [s. l.], v. 21, n. 2, p. 1-13, 2023. DOI: https://doi.org/10.1016/j.ijme.2023.100790

LUHMANN, N. Legitimação pelo procedimento. Tradução Maria da Conceição Côrte-Real. Brasília: Editora Universidade de Brasília, 1980.

LUHMANN, N. Sociologia do Direito I. Rio de Janeiro: Edições Tempo Brasileiro, 1983.

LUHMANN, N. La ciencia de la sociedad. Barcelona: Anthropos, 1996.

LUHMANN, N.; GIORGI, R. De. Teoria della societá. 8. ed. Milano: Franco Angeli, 1996. p. 24-25.

LIES, damn lies and algorithms: what is mathwashing? Mathwashing, 2024. Disponível em: https://www.mathwashing.com/. Acesso em: 12 jul. 2024.

MELO, M. A.; BASSANI, P. S. Inteligência artificial generativa: aplicações e contextos. In: RIEOnLIFE, 4.; WLC, 8., 2023, Minas Gerais. Anais [...]. Minas Gerais: IFNMG, 2023. p. 1-5. Disponível em: https://eventos.ifnmg.edu.br/RIEWLC/6518af37e7d7c.pdf. Acesso em: 10 dez. 2024.

MOREIRA, A. J. Tratado de direito antidiscriminatório. São Paulo: Editora Contracorrente, 2020.

MUSÉE DU LOUVRE. Vénus de Milo. Louvre Collections, Paris, 2011. Disponível em: https://collections.louvre.fr/en/ark:/53355/cl010277627. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. A beautiful body. [imagem gerada por inteligência artificial]: Fluz, 2024. Disponível em: https://creator.nightcafe.studio/creation/OeN38V2FDdqqG1jeJ0Qs. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3Axx5MTlt939ZvqKRfedJ0%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful woman. [imagem gerada por inteligência artificial]: Flux, 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3AHHoTb6L3YNNFW9UJy1Tm%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/BU6pFrKXdU9GARhQYAJZ. Acesso em: 15 dez. 2024.

NIGHT CAFÉ. An art with a beautiful body. [imagem gerada por inteligência artificial]: Google Imagen 3.0 Fast, 2024. Disponível em: https://creator.nightcafe.studio/creation/PAq1g1c5fHmztxswgcXR. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. Powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/9F39d1ue2acP7C0uHh3O. Acesso em: 12 dez. 2024.

OPENAI. ChatGPT. [S. l.]: OpenAI, 2025. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

QUIJANO, A. Colonialidade do poder, eurocentrismo e América Latina. Buenos Aires: Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em: 10 out. 2023.

SCHUCMAN, L. V.; COSTA, E. S.; CARDOSO, L. Quando a identidade racial do pesquisador deve ser considerada: paridade e assimetria racial. Revista da Associação Brasileira de Pesquisadores/as Negros/as, Curitiba, v. 4, n. 8, p. 15-29, 2012. Disponível: https://abpnrevista.org.br/site/article/view/247. Acesso em: 10 out. 2023.

SETZER, V. W. Dado, informação, conhecimento e competência. DataGramaZero: Revista de Ciência da Informação, Rio de Janeiro, v.0, n.0, p. 1-11, dez. 1999.

SOVIK, L. Aqui ninguém é branco. Rio de Janeiro: Aeroplano, 2009.

STEYN, M. Novos matizes da “branquitude”: a identidade branca numa África do Sul multicultural e democrática. In: WARE, V. (org.). Branquidade: identidade branca e multiculturalismo. Rio de Janeiro: Garamond, 2004. p. 115-137.

ZAMBERLAN, L.et al. Pesquisa em ciências sociais aplicadas. Ijuí: Ed. Unijuí, 2014.