Racismo Algorítmico: Como os Geradores de Imagens Reproduzem a Discriminação Racial?

Julia Garcia Tavora Menegaz; Igor Alves Pinto

doi:10.5020/2317-2150.2025.15850

Authors

Julia Garcia Tavora Menegaz Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil
Igor Alves Pinto Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

DOI:

https://doi.org/10.5020/2317-2150.2025.15850

Keywords:

generative artificial intelligence, art, image, language, whiteness

Abstract

This paper analyzes Generative Artificial Intelligence and image generators from a racial perspective. Artificial Intelligence has become a new technological agent capable of not only absorbing and organizing data, but also transforming certain terms into meaningful images. In this step, incorporating Systems Theory to explain communication and language and with art as a central point, the ChatGPT website was used to understand the artistic references considered relevant by Generative Artificial Intelligence. Next, using the NightCafe image generator, images were generated containing the keywords beautiful, beauty standards and powerful linked to the human terms body, woman, man and family. After analyzing the result of the generated images from a Luhmannian perspective, it is understood that this type of Artificial Intelligence highlights the lack of neutrality and impartiality of the algorithm, as well as the perpetuation of inequalities by new technologies.

Downloads

Download data is not yet available.

Author Biographies

Julia Garcia Tavora Menegaz, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Mestranda no Programa de Pós-Graduação em Direito na Universidade Federal do Rio de Janeiro (PPGD-UFRJ), com bolsa de fomento da CAPES/PROEX. Bacharela em Direito pela Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (2022). Estagiária docente nas disciplinas de Teoria Geral do Processo e Processo Civil I no curso de graduação da Faculdade Nacional de Direito. Coordenadora discente e pesquisadora do Núcleo de Mediação e Conciliação da Faculdade Nacional de Direito - NUMEC/FND (UFRJ). Membro-fundador da Liga de Direito Civil (LADC) da Universidade Federal do Rio de Janeiro. Foi monitora disciplina de Extensão "Veias Abertas da América Latina" e das disciplinas Direito Internacional Público, Teoria Geral do Processo, Direito Processual Civil e Direito Comercial I. Foi diretora de assuntos acadêmicos, eventos e midias sociais do Centro Acadêmico Cândido de Oliveira - CACO/Direito-UFRJ

Igor Alves Pinto, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Pós-Doutorado no Programa de Pós-Graduação em Direito (PPGD) pela UFRJ. Doutor em Direito pelo Programa de Pós-Graduação em Direito (PPGD) pela UFRJ na linha de "Teorias da decisão e da interpretação e justiça". Mestre pelo (PPGD) na linha de "Direitos Humanos, Sociedade e Arte". Graduado em Direito pela UFRJ. Professor substituto de Direito Civil pela Faculdade Nacional de Direito - UFRJ (2019-2021).

References

AZEVEDO JÚNIOR, J. G. de. Apostila de arte: artes visuais. São Luís: Imagética Comunicação e Design, 2007.

BENENSON, F. ‘Mathwashing,’ Facebook and the zeitgeist of data worship. Technical.ly. Technically, [s. l.], 8 jun. 2016. Disponível em: https://technical.ly/uncategorized/fred-benenson-mathwashing-facebook-data-worship/. Acesso em: 11 jun. 2025.

CARRERA, F. A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais. MATRIZes, São Paulo, v. 14, n. 2, p. 217–240, 2020. DOI: https://doi.org/10.11606/issn.1982-8160.v14i2p217-240

CHATGPT (versão GPT-4-turbo). OpenAI, [s. l.], 2024. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

FERRARI, F.; CECHINEL, C. Introdução a algoritmos e programação. Bagé: Universidade Federal do Pampa, 2008. Disponível em: https://lief.if.ufrgs.br/pub/linguagens/FFerrari-CCechinel-Introducao-a-algoritmos.pdf. Acesso em: 14 dez. 2024.

FOUCAULT, M. Poder-corpo. In: FOUCAULT, M. (org.). Microfísica do poder. Rio de Janeiro: Graal, 1996. p. 81-85.

FOUCAULT, M. História da sexualidade: a vontade de saber. 22. ed. Rio de Janeiro: Graal, 2012.

GROSSI, M. P. Masculinidades: uma revisão teórica. Mandrágona, [s. l.], v. 12, n. 12, p. 1-37, 2004. Disponível em: https://bit.ly/2YA6BWY. Acesso em: 14 dez. 2024.

KILOMBA, G. Memórias da plantação: crônicas da resistência. São Paulo: Companhia das Letras, 2019.

LA JUVENTUD de bacchus. Musée D’Aquitaine, [s. d.]. Disponível em: https://www.musee-aquitaine-bordeaux.fr/es/articulo/la-juventud-de-bacchus-1884. Acesso em: 10 dez. 2024.

LIM, W. M.; GUNASEKARA, A.; PALLANT, J. L.; PALLANT, J. I.; PECHENKINA, E. Generative AI and the future of education: ragnarök or reformation? A paradoxical perspective from management educators. The International Journal of Management Education, [s. l.], v. 21, n. 2, p. 1-13, 2023. DOI: https://doi.org/10.1016/j.ijme.2023.100790

LUHMANN, N. Legitimação pelo procedimento. Tradução Maria da Conceição Côrte-Real. Brasília: Editora Universidade de Brasília, 1980.

LUHMANN, N. Sociologia do Direito I. Rio de Janeiro: Edições Tempo Brasileiro, 1983.

LUHMANN, N. La ciencia de la sociedad. Barcelona: Anthropos, 1996.

LUHMANN, N.; GIORGI, R. De. Teoria della societá. 8. ed. Milano: Franco Angeli, 1996. p. 24-25.

LIES, damn lies and algorithms: what is mathwashing? Mathwashing, 2024. Disponível em: https://www.mathwashing.com/. Acesso em: 12 jul. 2024.

MELO, M. A.; BASSANI, P. S. Inteligência artificial generativa: aplicações e contextos. In: RIEOnLIFE, 4.; WLC, 8., 2023, Minas Gerais. Anais [...]. Minas Gerais: IFNMG, 2023. p. 1-5. Disponível em: https://eventos.ifnmg.edu.br/RIEWLC/6518af37e7d7c.pdf. Acesso em: 10 dez. 2024.

MOREIRA, A. J. Tratado de direito antidiscriminatório. São Paulo: Editora Contracorrente, 2020.

MUSÉE DU LOUVRE. Vénus de Milo. Louvre Collections, Paris, 2011. Disponível em: https://collections.louvre.fr/en/ark:/53355/cl010277627. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. A beautiful body. [imagem gerada por inteligência artificial]: Fluz, 2024. Disponível em: https://creator.nightcafe.studio/creation/OeN38V2FDdqqG1jeJ0Qs. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3Axx5MTlt939ZvqKRfedJ0%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful woman. [imagem gerada por inteligência artificial]: Flux, 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3AHHoTb6L3YNNFW9UJy1Tm%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/BU6pFrKXdU9GARhQYAJZ. Acesso em: 15 dez. 2024.

NIGHT CAFÉ. An art with a beautiful body. [imagem gerada por inteligência artificial]: Google Imagen 3.0 Fast, 2024. Disponível em: https://creator.nightcafe.studio/creation/PAq1g1c5fHmztxswgcXR. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. Powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/9F39d1ue2acP7C0uHh3O. Acesso em: 12 dez. 2024.

OPENAI. ChatGPT. [S. l.]: OpenAI, 2025. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

QUIJANO, A. Colonialidade do poder, eurocentrismo e América Latina. Buenos Aires: Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em: 10 out. 2023.

SCHUCMAN, L. V.; COSTA, E. S.; CARDOSO, L. Quando a identidade racial do pesquisador deve ser considerada: paridade e assimetria racial. Revista da Associação Brasileira de Pesquisadores/as Negros/as, Curitiba, v. 4, n. 8, p. 15-29, 2012. Disponível: https://abpnrevista.org.br/site/article/view/247. Acesso em: 10 out. 2023.

SETZER, V. W. Dado, informação, conhecimento e competência. DataGramaZero: Revista de Ciência da Informação, Rio de Janeiro, v.0, n.0, p. 1-11, dez. 1999.

SOVIK, L. Aqui ninguém é branco. Rio de Janeiro: Aeroplano, 2009.

STEYN, M. Novos matizes da “branquitude”: a identidade branca numa África do Sul multicultural e democrática. In: WARE, V. (org.). Branquidade: identidade branca e multiculturalismo. Rio de Janeiro: Garamond, 2004. p. 115-137.

ZAMBERLAN, L.et al. Pesquisa em ciências sociais aplicadas. Ijuí: Ed. Unijuí, 2014.