Racismo Algorítmico: Como os Geradores de Imagens Reproduzem a Discriminação Racial?

Julia Garcia Tavora Menegaz; Igor Alves Pinto

doi:10.5020/2317-2150.2025.15850

Autores/as

Julia Garcia Tavora Menegaz Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil
Igor Alves Pinto Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

DOI:

https://doi.org/10.5020/2317-2150.2025.15850

Palabras clave:

inteligencia artificial generativa, arte, imagen, lenguaje, blanquitud

Resumen

El presente trabajo analiza la Inteligencia Artificial Generativa y los generadores de imágenes a partir de términos con una óptica racial. La Inteligencia Artificial se ha convertido en un nuevo agente tecnológico capaz no solo de absorber y organizar datos, sino también de transformar determinados términos en imágenes. En este sentido, incorporando la Teoría de Sistemas para explicar la comunicación y el lenguaje, y teniendo el arte como punto central, se utilizó la plataforma ChatGPT para comprender las referencias artísticas consideradas relevantes por la Inteligencia Artificial Generativa. Posteriormente, utilizando el generador de imágenes NightCafe, se generaron imágenes con las palabras clave beautiful, beauty standards y powerful, asociadas a los términos humanos body, woman, man y family. Tras un análisis de los resultados desde la óptica luhmanniana, se concluye que este tipo de Inteligencia Artificial pone en evidencia la falta de neutralidad e imparcialidad del algoritmo, así como la perpetuación de las desigualdades a través de las nuevas tecnologías.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Julia Garcia Tavora Menegaz, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Mestranda no Programa de Pós-Graduação em Direito na Universidade Federal do Rio de Janeiro (PPGD-UFRJ), com bolsa de fomento da CAPES/PROEX. Bacharela em Direito pela Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (2022). Estagiária docente nas disciplinas de Teoria Geral do Processo e Processo Civil I no curso de graduação da Faculdade Nacional de Direito. Coordenadora discente e pesquisadora do Núcleo de Mediação e Conciliação da Faculdade Nacional de Direito - NUMEC/FND (UFRJ). Membro-fundador da Liga de Direito Civil (LADC) da Universidade Federal do Rio de Janeiro. Foi monitora disciplina de Extensão "Veias Abertas da América Latina" e das disciplinas Direito Internacional Público, Teoria Geral do Processo, Direito Processual Civil e Direito Comercial I. Foi diretora de assuntos acadêmicos, eventos e midias sociais do Centro Acadêmico Cândido de Oliveira - CACO/Direito-UFRJ

Igor Alves Pinto, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Pós-Doutorado no Programa de Pós-Graduação em Direito (PPGD) pela UFRJ. Doutor em Direito pelo Programa de Pós-Graduação em Direito (PPGD) pela UFRJ na linha de "Teorias da decisão e da interpretação e justiça". Mestre pelo (PPGD) na linha de "Direitos Humanos, Sociedade e Arte". Graduado em Direito pela UFRJ. Professor substituto de Direito Civil pela Faculdade Nacional de Direito - UFRJ (2019-2021).

Citas

AZEVEDO JÚNIOR, J. G. de. Apostila de arte: artes visuais. São Luís: Imagética Comunicação e Design, 2007.

BENENSON, F. ‘Mathwashing,’ Facebook and the zeitgeist of data worship. Technical.ly. Technically, [s. l.], 8 jun. 2016. Disponível em: https://technical.ly/uncategorized/fred-benenson-mathwashing-facebook-data-worship/. Acesso em: 11 jun. 2025.

CARRERA, F. A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais. MATRIZes, São Paulo, v. 14, n. 2, p. 217–240, 2020. DOI: https://doi.org/10.11606/issn.1982-8160.v14i2p217-240

CHATGPT (versão GPT-4-turbo). OpenAI, [s. l.], 2024. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

FERRARI, F.; CECHINEL, C. Introdução a algoritmos e programação. Bagé: Universidade Federal do Pampa, 2008. Disponível em: https://lief.if.ufrgs.br/pub/linguagens/FFerrari-CCechinel-Introducao-a-algoritmos.pdf. Acesso em: 14 dez. 2024.

FOUCAULT, M. Poder-corpo. In: FOUCAULT, M. (org.). Microfísica do poder. Rio de Janeiro: Graal, 1996. p. 81-85.

FOUCAULT, M. História da sexualidade: a vontade de saber. 22. ed. Rio de Janeiro: Graal, 2012.

GROSSI, M. P. Masculinidades: uma revisão teórica. Mandrágona, [s. l.], v. 12, n. 12, p. 1-37, 2004. Disponível em: https://bit.ly/2YA6BWY. Acesso em: 14 dez. 2024.

KILOMBA, G. Memórias da plantação: crônicas da resistência. São Paulo: Companhia das Letras, 2019.

LA JUVENTUD de bacchus. Musée D’Aquitaine, [s. d.]. Disponível em: https://www.musee-aquitaine-bordeaux.fr/es/articulo/la-juventud-de-bacchus-1884. Acesso em: 10 dez. 2024.

LIM, W. M.; GUNASEKARA, A.; PALLANT, J. L.; PALLANT, J. I.; PECHENKINA, E. Generative AI and the future of education: ragnarök or reformation? A paradoxical perspective from management educators. The International Journal of Management Education, [s. l.], v. 21, n. 2, p. 1-13, 2023. DOI: https://doi.org/10.1016/j.ijme.2023.100790

LUHMANN, N. Legitimação pelo procedimento. Tradução Maria da Conceição Côrte-Real. Brasília: Editora Universidade de Brasília, 1980.

LUHMANN, N. Sociologia do Direito I. Rio de Janeiro: Edições Tempo Brasileiro, 1983.

LUHMANN, N. La ciencia de la sociedad. Barcelona: Anthropos, 1996.

LUHMANN, N.; GIORGI, R. De. Teoria della societá. 8. ed. Milano: Franco Angeli, 1996. p. 24-25.

LIES, damn lies and algorithms: what is mathwashing? Mathwashing, 2024. Disponível em: https://www.mathwashing.com/. Acesso em: 12 jul. 2024.

MELO, M. A.; BASSANI, P. S. Inteligência artificial generativa: aplicações e contextos. In: RIEOnLIFE, 4.; WLC, 8., 2023, Minas Gerais. Anais [...]. Minas Gerais: IFNMG, 2023. p. 1-5. Disponível em: https://eventos.ifnmg.edu.br/RIEWLC/6518af37e7d7c.pdf. Acesso em: 10 dez. 2024.

MOREIRA, A. J. Tratado de direito antidiscriminatório. São Paulo: Editora Contracorrente, 2020.

MUSÉE DU LOUVRE. Vénus de Milo. Louvre Collections, Paris, 2011. Disponível em: https://collections.louvre.fr/en/ark:/53355/cl010277627. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. A beautiful body. [imagem gerada por inteligência artificial]: Fluz, 2024. Disponível em: https://creator.nightcafe.studio/creation/OeN38V2FDdqqG1jeJ0Qs. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3Axx5MTlt939ZvqKRfedJ0%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful woman. [imagem gerada por inteligência artificial]: Flux, 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3AHHoTb6L3YNNFW9UJy1Tm%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/BU6pFrKXdU9GARhQYAJZ. Acesso em: 15 dez. 2024.

NIGHT CAFÉ. An art with a beautiful body. [imagem gerada por inteligência artificial]: Google Imagen 3.0 Fast, 2024. Disponível em: https://creator.nightcafe.studio/creation/PAq1g1c5fHmztxswgcXR. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. Powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/9F39d1ue2acP7C0uHh3O. Acesso em: 12 dez. 2024.

OPENAI. ChatGPT. [S. l.]: OpenAI, 2025. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

QUIJANO, A. Colonialidade do poder, eurocentrismo e América Latina. Buenos Aires: Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em: 10 out. 2023.

SCHUCMAN, L. V.; COSTA, E. S.; CARDOSO, L. Quando a identidade racial do pesquisador deve ser considerada: paridade e assimetria racial. Revista da Associação Brasileira de Pesquisadores/as Negros/as, Curitiba, v. 4, n. 8, p. 15-29, 2012. Disponível: https://abpnrevista.org.br/site/article/view/247. Acesso em: 10 out. 2023.

SETZER, V. W. Dado, informação, conhecimento e competência. DataGramaZero: Revista de Ciência da Informação, Rio de Janeiro, v.0, n.0, p. 1-11, dez. 1999.

SOVIK, L. Aqui ninguém é branco. Rio de Janeiro: Aeroplano, 2009.

STEYN, M. Novos matizes da “branquitude”: a identidade branca numa África do Sul multicultural e democrática. In: WARE, V. (org.). Branquidade: identidade branca e multiculturalismo. Rio de Janeiro: Garamond, 2004. p. 115-137.

ZAMBERLAN, L.et al. Pesquisa em ciências sociais aplicadas. Ijuí: Ed. Unijuí, 2014.