Razzismo Algoritmico: Come i Generatori di Immagini Riproducono la Discriminazione Razziale?

Autori

  • Julia Garcia Tavora Menegaz Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil
  • Igor Alves Pinto Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

DOI:

https://doi.org/10.5020/2317-2150.2025.16861

Parole chiave:

intelligenza artificiale generativa, arte , immagine, linguaggio, bianchezza

Abstract

Il presente lavoro analizza l’Intelligenza Artificiale Generativa e i generatori di immagini attraverso termini osservati da una prospettiva razziale. L’Intelligenza Artificiale è diventata un nuovo agente tecnologico capace non solo di assorbire e organizzare dati, ma anche di trasformare determinati termini in immagini. In questo contesto, incorporando la Teoria dei Sistemi per spiegare la comunicazione e il linguaggio, e ponendo l’arte al centro dell’analisi, è stata utilizzata la piattaforma ChatGPT per comprendere quali riferimenti artistici siano considerati rilevanti dall’Intelligenza Artificiale Generativa. Successivamente, con l’uso del generatore di immagini NightCafe, sono state prodotte immagini contenenti le parole chiave beautiful, beauty standards e powerful, associate ai termini umani body, woman, man e family. Dopo un’analisi dei risultati secondo una prospettiva luhmanniana, si conclude che questa modalità di Intelligenza Artificiale evidenzia l’assenza di neutralità e imparzialità dell’algoritmo, nonché la perpetuazione delle disuguaglianze attraverso le nuove tecnologie

Downloads

I dati di download non sono ancora disponibili.

Translation

This article is a translation in English of the article:  Racismo Algorítmico: Como os Geradores de Imagens Reproduzem a Discriminação Racial?

Biografie autore

Julia Garcia Tavora Menegaz, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Mestranda no Programa de Pós-Graduação em Direito na Universidade Federal do Rio de Janeiro (PPGD-UFRJ), com bolsa de fomento da CAPES/PROEX. Bacharela em Direito pela Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (2022). Estagiária docente nas disciplinas de Teoria Geral do Processo e Processo Civil I no curso de graduação da Faculdade Nacional de Direito. Coordenadora discente e pesquisadora do Núcleo de Mediação e Conciliação da Faculdade Nacional de Direito - NUMEC/FND (UFRJ). Membro-fundador da Liga de Direito Civil (LADC) da Universidade Federal do Rio de Janeiro. Foi monitora disciplina de Extensão "Veias Abertas da América Latina" e das disciplinas Direito Internacional Público, Teoria Geral do Processo, Direito Processual Civil e Direito Comercial I. Foi diretora de assuntos acadêmicos, eventos e midias sociais do Centro Acadêmico Cândido de Oliveira - CACO/Direito-UFRJ

Igor Alves Pinto, Universidade Federal do Rio de Janeiro, Rio de Janeiro, Brasil

Pós-Doutorado no Programa de Pós-Graduação em Direito (PPGD) pela UFRJ. Doutor em Direito pelo Programa de Pós-Graduação em Direito (PPGD) pela UFRJ na linha de "Teorias da decisão e da interpretação e justiça". Mestre pelo (PPGD) na linha de "Direitos Humanos, Sociedade e Arte". Graduado em Direito pela UFRJ. Professor substituto de Direito Civil pela Faculdade Nacional de Direito - UFRJ (2019-2021).

Riferimenti bibliografici

AZEVEDO JÚNIOR, J. G. de. Apostila de arte: artes visuais. São Luís: Imagética Comunicação e Design, 2007.

BENENSON, F. ‘Mathwashing,’ Facebook and the zeitgeist of data worship. Technical.ly. Technically, [s. l.], 8 jun. 2016. Disponível em: https://technical.ly/uncategorized/fred-benenson-mathwashing-facebook-data-worship/. Acesso em: 11 jun. 2025.

CARRERA, F. A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais. MATRIZes, São Paulo, v. 14, n. 2, p. 217–240, 2020. DOI: https://doi.org/10.11606/issn.1982-8160.v14i2p217-240

CHATGPT (versão GPT-4-turbo). OpenAI, [s. l.], 2024. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

FERRARI, F.; CECHINEL, C. Introdução a algoritmos e programação. Bagé: Universidade Federal do Pampa, 2008. Disponível em: https://lief.if.ufrgs.br/pub/linguagens/FFerrari-CCechinel-Introducao-a-algoritmos.pdf. Acesso em: 14 dez. 2024.

FOUCAULT, M. Poder-corpo. In: FOUCAULT, M. (org.). Microfísica do poder. Rio de Janeiro: Graal, 1996. p. 81-85.

FOUCAULT, M. História da sexualidade: a vontade de saber. 22. ed. Rio de Janeiro: Graal, 2012.

GROSSI, M. P. Masculinidades: uma revisão teórica. Mandrágona, [s. l.], v. 12, n. 12, p. 1-37, 2004. Disponível em: https://bit.ly/2YA6BWY. Acesso em: 14 dez. 2024.

KILOMBA, G. Memórias da plantação: crônicas da resistência. São Paulo: Companhia das Letras, 2019.

LA JUVENTUD de bacchus. Musée D’Aquitaine, [s. d.]. Disponível em: https://www.musee-aquitaine-bordeaux.fr/es/articulo/la-juventud-de-bacchus-1884. Acesso em: 10 dez. 2024.

LIM, W. M.; GUNASEKARA, A.; PALLANT, J. L.; PALLANT, J. I.; PECHENKINA, E. Generative AI and the future of education: ragnarök or reformation? A paradoxical perspective from management educators. The International Journal of Management Education, [s. l.], v. 21, n. 2, p. 1-13, 2023. DOI: https://doi.org/10.1016/j.ijme.2023.100790

LUHMANN, N. Legitimação pelo procedimento. Tradução Maria da Conceição Côrte-Real. Brasília: Editora Universidade de Brasília, 1980.

LUHMANN, N. Sociologia do Direito I. Rio de Janeiro: Edições Tempo Brasileiro, 1983.

LUHMANN, N. La ciencia de la sociedad. Barcelona: Anthropos, 1996.

LUHMANN, N.; GIORGI, R. De. Teoria della societá. 8. ed. Milano: Franco Angeli, 1996. p. 24-25.

LIES, damn lies and algorithms: what is mathwashing? Mathwashing, 2024. Disponível em: https://www.mathwashing.com/. Acesso em: 12 jul. 2024.

MELO, M. A.; BASSANI, P. S. Inteligência artificial generativa: aplicações e contextos. In: RIEOnLIFE, 4.; WLC, 8., 2023, Minas Gerais. Anais [...]. Minas Gerais: IFNMG, 2023. p. 1-5. Disponível em: https://eventos.ifnmg.edu.br/RIEWLC/6518af37e7d7c.pdf. Acesso em: 10 dez. 2024.

MOREIRA, A. J. Tratado de direito antidiscriminatório. São Paulo: Editora Contracorrente, 2020.

MUSÉE DU LOUVRE. Vénus de Milo. Louvre Collections, Paris, 2011. Disponível em: https://collections.louvre.fr/en/ark:/53355/cl010277627. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. A beautiful body. [imagem gerada por inteligência artificial]: Fluz, 2024. Disponível em: https://creator.nightcafe.studio/creation/OeN38V2FDdqqG1jeJ0Qs. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3Axx5MTlt939ZvqKRfedJ0%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A contemporary art with a beautiful woman. [imagem gerada por inteligência artificial]: Flux, 2024. Disponível em: https://creator.nightcafe.studio/studio?open=creation&panelContext=%28jobId%3AHHoTb6L3YNNFW9UJy1Tm%29. Acesso em: 16 dez. 2024.

NIGHT CAFÉ. A powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/BU6pFrKXdU9GARhQYAJZ. Acesso em: 15 dez. 2024.

NIGHT CAFÉ. An art with a beautiful body. [imagem gerada por inteligência artificial]: Google Imagen 3.0 Fast, 2024. Disponível em: https://creator.nightcafe.studio/creation/PAq1g1c5fHmztxswgcXR. Acesso em: 12 dez. 2024.

NIGHT CAFÉ. Powerful man. [imagem gerada por inteligência artificial]. 2024. Disponível em: https://creator.nightcafe.studio/creation/9F39d1ue2acP7C0uHh3O. Acesso em: 12 dez. 2024.

OPENAI. ChatGPT. [S. l.]: OpenAI, 2025. Disponível em: https://chat.openai.com/. Acesso em: 12 dez. 2024.

QUIJANO, A. Colonialidade do poder, eurocentrismo e América Latina. Buenos Aires: Consejo Latinoamericano de Ciencias Sociales, 2005. Disponível em: http://bibliotecavirtual.clacso.org.ar/clacso/sur-sur/20100624103322/12_Quijano.pdf. Acesso em: 10 out. 2023.

SCHUCMAN, L. V.; COSTA, E. S.; CARDOSO, L. Quando a identidade racial do pesquisador deve ser considerada: paridade e assimetria racial. Revista da Associação Brasileira de Pesquisadores/as Negros/as, Curitiba, v. 4, n. 8, p. 15-29, 2012. Disponível: https://abpnrevista.org.br/site/article/view/247. Acesso em: 10 out. 2023.

SETZER, V. W. Dado, informação, conhecimento e competência. DataGramaZero: Revista de Ciência da Informação, Rio de Janeiro, v.0, n.0, p. 1-11, dez. 1999.

SOVIK, L. Aqui ninguém é branco. Rio de Janeiro: Aeroplano, 2009.

STEYN, M. Novos matizes da “branquitude”: a identidade branca numa África do Sul multicultural e democrática. In: WARE, V. (org.). Branquidade: identidade branca e multiculturalismo. Rio de Janeiro: Garamond, 2004. p. 115-137.

ZAMBERLAN, L.et al. Pesquisa em ciências sociais aplicadas. Ijuí: Ed. Unijuí, 2014.

Downloads

Pubblicato

2025-06-25

Come citare

Menegaz, J. G. T., & Pinto, I. A. (2025). Razzismo Algoritmico: Come i Generatori di Immagini Riproducono la Discriminazione Razziale?. Pensar – Rivista Di Scienze Giuridiche, 30, 1–14. https://doi.org/10.5020/2317-2150.2025.16861

Fascicolo

V. 30 (2025)

Sezione

Diritto, Tecnologia e Società in Trasformazione

Licenza

Copyright (c) 2025 Julia Garcia Tavora Menegaz, Igor Alves Pinto

Creative Commons License

TQuesto lavoro è fornito con la licenza Creative Commons Attribuzione 4.0 Internazionale.

Questo è un articolo ad accesso aperto distribuito secondo i termini della Licenza Creative Commons Attribuzione 4.0 Internazionale (CC-BY 4.0), che consente l’uso, la distribuzione e la riproduzione con qualsiasi mezzo, a condizione che l’opera originale sia debitamente citata.

Per ulteriori informazioni, consultare: https://creativecommons.org/licenses/by/4.0/

Crossref
Scopus
Google Scholar
Europe PMC