Capítulo 13
Uma genealogia dos estereótipos: a representação dos povos indígenas com IA generativa
Sandra De Berduccy
Se, nas cidades, temos dificuldade em fazer as pessoas entenderem que
existe uma grande diversidade indígena, imagine explicar isso para um
banco de dados.
(Kuenan Mayu, comentário feito durante um dos grupos focais do projeto AIAI, maio de 2023)
Desde o momento em que começamos a gerar imagens com o Midjourney no âmbito do projeto AIAI, percebemos que as imagens revelavam uma grande quantidade de ideias preconcebidas sobre os povos indígenas, representando-os de formas excessivamente simplificadas e que não levam em conta a especificidade cultural das comunidades em questão. Esse viés na representação dos povos indígenas tem origem na forma como eles têm sido retratados ao longo da história da fotografia. Para analisar essas formas recorrentes de representação estereotipada, este capítulo examina uma seleção de fotografias de povos indígenas tiradas na América do Sul no final do século XIX. Nesse período, aspectos como a encenação, a pose, o uso de um pano de fundo, bem como a alteração das normas culturais em relação ao vestuário e às joias, começaram a influenciar a forma como percebemos os povos indígenas. Um exemplo revelador são as imagens fotográficas do povo Mapuche, que desempenharam um papel fundamental na forma como os forasteiros têm percebido essa comunidade. Hoje em dia, vemos como essas convenções visuais reaparecem em imagens geradas por ferramentas de Inteligência Artificial, como o Midjourney, o que sugere que o viés histórico na representação dos povos indígenas não apenas persiste, mas está sendo reproduzido e amplificado por essas novas tecnologias generativas.
A encenação
As fotografias de pessoas tiradas no final do século XIX seguiam as mesmas convenções rígidas da pintura de retratos no que diz respeito à encenação. Segundo Peter Burke (2001), tirar uma foto consistia em capturar uma cena na qual a pessoa, vestida com suas melhores roupas, aparecia cercada por objetos que a caracterizavam e que desempenhavam uma função simbólica, ‘ocultando uma mensagem religiosa ou moral apresentada por meio do “simbolismo velado” dos objetos cotidianos’ (21). Esse uso da encenação também se aplicou às primeiras imagens fotográficas tiradas de povos indígenas, como os Mapuches. No livro Mapuche: fotografias dos séculos XIX e XX: construção e montagem de um imaginário, Margarita Alvarado (2001) analisa a obra de fotógrafos como Gustavo Milet Ramírez e Odber Heffer Bissett, que trabalharam no Chile no final do século XIX. Segundo Alvarado, suas fotografias estabeleceram as bases da forma como se entendia a cultura Mapuche – ou cultura Araucana, como era chamada naquela época – naquele momento histórico.
As observações de Alvarado são fundamentais para compreender como se construiu, por meio de imagens fotográficas, uma visão estereotipada do povo Mapuche. Ao analisar uma série de retratos de mulheres Mapuches tirados por volta de 1900 no estúdio de Gustavo Milet Ramírez (ver Fig. 13.1), Alvarado destaca uma prática recorrente: ‘podemos perceber que todas essas mulheres diferentes aparecem exibindo exatamente as mesmas joias de prata. Milet intervém assim diretamente em uma normatividade social e estética, colocando nessas mulheres joias de prata que provavelmente eram de sua propriedade’ (23). Além disso, segundo Alvarado, os objetos de importância cultural, como as joias tradicionais Mapuches – peças conhecidas como trapelakucha, sikil ou trarulongko –, não são apresentados em relação ao seu simbolismo indígena nem ao seu papel na construção da identidade indígena, mas são utilizados para se adequar às escolhas estéticas do fotógrafo: ‘Não passam de um adereço utilizado para uma encenação, são apenas um subterfúgio para nos mostrar uma realidade que, no fim das contas, é uma montagem delicada e maravilhosa’ (23).
Fig. 13.1. Mulheres Mapuches com joias de prata, oficina de Gustavo Milet Ramírez, Traiguen, Chile, por volta de 1900. Nationaal Museum van Wereldculturen, Leiden, Países Baixos, n.ºs RV-A299-11 e RV-A299-19.
Esse uso estereotipado dos símbolos culturais se reproduz nas imagens geradas por Inteligência Artificial e foi observado nos primeiros testes realizados pela equipe do projeto AIAI com o Midjourney. Ao utilizarmos instruções como ‘amazon_woman_child_craftwork’ [Amazônia_mulher_criança_artesanato] e ‘andes_woman_child_weaving’ [Andes_mulher_criança_tecelagem], respectivamente, observamos que, assim como ocorre com as imagens de mulheres Mapuches fotografadas no final do século XIX, as imagens geradas por IA de mulheres e crianças da Amazônia (ver Fig. 13.2, imagens superiores) e dos Andes (ver Fig. 13.2, imagens inferiores) não refletem fielmente as vestimentas, os tecidos nem os adornos característicos dessas regiões. Para as pessoas que pertencem a essas culturas, isso pode ser bastante impactante, já que a iconografia ou as cores dos tecidos sempre corresponderam a lugares e identidades específicas, e continuam a fazê-lo até hoje.
Fig. 13.2. Thea Pitman, imagens de mulheres e crianças da Amazônia e dos Andes geradas com o Midjourney v.5.1, maio de 2023, como testes preliminares antes do início do projeto AIAI. Prompts: ‘amazon_woman_child_craftwork’ [Amazônia_mulher_criança_artesanato] ‘andes_woman_child_weaving’ [Andes_mulher_criança_tecelagem], respectivamente.
Nas imagens geradas, em vez de mostrar elementos iconográficos específicos que nos permitam identificar claramente de onde uma pessoa é originária ou a qual povo indígena pertence, nos é apresentada uma mistura confusa de signos pertencentes a diferentes grupos culturais. Há até mesmo alguns elementos não identificáveis que não têm nada a ver com os códigos culturais associados às comunidades amazônicas ou andinas. Esse fenômeno lembra a apropriação e a troca aleatória de joias no estudo de Milet, onde os símbolos culturais eram trocados entre as modelos – que muito bem poderiam nem mesmo ter posado para as fotografias por vontade própria – sem levar em conta seu uso ou significado original.
Baseando suas observações nessas e em outras imagens geradas durante a primeira fase do projeto, o artista e pesquisador Tadeu Kaingang destacou um dos elementos-chave da representação dos povos indígenas no Brasil: o cocar. Nessas imagens geradas por IA, ele argumentou que os cocares pareciam mais semelhantes aos utilizados na cultura Maia e de forma alguma parecidos com os que os povos indígenas do Brasil utilizam. Essa observação ressalta como a IA, por carecer de uma compreensão contextual dos símbolos culturais, os recombina de forma aparentemente aleatória, gerando representações que não só são incorretas, mas que podem contribuir para a reprodução de formas estereotipadas de ver os povos indígenas.
A pose e o pano de fundo
Alvarado também destaca que, nessas primeiras imagens, as poses adotadas pelos participantes de origem Mapuche não refletiam realmente seu comportamento habitual, suas formas de expressão cultural nem seu ambiente, mas sim aquelas exigidas pelo fotógrafo. Os sujeitos Mapuches participam do processo de encenação do estúdio fotográfico, com poses e expressões que lhes são impostas para se adequarem a uma visão estética que era bastante estranha à sua maneira de ser (2001, 23). Por exemplo, nas imagens reproduzidas na Fig. 13.3, as convenções da encenação são facilmente identificáveis. A imagem do Longko, tirada no estúdio de Fernando Valck em 1880, mostra o chefe Mapuche posando com uma atitude solene, vestido com um poncho tradicional combinado com acessórios ocidentais, como as botas com esporas e o chapéu que vemos no chão, neste caso sobre um fundo completamente neutro. E na imagem das mulheres e crianças Mapuches, tirada no estúdio de Gustavo Milet Ramírez por volta de 1900, as figuras estão situadas em ambos os lados de um tronco de árvore retorcido; algumas permanecem imóveis e olham impassíveis diretamente para a câmera, de modo que seus rostos sejam vistos com clareza, enquanto outras estão inclinadas, ocupadas na preparação da comida, aludindo assim ao que pretende ser uma cena típica da vida cotidiana. No entanto, todas elas estão posicionadas de forma bastante improvável diante de um pano de fundo que representa um pedestal clássico, trepadeiras e árvores que se perdem na névoa, e que sem dúvida serviu para outros retratos da alta sociedade.
Fig. 13.3. Esquerda: Longko [chefe] Mapuche, fotografia de Fernando Maximiliano Valck Wiegand, Santiago do Chile, 1880. Museu Histórico Nacional, Santiago do Chile, n.º Fb-4363. Direita: Mulheres e uma criança Mapuches preparando comida, posando diante de um pano de fundo, estudo de Gustavo Milet Ramírez, Traiguen, Chile, por volta de 1900. Museu Nacional de Culturas do Mundo, Leiden, Países Baixos, n.º RV-A299-14.
Essa forma de representação fotográfica, longe de desaparecer com o passar do tempo, é agora reproduzida em imagens geradas por Inteligência Artificial. Na Fig. 13.4, pode-se ver um exemplo gerado por Lucian de Silenttio, artista interdisciplinar e educador boliviano de origem Aymara, durante a fase inicial do projeto AIAI. A intenção de Lucian era reproduzir a paisagem urbana da cidade de El Alto, com vistas para a cidade de La Paz; uma área em que predomina a presença da cultura Aymara urbana. Na imagem gerada, essa paisagem é percebida como um cenário pictórico no qual se destaca a figura do personagem.
Fig. 13.4. Lucian de Silenttio, Homem no topo de uma montanha, imagem gerada com o Midjourney v.5.1, maio de 2023, na primeira fase do projeto AIAI. Prompt: ‘Man on the highland mountain, dressed in a red and black striped poncho, next to him a golden dog reclining like a sphinx, in the background a city between mist and smoke coming out of buildings. Realistic, 4k photography’ [Homem no topo de uma montanha, vestido com um poncho listrado de vermelho e preto; ao seu lado, um cachorro dourado deitado como uma esfinge; ao fundo, uma cidade entre a névoa e a fumaça que sai dos prédios. Fotografia realista em 4K].
Das quatro variações geradas pelo Midjourney, Lucian preferiu a que está no canto inferior esquerdo porque a pessoa tem cabelos longos, embora tenha comentado que gostaria que ela apresentasse traços indígenas mais marcantes. No entanto, como não incluiu nenhuma referência à indigeneidade nem à localização geográfica no prompt, é praticamente impossível que tais traços fenotípicos apareçam em uma imagem gerada pelo Midjourney v.5.1, o que indica a presença extremamente escassa de povos indígenas da região no banco de dados utilizado e a ausência de prompts que sugiram formas específicas de diversidade incluídas pelos designers.[1] Outra observação de Lucian refere-se ao poncho, uma peça de vestuário tradicional da cultura Aymara. Na imagem gerada, ele se parece com uma capa de chuva ou uma capa. Em uma conversa pessoal, Lucian comentou: ‘Es que [la IA] no conoce’. Ele também observou que todas as imagens lhe pareciam ‘muy convencionales’, especialmente a do canto superior direito.
Quanto à questão da pose, nas antigas fotografias em preto e branco, a rigidez e a imobilidade das figuras se deviam a requisitos técnicos, já que os processos químicos próprios da fotografia da época exigiam que o modelo permanecesse imóvel por vários segundos, o que dificultava a representação da naturalidade. Aqui vemos claramente que, embora essa limitação técnica já não exista, a rigidez da pose continua sendo reproduzida nas imagens geradas devido à sua forte presença nas imagens que compõem o banco de dados.
A cena étnica
Tadeu Kaingang também observou a construção do que poderíamos chamar de ‘cenas étnicas’ nas imagens que criou como parte da primeira fase do projeto AIAI. Segundo Alvarado, a tradicional ‘cena étnica’ na fotografia tinha como objetivo transmitir ‘uma atmosfera que visa produzir um ambiente elaboradamente dramático’ (2001, 25), na qual se tenta criar a ilusão de uma paisagem real e da natureza, bem como uma representação aparentemente fiel de uma realidade cultural exótica e distinta.
Esse tipo de encenação reaparece nas imagens geradas por IA. Um exemplo é o prompt criado por Tadeu Kaingang: ‘A family of five South American Kaingang indigenous people reforesting a patch of forest while under the watchful gaze of ancestral nature gods in supernatural form’ [Uma família de cinco indígenas Kaingang sul-americanos reflorestando uma área de mata sob o olhar atento de deuses ancestrais da natureza em forma sobrenatural] (ver Fig. 10.2). A imagem gerada omite qualquer representação evidente dos ‘deuses ancestrais da natureza’ mencionados explicitamente no prompt, mostrando, em vez disso, uma floresta composta por elementos genéricos; também chama a atenção o fato de que as vestimentas não correspondem à cultura Kaingang, apesar da referência a essa cultura estar claramente indicada no prompt. O olhar frontal e a pose rígida também reaparecem. Como comentou Tadeu durante os grupos focais, trata-se de ‘estereótipos, nos quais não conseguimos enxergar a pessoa indígena contemporânea’. Essas imagens dos Kaingang lembraram a Tadeu as ilustrações feitas por Joaquim José de Miranda no século XVIII, que estavam ‘desenhadas no estilo do conquistador; eram povos indígenas completamente diferentes’ e em claro contraste com as imagens dos Kaingang encontradas na enciclopédia do Instituto Socioambiental Povos Indígenas no Brasil (2018), que mostram famílias Kaingang em seu ambiente cotidiano real, longe dos artifícios de um estúdio fotográfico.
Durante os grupos focais na primeira fase do projeto AIAI, vários participantes expressaram dificuldades em se reconhecerem a si mesmos ou às suas comunidades nas imagens geradas. Mariela Tulián, Casqui Curaca [líder comunitária] do povo Tulián, queria se representar como uma onça-pintada fêmea cercada por algarrobos, já que não se imaginava tanto como uma pessoa, mas sim como um grande felino, uma figura importante para os povos do Gran Chaco. No entanto, o Midjourney gerou uma imagem que não atendeu às suas expectativas, o que dificultou que ela se identificasse com a onça-pintada ou reconhecesse a floresta de algarrobos. Esse caso nos leva à questão da autorrepresentação indígena, que nem sempre se concentra no eu individual, mas sim em sua relação com o ambiente. Como observou Lucian de Silenttio em uma comunicação pessoal: ‘Las montañas, los árboles y hasta los animales son sujetos’. Essa visão questiona a lógica antropocêntrica subjacente tanto à IA quanto às representações visuais tradicionais.
Sub-representação
A tecelã Mapuche e pesquisadora de corantes naturais e plantas medicinais, Loreto Millalén, fez outra observação sobre a falta de representatividade nas imagens geradas. Referindo-se à sua prática de pesquisa, ela criou este prompt em espanhol: ‘La gente se identifica cada una con una planta y trabajan en equipos para realizar actividades que se consideran medicina’. A imagem resultante (ver Fig. 13.5) mostra um homem branco vestido com um jaleco branco e um estetoscópio, o que evidencia a associação da palavra ‘medicina’ à figura de um médico ocidental do gênero masculino. Nas demais imagens geradas em relação a esse prompt – e sem que o próprio prompt incluísse qualquer informação sobre a estética –, as imagens lembram desenhos animados ou caricaturas, completamente distantes da complexidade simbólica, espiritual e comunitária da medicina tradicional que Loreto tinha em mente.
Fig. 13.5. Loreto Millalén, Pessoas trabalhando com plantas medicinais, imagem gerada com o Midjourney v.5.1, maio de 2023, na primeira fase do projeto AIAI. Prompt: ‘La gente se identifica cada una con una planta y trabajan en equipos para realizar actividades que se consideran medicina’.
Lucian de Silenttio, que continuou gerando um grande número de imagens desde a época desses primeiros grupos focais, afirma enfaticamente:
No es posible que las Inteligencias [Artificiales] nos permitan autorrepresentarnos como indígenas . . . porque la Inteligencia Artificial es un programa que utiliza una base de datos determinada, y solo puede responderte recurriendo a esa base de datos en la que no estamos incluidos.
Cientistas sociais e ativistas já observaram casos em que as imagens geradas pela IA resultam em representações heteronormativas e racialmente estereotipadas, o que ressalta que os modelos treinados com dados extraídos da internet não representam adequadamente toda a humanidade.[2] Isso não é casual, mas estrutural. Os bancos de dados massivos perpetuam, reproduzem e reforçam os estereótipos gerados por uma cultura dominante e, com eles, as lógicas de exclusão e supremacia nas quais não se tolera o florescimento de outras visões e narrativas.
Tudo isso sugere que, por trás da interface intuitiva das ferramentas de IA, persistem lógicas tendenciosas, herdadas da história colonial da representação. Embora fosse possível se esforçar mais para propor prompts que produzissem resultados mais próximos da autorrepresentação desejada, esse processo exigia um duplo esforço de tradução para quem não falava inglês: traduzir imaginários culturais muito diferentes para línguas europeias convencionais, como o espanhol ou o português, e depois, novamente, outra tradução para o inglês, a única língua com a qual a ‘máquina’ podia trabalhar com eficiência naquele momento. Tratava-se de uma dupla tradução que nos obrigava a traduzir a nós mesmos para podermos existir em um sistema que não nos representava.
Fig. 13.6. Acima: Aymar Ccopacatty, Avô Aymara caminhando à beira do lago Titicaca, série de quatro imagens geradas com o Midjourney v.5.1, maio de 2023. Prompt: ‘an ancient Aymara grandfather, walking his farm lands on lake titicaca, high altitude, time is slow, slow slow down, the green shore and the blue depths of the lake shimmer. His crops are Potato, Avas, Quinua, Jirwa, Achachilas guard the snow capped glacier mountains far away, slow slow slow down, an Apacheta spring gurgles its sacred and mystical life giving water
that flows downhill towards the lake’ [Um ancião avô Aymara, caminhando por suas terras de cultivo às margens do Lago Titicaca, em grande altitude; o tempo passa devagar, devagar, ainda mais devagar; a margem verde e as profundezas azuis do lago brilham. Seus cultivos são batatas, avas, quinoa e jirwa; as achachilas guardam as montanhas glaciares cobertas de neve ao longe; devagar, devagar, ainda mais devagar; uma nascente jorra de uma apacheta e sua água sagrada e mística, que dá vida, borbulha e flui morro abaixo em direção ao lago]. Abaixo: duas fotografias do tio-avô de Aymar, Cicilio Ccopacati Quispe, em Puno, Peru, por volta de 1980. Fotos: Aymar Ccopacatty.
Dito isso, sempre há uma exceção a qualquer regra. Aymar Ccopacatty, um artista Aymara do Peru que se mudou para os EUA quando era criança, redigiu um prompt diretamente em inglês que incluía detalhes específicos sobre a origem étnica, a localização geográfica e a flora local, e os resultados realmente superaram suas expectativas. Nas imagens geradas (ver Fig. 13.6, acima), Aymar reconheceu uma semelhança evidente com as fotografias que possui de seu tio-avô Cicilio Ccopacati Quispe, natural da comunidade de Qullana Socca, em Puno, no Peru (ver Fig. 13.6, abaixo). Além disso, talvez devido à ênfase em representar o tempo em seu prompt – mesmo que com foco na lentidão –, as imagens geradas são muito mais dinâmicas do que a pose estática das fotografias originais, que se ajustam mais às convenções da fotografia de retrato tradicional. É claro que também podemos especular sobre como a distância geográfica e temporal faz com que Aymar esteja mais predisposto a experimentar uma resposta afetiva diante das imagens geradas, em comparação com os demais artistas indígenas que participam do projeto. No entanto, essa única exceção sugere que, para aqueles que se sentem inclinados a isso e conseguem superar as dificuldades linguísticas dos prompts de texto, existem possibilidades interessantes a serem exploradas na geração de imagens por meio da IA em relação aos povos indígenas.
Conforme mencionado no Capítulo 5, o Midjourney v.5.1 e as versões posteriores utilizadas neste livro voltaram a utilizar um algoritmo que oferece resultados com menor diversidade étnica, após a breve tentativa de aumentar a diversidade étnica na versão 5.0. ↑
Consulte o Capítulo 1, especialmente a nota 6. ↑