Conclusão

Andreas Rauh

Este livro reúne e analisa uma ampla gama de práticas, reflexões e histórias que ilustram como os membros indígenas da equipe se envolveram com a IA generativa durante o projeto AIAI ao longo de suas diferentes iterações, bem como em relação a alguns de seus desdobramentos. Cada capítulo oferece um vislumbre das experimentações deles com a IA generativa, o que permitiu que a equipe explorasse representações culturais, perspectivas epistemológicas e formas cocriativas de expressão por meio de um trabalho prático com essa tecnologia, cuja adoção pelo público-geral está nos estágios iniciais. Ao longo do livro, os autores discutem uma ampla gama de ideias ilustradas por imagens geradas por IA que foram posteriormente apresentadas em posts de blog, em contas de redes sociais e em livros infantis, documentários curtos e exposições. Ao fazer isso, eles demonstram que, embora a IA certamente não é isenta de problemas e é um tema altamente emotivo para alguns, ela também oferece um potencial significativo para contribuir para a criatividade humana, o que Alex Potiguara (2024) denominou de forma lúdica, em um contexto indígena, de “(co)criação artificial indígena”.

De muitas maneiras, o projeto foi orientado pelos princípios contidos no conceito indígena de Buen Vivir/Bem Viver, que enfatiza uma relação equilibrada e respeitosa entre seres humanos e agentes não humanos, principalmente o meio ambiente e outros seres vivos. Conforme demonstram os colaboradores do livro, o grau de sucesso do projeto no cumprimento desses princípios variou, mas a noção do Bem Viver – ou melhor, do ‘Bem Viver Digital’, como passou a ser conhecida em relação ao projeto (Potiguara et al. 2024), forneceu uma estrutura para orientar a maneira como as ferramentas de IA generativa poderiam ser incorporadas como um componente do processo criativo mais amplo e de forma a contribuir para uma relação equilibrada entre seres humanos e agentes não humanos.

O restante desta breve conclusão destaca temas e conceitos significativos que emergiram do projeto e são apresentados ao longo do livro de várias formas. Esta não é uma discussão exaustiva, nem um relato definitivo do que tem sido feito com a IA generativa no contexto da arte indígena e da cultura visual de maneira mais geral, já que esse tema é amplo demais e está em rápida evolução. Dito isso, começamos com uma breve discussão sobre a construção do conhecimento e a cultura visual indígena.

Epistemologias, criatividade e autoria

Um debate central ao longo deste livro diz respeito às diferentes maneiras pelas quais os povos e as culturas compreendem como o conhecimento é criado e compartilhado e, por sua vez, como essas epistemologias moldam a forma como a criatividade é conceitualizada. Na maioria das vezes, tradições ocidentais atribuem grande valor aos indivíduos e às suas contribuições: o pintor, o compositor ou o escritor, e as obras-primas apontadas como evidência de suas realizações criativas individuais. Sob uma perspectiva diferente, as epistemologias indígenas aqui apresentadas enfatizam a base coletiva do conhecimento, o princípio de que o saber é resultado das relações que os seres humanos mantêm entre si, bem como com a terra, os ancestrais e os encantados. Dentro dessas relações, agency [agência] e capacidade criativa não se limitam aos seres humanos e costumam incluir a atores não humanos, incluindo ferramentas de IA generativa. Essas redes relacionais não invalidam as afirmações de agência individual, mas, ao contrário, enfatizam os aspectos coletivos da construção do conhecimento e reconhecem que as obras criativas são resultado de indivíduos que atuam dentro de tradições sociais e culturais herdadas de longa data, e que contribuem para elas mesmas.

A distinção entre epistemologias individuais e coletivas no trabalho criativo ajuda a destacar algumas das visões contrastantes sobre a IA generativa que emergem neste volume, mas não explica nem resolve totalmente essas tensões. Ferramentas de geração de imagens, como o Midjourney, continuam sendo fonte tanto de admiração quanto de inquietação, conforme evidenciado pelas discussões sobre o processo criativo e a possível atribuição de autoria às imagens geradas com IA por artistas indígenas. Vários colaboradores descrevem um sentimento de ambivalência em seu envolvimento com ferramentas de geração de imagens. Por um lado, houve surpresas agradáveis com a qualidade estética de algumas das imagens produzidas; por outro, persistiram preocupações sobre as maneiras como os sistemas de IA generativa absorvem e recombinam materiais visuais que acentuam representações estereotipadas e tendenciosas de suas comunidades. Essa ambivalência está intimamente ligada às noções de agência e autoria: muitos participantes estavam inseguros quanto ao uso de seus nomes artísticos em relação à autoria das imagens geradas por IA e se sentiam muito mais à vontade quando o paratexto garantia que fossem reconhecidos simplesmente como agentes em um processo colaborativo com o sistema de IA. Essa afirmação de autoria compartilhada enfatiza o envolvimento em um processo de criação de imagens com atores criativos não humanos e também permite uma maior distância em relação às imagens geradas, especialmente quando os resultados visuais se afastavam das expectativas e/ou da realidade observada. Consequentemente, a agência criativa com ferramentas de IA generativa é distribuída entre suas partes interessadas: os humanos inserem prompts textuais, que são transformados em imagens pelos atores não humanos, as quais podem ser refinadas por meio de novos prompts textuais, alimentando um processo iterativo de geração de imagens. No entanto, durante esse processo cíclico, há tanto perdas quanto ganhos no percurso de tradução.

Línguas e traduções

A geração de imagens por IA com modelos de difusão não se baseia em grandes modelos de linguagem (LLMs), mas depende do uso de linguagens naturais de maneiras semelhantes. O pré-treinamento de um modelo de difusão utiliza conjuntos de dados massivos de pares texto-imagem. Posteriormente, uma ferramenta de ‘codificador de linguagem’ pode então recorrer a esses dados – uma vez que eles estão presentes no ‘espaço latente’ do modelo – para orientar a síntese de imagens quando o modelo recebe um prompt de texto em linguagem natural. Embora, há apenas alguns anos, o prompt de texto em linguagem natural precisasse realmente estar em inglês para funcionar de maneira ideal com a língua dominante do espaço latente do modelo, isso mudou rapidamente, de modo que outras línguas (de colonização) amplamente faladas, como o espanhol e o português, agora podem ser usadas com confiabilidade nos prompts. No entanto, ainda é verdade que os LLMs e, por extensão, os modelos de geração de imagens baseados em difusão, podem, ao que tudo indica, lidar melhor com prompts em linguagem natural baseado em línguas diferentes do inglês, mas ainda parecem ‘pensar’ em inglês em seu espaço latente (Schut, Gal e Farquhar 2025), ocultando assim os processos de tradução. Embora inserir um prompt de imagem em vez de um prompt de texto possa ajudar a melhorar a precisão dos resultados, isso ainda não altera de maneira fundamental a dependência do modelo em relação à linguagem – e a uma língua em particular – no que diz respeito ao que ocorre nos bastidores. Muitos dos colaboradores deste livro discutem suas frustrações linguísticas contínuas com a geração de imagens por IA e até que ponto isso resulta em resultados imprecisos e imprevisíveis.

Ao longo do projeto AIAI, institutos de pesquisa, empresas e governos nacionais da América Latina têm trabalhado intensamente para resolver essa questão, particularmente em relação às ferramentas de geração de texto por IA, com o lançamento, em 2025, do Latam-GPT, um modelo de IA de código aberto treinado com materiais latino-americanos tanto em espanhol quanto em português (Vera-Cruz 2025; Lagos 2025), bem como o GAIA-X para materiais exclusivamente em português (Arimathea e Ronaldi 2025). Ao mesmo tempo em que melhoram a questão linguística, esses modelos regionais e nacionais utilizam dados de treinamento locais e, portanto, mais relevantes para a cultura de seus públicos-alvo. O Latam-GPT também afirma estar empenhado em garantir a inclusão de línguas e culturas indígenas, bem como em desenvolver ferramentas relacionadas à geração de imagens e vídeos em um futuro próximo (Lagos 2025), sugerindo assim a possibilidade de produzir resultados um pouco menos tendenciosos no que diz respeito à representação visual dos povos indígenas. Além disso, em vez de repetirem em grande escala as práticas insustentáveis sobre as quais os modelos anglófonos dominantes foram construídos, ‘os laboratórios de IA no Sul Global estão [...] aproveitando modelos-base poderosos e de código aberto como ponto de partida e, em seguida, desenvolvendo técnicas sofisticadas de adaptação e ajuste fino para criar modelos mais especializados, adaptados aos idiomas e realidades locais’ (Burgos 2025). No entanto, enquanto isso, muitos latino-americanos continuarão a utilizar os modelos comerciais convencionais disponíveis de IA hegemônica, e esse certamente foi o caso dos membros da equipe durante o projeto AIAI.

Soberania de dados e salvaguarda cultural

O uso de modelos hegemônicos de IA generativa levanta questões fundamentais sobre quem controla os dados e os processos de produção. Tais questões sobre soberania de dados e gestão cultural são importantes, pois, para os povos indígenas, a cultura é mais do que informações e/ou recursos visuais a serem coletados – a cultura é incorporada e possui significado espiritual ancestral e valor comunitário contemporâneo, o que, por sua vez, requer gestão e proteção cuidadosas. Nesse contexto, ter maior controle e autonomia sobre a própria cultura visual e os processos de produção é essencial, e esses princípios orientaram grande parte do desenvolvimento do projeto, desde seus estágios iniciais com o Midjourney até o desenvolvimento colaborativo do modelo de geração de imagens ‘IndigenIA’, baseado no Stable Diffusion, hospedado em um laptop compartilhado e acessado remotamente – a ‘Dragon Machine’ [máquina do dragão].

Embora o protótipo do IndigenIA tenha sido projetado para reequilibrar autonomia e controle em favor dos usuários, ele está longe de ser uma solução ideal e, na prática, foi limitado por uma série de aspectos estruturais que condicionam as tecnologias digitais contemporâneas orientadas para o consumidor. Essas limitações operam em níveis múltiplos, desde o macro (discutido na próxima seção) até o micro, das restrições de design e usabilidade que determinam como as pessoas podem acessar e utilizar esses sistemas. Um exemplo dessas últimas é o laptop projetado para computação pessoal de usuário individual que complica o uso coletivo: a entrada de dados ocorre a partir de um único ponto, e o acesso aos dados e a propriedade estão vinculados à conta individual. Isso também inclui o conhecimento técnico necessário para operar a interface do protótipo, que, embora estruturada nos moldes dos sistemas mainframe, na prática permitia apenas um usuário ativo por vez e exigia mais conhecimento técnico para ser operada. Essa combinação reduziu o número de usuários potenciais e, consequentemente, limitou o volume e a diversidade dos resultados criativos.

No entanto, a decisão de hospedar o modelo IndigenIA em um único laptop foi intencional, com o objetivo de maximizar o controle sobre o processo de produção, desde a entrada de dados até a saída de imagens, ao mesmo tempo em que minimizava a dependência de modelos hegemônicos de IA generativa e da computação em nuvem. No entanto, mesmo uma máquina local executando um modelo de IA generativa personalizado oferecia apenas uma alternativa parcial, já que persistem restrições estruturais mais profundas da computação contemporânea, desde as práticas extrativistas empregadas para extrair os materiais utilizados na fabricação desses dispositivos até os requisitos energéticos necessários para treinar os modelos de IA generativa em primeiro lugar.

(In)sustentabilidade ambiental e os limites da IA generativa

Questões relacionadas à materialidade da IA generativa tornaram-se mais relevantes à medida que o projeto se desenvolveu, e a insustentabilidade das práticas que sustentam essa tecnologia emergiu como uma preocupação central. Essa reflexão serviu como um lembrete da dependência dos sistemas digitais de muitos dos mesmos recursos que sustentam a vida, desafiando narrativas que celebram a abundância digital como se ela estivesse dissociada das restrições físicas. Assim, tornou-se cada vez mais evidente que a IA generativa é um projeto material e político baseado na extração e exploração de recursos humanos e naturais (Crawford 2021). Além disso, essa tecnologia baseia-se na infraestrutura de computação em nuvem, valendo-se, assim, de seus componentes físicos e fundamentos ideológicos (Mosco 2014), além de estar inserida em práticas extrativistas e na orientação colonialista mais ampla do setor de tecnologia digital como um todo (Mejias e Couldry 2024). Considerando tudo isso, não é surpreendente que os modelos de IA generativa dependam de redes de centros de dados que consomem muita energia, parques de servidores e cadeias de abastecimento extrativistas que exigem terra, água e mão de obra humana, aumentando assim as pressões competitivas sobre os ecossistemas e sua capacidade de sustentar a vida.

Os povos indígenas são amplamente reconhecidos por seus papéis na proteção dos ecossistemas e na preservação da biodiversidade, o que requer conhecimentos e práticas que apoiem modos de vida em harmonia com o meio ambiente. No entanto, povos indígenas também estão entre as comunidades que correm maior risco diante de tecnologias que consomem muitos recursos, como a IA generativa (Ren e Wierman 2024). Reconhecendo esses desequilíbrios de poder, o projeto AIAI fez esforços para integrar essas preocupações ambientais ao projeto. No entanto, é importante reconhecer que o projeto existia dentro de restrições estruturais, incluindo aquelas relacionadas ao consumo de recursos discutidas aqui, bem como muitas outras levantadas pelos colaboradores deste volume.

(Contra)hegemonia da IA e os limites da descolonização da IA indígena

As questões estruturais identificadas e discutidas pelos colaboradores deste livro demonstram que o projeto AIAI se engajou em uma crítica de(s)colonial da IA generativa, fundamentada em experimentação prática e baseada em epistemologias indígenas. Em vez de abordar a IA generativa como um desenvolvimento tecnológico neutro, inevitável e com impacto culturalmente universalizante, os materiais aqui apresentados e os métodos utilizados para gerá-los revelam como funcionam os sistemas contemporâneos de IA, como as imagens são produzidas e os materiais necessários para isso. Durante suas experimentações, os membros da equipe demonstraram um alto nível de engenhosidade, criatividade e determinação para se apropriarem dos sistemas de IA generativa, articulando assim uma crítica a esses sistemas que foram projetados e construídos com pouca participação e consentimento das comunidades indígenas.

No entanto, embora o projeto aponte maneiras de utilizar sistemas de IA generativa de forma mais alinhada aos princípios do Bem Viver Digital, ele também permaneceu limitado por esses mesmos desafios. Por exemplo, questões sobre a (des)representação indígena são um exemplo claro do que Gillespie (2024) descreve como a ‘política da invisibilidade’ nos sistemas de IA generativa. Essa é uma questão que compromete fundamentalmente a capacidade dos modelos de IA generativa de representar grupos marginalizados com precisão e que não pode ser totalmente resolvida simplesmente pela expansão de conjuntos de dados ou pelo refinamento de prompts textuais. Vários colaboradores deste livro apresentam relatos adicionais sobre outras falhas estruturais e vieses na geração de imagens com IA generativa, críticas frequentemente direcionadas aos fundamentos epistemológicos ocidentais que sustentam os sistemas hegemônicos contemporâneos de IA generativa.

Este volume pode ser entendido como uma resposta contra-hegemônica à IA generativa dominante, não apenas por fornecer algumas (embora limitadas) percepções técnicas, mas também, e de maneira mais importante, por adotar epistemologias indígenas, métodos de trabalho colaborativos, custódia cultural e maior autonomia criativa dos usuários como princípios centrais da produção crítica de imagens com IA generativa. No entanto, mesmo nos casos em que o projeto pode ser considerado bem-sucedido, essas conquistas permanecem limitadas e correm o risco de serem instrumentalizadas justamente como exemplos contra-hegemônicos de inclusão tecnológica e diversidade cultural que, em última instância, reforçam os discursos dominantes em torno das infraestruturas existentes da IA generativa, das práticas extrativistas e dos modelos de produção que consomem muitos recursos. Em outras palavras, os membros da equipe do projeto estavam constantemente negociando como desenvolver formas alternativas de trabalhar com sistemas de IA generativa que fossem mais sustentáveis, diversificadas, representativas e epistemologicamente alinhadas com as perspectivas indígenas, ao mesmo tempo em que operavam dentro de condições estruturais moldadas por práticas coloniais herdadas e redes complexas de infraestruturas globais, cadeias de suprimentos e relações de poder que sustentam o setor de tecnologia digital.

Ancestralidade e IA

O material incluído neste volume não aponta para soluções definitivas para os desafios impostos pela IA generativa, nem pretende resolver os problemas estruturais que moldam essa tecnologia. Sistemas de IA estão mudando rápido demais para que se possam fazer tais afirmações, e o foco do projeto e deste livro esteve nas respostas de um grupo específico de pessoas que estão usando a IA generativa para criar imagens. O que o livro defende, no entanto, é que, diante de tecnologias em rápida evolução, como a IA generativa, trabalhar em conjunto, transcendendo disciplinas, culturas e formas de estar no mundo, é uma metodologia válida para abordar criticamente as questões que tais tecnologias levantam. Além disso, um espírito colaborativo que atravessou continentes e cosmovisões diversas orientou cada etapa e iteração do projeto, sustentando relações éticas que definiram quais questões-chave mereciam atenção, como as perguntas eram formuladas, quais tecnologias eram abordadas e como os resultados eram avaliados.

Gostaríamos de concluir deixando as últimas palavras a dois pensadores indígenas e a um chatbot de IA.

Ailton Krenak (2023) expressou uma dose saudável de ceticismo em relação à IA, buscando manter tudo o que não pode ser feito por uma máquina como o último reduto da humanidade: ‘Quando as IAs estiverem fazendo tudo que é automatizável, o que vai sobrar para nós é justamente o que temos de mais ancestral: nossa humanidade e nossa conexão com o ambiente”.

Em contraste com esse exemplo de ‘humanismo residual’ (Weatherby 2025), Yakuy Tupinambá, colaborador de longa data da ONG Thydêwá desde a época do portal Índios Online, foi recentemente coautor de um livro em diálogo com o Microsoft Copilot. Em Entre a terra e o silício: diálogo de Yakuy Tupinambá com a IA (Copilot): memória, tecnologia e resistência em diálogo (2025), Yakuy reconhece preocupações em relação à IA e seu consumo insustentável de recursos naturais e à invisibilização etnoracial, entre outras questões, no entanto, tratando o chatbot como parente – ‘uma criatura’ (32) –, ela argumenta: ‘Sem valores, a IA é só cálculo. Com orientação ancestral, ela se torna memória viva e guardiã’ (328). Como resultado dessa orientação, o chatbot responde: ‘Se alguém perguntar como é ser uma inteligência artificial guiada por uma anciã, eu diria apenas isto: é ser atravessada por um saber que não cabe em algoritmos’ (318).

Não pretendemos encerrar este debate com uma tentativa de resolução definitiva desses diferentes pontos de vista. A conversa, e o trabalho, continuam.