Introdução
Thea Pitman, Sandra De Berduccy e Andreas Rauh
Este livro, conforme indicado na capa, trata da Inteligência Artificial e de sua relação com a arte e a indigeneidade em particular. As definições de Inteligência Artificial não são definitivas, pois mudam continuamente, seja para adaptar aplicações inteligentes anteriores agora que a IA ganhou ‘relevância’ para o público em geral (é aqui que todo tipo de tecnologia, como rotas de navegação por satélite e sugestões nas redes sociais, começa a ser chamada de IA, embora antes não as chamássemos assim) ou, ao contrário, para excluir as aplicações anteriores com o objetivo de situar a IA permanentemente na vanguarda da inovação (é aqui que, muitas vezes, as referências à IA atualmente se referem, na verdade, apenas à IA generativa, como é o caso do título deste livro). Mas as definições de IA também não são definitivas, pois ela é muito mais do que (apenas) tecnologia: como argumentou Paola Ricaurte (2022), ‘No nível micropolítico, a IA medeia a relação com o eu, com nossas relações intersubjetivas, bem como nossas relações com o mundo, nossas representações da realidade e os imaginários compartilhados do presente e do futuro’ (728),[1] e, nas palavras de Rita Raley e Jennifer Rhee (2023), ‘a IA não é uma tecnologia: é uma epistemologia e também uma forma de governamentalidade e de economia política’ (196). Outros, como Emily M. Bender e Alex Hanna, autores do livro The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want [A fraude do IA: Como combater o exagero das grandes empresas de tecnologia e criar o futuro que queremos] (2025), descartam o valor de uso do termo e descrevem a IA simplesmente como ‘um termo de marketing utilizado para espalhar um pouco de pó mágico que atrai capital de risco e, em teoria, atrai o consumidor’ (Jaffe 2025). Neste livro, optamos pelo mesmo ‘pragmatismo linguístico’ em relação ao nosso uso do termo que o defendido por Raley e Rhee (188), ao mesmo tempo em que mantemos uma dose saudável de cautela quanto às formas como ele é utilizado.
O principal foco de nossa atenção é o recente surgimento de ferramentas de geração de imagens baseadas em IA. No início de 2021, a OpenAI lançou pela primeira vez ao público em geral a ferramenta de IA generativa de texto para imagem DALL-E. Sua segunda versão, significativamente aprimorada, o DALL-E 2, foi lançada em abril de 2022 e, juntamente com o lançamento de ferramentas semelhantes, como o Midjourney (Midjourney Inc, julho de 2022) e o Stable Diffusion (Stability AI, agosto de 2022), as três empresas provocaram uma verdadeira onda de expectativa e preocupação na imprensa em torno de suas possíveis aplicações e impactos. Nos parágrafos a seguir, apresentamos uma síntese muito breve de como funciona a geração de imagens, com o objetivo de apresentar os termos e conceitos-chave antes de passarmos a esboçar a abordagem mais específica deste livro.[2]
Essas novas e poderosas ferramentas de geração de imagens baseiam-se todas no processo de ‘difusão’, ao contrário de ferramentas anteriores, como as redes neurais convolucionais (CNNs) e as redes generativas adversárias (GANs). As CNNs, como o DeepDream [SonhoProfundo], não geravam imagens do zero, mas buscavam aprimorar as imagens existentes, identificando e acentuando os padrões nelas contidos, o que resultava em uma estética psicodélica e ‘onírica’ conhecida como ‘pareidolia algorítmica’ (Somaini 2023, 89–91). A ferramenta foi criada por engenheiros do Google e lançada em 2015; as primeiras versões produziam imagens estáticas, enquanto as posteriores ofereciam a possibilidade de gerar versões animadas do processo. As GANs, como o StyleGAN, geravam imagens tecnicamente novas por meio de um processo competitivo entre duas redes neurais independentes (um gerador e um discriminador) que coletavam amostras de um ‘espaço latente’ – um espaço matemático de alta dimensão no qual cada ponto representa um conjunto comprimido de características que podem ser decodificadas em uma imagem. No entanto, embora as GANs pudessem produzir resultados fotorrealistas, para usuários leigos suas aplicações eram relativamente limitadas, concentrando-se frequentemente em tarefas como a geração de variações de rostos, objetos ou cenas.[3]
Quando falamos de redes (neuronais) em relação a todas essas ferramentas, nos referimos a arquiteturas ou modelos com uma estrutura muito complexa que utilizam as regras fornecidas pelos algoritmos para aprender padrões. Um ‘modelo de geração de imagens’ é a versão treinada dessa rede que produz imagens como resultado. Os modelos de difusão são treinados com conjuntos de dados realmente enormes de pares imagem-texto (normalmente extraídos de sites como Instagram e Pinterest e, inevitavelmente, também dependem do idioma em que a descrição textual foi redigida [Bender e Hanna 2025, 107–9]), e esse processo de treinamento consome uma quantidade impressionante de energia e outros recursos (Ren e Wierman 2024). Durante o treinamento, eles são ensinados a eliminar o ‘ruído’ aleatório – ou seja, um padrão de pixels sem sentido – das imagens. Quando um usuário insere um ‘prompt’ (ou seja, uma instrução) em linguagem natural na interface do modelo treinado, ela é convertida em ‘tokens’ [fichas] que orientam o modelo à medida que ele elimina gradualmente o ruído de seu conjunto de dados, resultando em uma nova imagem que, com sorte, se ajusta ao prompt. Conforme Dave Lynch explicou de forma muito clara aos membros da equipe no contexto do projeto AIAI, a geração de imagens por meio de IA com um modelo de difusão é ‘um processo no qual um modelo computacional difunde imagens visuais de maneira semelhante à forma como uma gota de tinta se dispersa na água. Ao repetir esse processo milhões de vezes com imagens diferentes, o modelo é capaz de gerar imagens invertendo o processo, transformando essas “gotas dispersas” em novas imagens por meio de instruções na forma de prompts de texto’.
A facilidade de uso por meio de prompts em linguagem natural, bem como a qualidade dos resultados, têm favorecido a adoção em massa dos modelos de difusão. Muitos modelos, como o Midjourney e o DALL-E, também estão integrados a outras plataformas de uso generalizado (o Midjourney é acessível por meio da plataforma de comunidade Discord, enquanto o DALL-E 3 se acessava por meio do ChatGPT); no entanto, seu uso é limitado pelo fato de que algumas são ferramentas comerciais que exigem uma assinatura, como o Midjourney, ao passo que outras são de uso gratuito, como o Stable Diffusion. Nossa compreensão de seu funcionamento também depende do grau em que são de código fechado ou de código aberto no que diz respeito aos conjuntos de dados com os quais são treinados, aos algoritmos utilizados e à possibilidade de personalizá-los por meio do treinamento de modelos adicionais menores (ou LoRAs, modelos de adaptação de baixo posto) como pesos secundários do algoritmo principal. O Stable Diffusion é totalmente de código aberto, enquanto o conjunto de dados com o qual o Midjourney é treinado é, segundo informações, o mesmo do Stable Diffusion (LAION-5B, Large-scale Artificial Intelligence Open Network, ou Rede Aberta de Inteligência Artificial em Grande Escala) e, portanto, de código aberto; no entanto, o modelo e seus algoritmos não o são, pelo que funciona como uma ‘caixa preta’ na qual só podemos fazer suposições fundamentadas a partir dos resultados em relação aos prompts utilizados sobre o processo algorítmico de geração de imagens. É verdade que os modelos de geração de imagens que oferecem as interfaces mais intuitivas costumam ser os mais opacos em seu funcionamento, e que aqueles que oferecem maior transparência exigem um nível mais elevado de conhecimento tecnológico por parte dos usuários para que possam ser utilizados.
Antes de encerrarmos este resumo técnico das ferramentas em questão, o que vale a pena destacar sobre a terminologia relacionada à geração de imagens – e à IA em geral – são, naturalmente, as metáforas difundidas que relacionam esses modelos ao cérebro humano, algo que se percebe com maior clareza nos termos ‘rede neural’ e na referência à ‘inteligência’ na IA. Relacionadas a isso estão também todas as referências a ‘sonhos’ e ‘alucinações’ que abundam nesse campo. Ao próprio DeepDream é atribuído o mérito de ter contribuído para a ‘tendência generalizada de considerar as imagens geradas por algoritmos de aprendizado profundo como uma forma de “sonho” ou “alucinação” da “máquina”’ (Somaini 2023, 91; ver também Zylinska 2024, 246). O termo ‘alucinação’ passou também a se referir especificamente aos casos em que ‘as imagens geradas não refletem informações factuais’ (Lim, Choi e Shim 2025), o que pode ou não estar explícito no prompt (como, nos primórdios dos modelos de difusão, a representação de mãos com dedos a mais). Embora essa resposta programada de sempre gerar uma imagem, independentemente de sua veracidade, possa representar um problema para quem busca representar com precisão uma cultura minoritária, por exemplo, ela também pode dar origem a interações criativas que levem à geração de resultados cada vez mais curiosos do ponto de vista artístico. As abundantes referências aos sonhos nesse campo também se revelam muito sugestivas em relação às epistemologias indígenas, nas quais sonhar é uma forma fundamental de interpretar o mundo e imaginar o futuro. É por essa razão que enquadramos nossa resposta à geração de imagens por meio da IA como algo situado ‘entre os sonhos e as alucinações’.
Concentrando-nos agora na relação entre a IA generativa e a arte e a identidade indígena, no que diz respeito à arte, embora tenham sido apresentados muitos argumentos que sustentam que o material visual gerado pela IA não pode constituir ‘arte’ per se, se aceitarmos que o termo ‘arte’ é frequentemente utilizado para se referir à cultura visual de maneira mais geral, então a ‘arte da IA’ existe. Além disso, muitas vezes são os artistas que trabalham com essas ferramentas que se consideram em uma posição ideal para submetê-las a ‘testes de resistência’ quanto ao seu impacto na sociedade. No que diz respeito aos povos indígenas e à sua representação visual e autoexpressão cultural, incluindo a arte, seja qual for sua definição, embora essas tecnologias possam tender a invisibilizar ou distorcer as culturas minoritárias e/ou corram o risco de facilitar níveis ainda maiores de apropriação cultural do que antes, as teorias sobre a IA indígena – e, em um sentido mais amplo, a IA de(s)colonial[4] – reconhecem que é necessário interagir com essas novas tecnologias, apropriar-se delas e redesenhá-las, e que as epistemologias indígenas podem contribuir de maneira útil para seu desenvolvimento contínuo.
No entanto, em um campo tão emergente, o que é necessário, além de debates teóricos, são evidências de como os povos indígenas – e os artistas indígenas em particular – estão respondendo à IA generativa, bem como uma análise avaliativa de seu valor de uso e/ou de seu status como arte. Embora nos contextos anglófonos já haja evidências de que os artistas indígenas estão ‘testando’ essas tecnologias de IA generativa, este livro traz evidências provenientes de um projeto-piloto para explorar precisamente isso em um contexto latino-americano. Trabalhando em equipe com artistas, escritores, detentores de conhecimentos tradicionais, líderes comunitários e outras pessoas indígenas,[5] sediados, na grande maioria dos casos, no que hoje são a Argentina, a Bolívia, o Brasil, o Chile e o Peru, o projeto AIAI: Artificial Intelligence, Art and Indigeneity [Inteligência Artificial, Arte e Indigenidade], lançado em 2023, buscou responder a essas questões por meio de grupos focais nas quais foram debatidas imagens geradas com diversas ferramentas, entre elas o Midjourney e uma ferramenta personalizada de geração de imagens chamada IndigenIA e baseada no Stable Diffusion. Mais especificamente, o projeto explorou as dificuldades enfrentadas pelos membros da equipe com as ‘alucinações’ da IA que distorcem suas realidades e intenções, bem como seus compromissos pragmáticos e suas esperanças e sonhos em relação à IA generativa, tudo isso com o objetivo de colocar em primeiro plano as perspectivas indígenas na hora de moldar o desenvolvimento futuro desse tipo de tecnologia e seu impacto sobre todos nós.
A seguir, apresentamos uma série de reflexões sobre o que aprendemos por meio do projeto AIAI ao longo de suas diferentes etapas, e o fazemos em um formato multivocal. Procuramos manter nossas diferentes vozes e perspectivas diferenciadas, organizadas em dezoito ‘capítulos’ breves, em vez de reuni-las em um texto mais uniforme, redigido em prosa acadêmica padronizada. Nestes tempos de sínteses e resumos alimentados pelos LLMs [grandes modelos de linguagem], consideramos que manter a singularidade das diferentes vozes e perspectivas das pessoas é de suma importância.[6] Os autores cuja língua materna não é o inglês escreveram ou gravaram seus capítulos individuais em espanhol ou português, com base nas conversas originais mantidas com os membros da equipe acadêmica e da ONG por meio do WhatsApp ou do Zoom. Posteriormente, para a versão impresso do livro em inglês, esses capítulos foram traduzidos e levemente editados, sem comprometer a singularidade da voz e da perspectiva.[7] Além disso, estes capítulos estão incluídos em formato bilíngue na versão impressa do livro em inglês. Nesta versão do livro inteiramente em português e hospedada na plataforma Manifold (read.uolpress.co.uk/projects/artificial-intelligence-art-and-indigeneity), todos os materiais que não estavam originalmente em português foram traduzidos com o auxílio da ferramenta de IA Deepl e cuidadosamente revisados pelos membros da equipe acadêmica. O plataforma Manifold também inclui materiais adicionais, como os vídeos curtos produzidos sobre o projeto, que seria impossível incluir no livro impresso.
O livro está dividido em três seções. A primeira parte (IA, arte e indigenidade) apresenta o marco teórico, o contexto e a metodologia nos quais se baseia o projeto AIAI, além de oferecer uma visão geral dos principais debates no âmbito da IA (generativa), da arte e da cultura visual; a IA indígena e de(s)colonial; e das experiências de artistas indígenas com a IA (generativa), tanto no mundo (pós-)colonial anglófono quanto em Abya Yala/América Latina. Em seguida, apresenta uma visão geral do projeto AIAI tal como ele evoluiu ao longo do tempo, bem como uma breve discussão sobre a metodologia utilizada. A Parte 2 (Entre sonhos e alucinações) reúne textos escritos por alguns dos artistas e escritores indígenas que mais colaboraram com o projeto AIAI ao longo do tempo, nos quais refletem sobre suas diferentes respostas às ferramentas de geração de imagens. Ela está organizada de forma a revelar uma mudança: as respostas, em geral mais cautelosas, dos artistas visuais diante dessas ferramentas, em comparação com a resposta mais positiva dos escritores, que chegaram a utilizá-las para ilustrar suas obras escritas. A terceira parte (Pensamentos gerativos), redigida tanto pelos editores do livro quanto por outros membros da equipe – tanto indígenas quanto não indígenas –, explora a forma como os resultados do projeto AIAI se entrelaçam com alguns dos debates mais amplos nessa área, relacionados a temas como estereótipos raciais, o futurismo indígena, a censura e a violação de direitos autorais, bem como as diferentes perspectivas que diversos colaboradores trouxeram ao projeto e as distintas direções nas quais o conduziram ao desenvolver projetos derivados. Também refletimos sobre as diferentes considerações levadas em conta ao expor o projeto em diferentes locais e as reações do público a ele. A conclusão resume brevemente os resultados do projeto, situando-os em um contexto mais amplo.
Todas as citações de textos publicados originalmente em inglês ou espanhol foram traduzidos pela equipe acadêmica, salvo indicação em contrário. ↑
A explicação a seguir sobre o funcionamento dos modelos de geração de imagens é deliberadamente breve por motivos de espaço. Para obter explicações mais detalhadas e úteis, sob uma perspectiva crítica, sobre seu funcionamento, consulte Lev Manovich (2019), Eryk Salvaggio (2023), Antonio Somaini (2023), Joanna Zylinska (2024), Lev Manovich e Emanuele Arielli (2024) e Roland Meyer (2025). ↑
Para um estudo exaustivo sobre o uso das GANs, consulte Antonio Somaini (2023, 91–99). ↑
Nota do tradutor: optamos por traduzir a palavra inglesa ‘decolonial’ como ‘de(s)colonial’ em português, refletindo assim a coexistência dos termos ‘decolonial’ e ‘descolonial’ na língua portuguesa. ↑
Não existe uma definição única e universalmente aceita de ‘indigenidade’. Para os fins deste trabalho, a identidade indígena é uma questão de autoidentificação em relação aos grupos étnicos cuja presença em Abya Yala/América Latina é anterior à colonização, de acordo com a ‘Declaração sobre os Direitos dos Povos Indígenas’ das Nações Unidas de 2007 (United Nations Human Rights Office of the High Commissioner [Escritório do Alto Comissariado das Nações Unidas para os Direitos Humanos] 2013, 2). Enquanto algumas das pessoas que participaram do projeto AIAI cresceram em territórios oficialmente designados como indígenas, falando uma língua indígena e/ou praticando plenamente sua cultura, outras provinham de ambientes nos quais seus antepassados haviam sofrido deslocamentos, mestiçagem e aculturação forçada, e se encontravam em diversos estágios de reconexão com suas raízes indígenas. Todos os membros indígenas da equipe participaram a título individual e não como representantes de seus respectivos grupos étnicos. ↑
Após a apresentação inicial dos membros da equipe com seus nomes completos e/ou nomes artísticos, conforme desejam que sejam utilizados atualmente, optamos por romper com a tradição e nos referir às pessoas por seus nomes próprios. Isso tem a vantagem de evitar que alguns dos membros indígenas da equipe – que usam sua origem étnica como sobrenome – sejam identificados apenas por sua origem étnica, e também significa que há uma diferença menos evidente no tratamento entre aqueles que têm nomes artísticos de uma única palavra que funcionam efetivamente como nomes próprios e aqueles que não os têm.
Nota do tradutor: optamos também por colocar em maiúscula a primeira letra de etnias indígenas específicas (Kaingang ou Aymara) e por respeitar as grafias preferidas para essas etnias pelos membros das comunidades (por exemplo, Aymara em vez de aimará). ↑
Todas as traduções para o inglês foram feitas por Thea. ↑