Capítulo 6
Metodologia
Thea Pitman
Como a IA generativa é um fenômeno tão recente, a metodologia do projeto AIAI baseou-se principalmente em nossas próprias experiências anteriores de trabalho conjunto e na adoção de uma abordagem de(s)colonial da pesquisa-ação participativa (IAP) baseada nas artes.[1] No entanto, nossa abordagem também se alinha bem com propostas metodológicas mais recentes para trabalhar com a IA (generativa). Em Critical AI: A Field in Formation [Abordagens críticas sobre a IA: um campo em formação], as autoras Rita Raley e Jennifer Rhee (2023) destacam que examinar as questões de preconceito racial e de gênero é de suma importância nas abordagens críticas da IA, que os métodos etnográficos são ideais para explorar isso e que, em particular, os artistas estão ‘especialmente bem posicionados para submeter [as ferramentas de IA] a testes de estresse, avaliá-las e explorá-las, a fim de investigar e revelar suas limitações, com o objetivo de comunicá-las ao público e até mesmo defender o desenvolvimento de melhores – ou seja, justos, transparentes e responsáveis – dados, conjuntos de dados, modelos e aplicações’ (191). Isso é, em essência, o que o projeto AIAI pretende fazer e por quê.
Anne Dippel e Andreas Sudmann (2023) concentram-se especialmente no valor do que denominam ‘etnografia da IA’, com base na ‘produção de conhecimento situado’ e na ‘processualidade’ da etnografia, bem como em seu espírito de ‘aprender fazendo’ e na prática cocriativa, inclusive com atores além dos humanos (827), o que nos permite estudar a forma como os diferentes grupos sociais se relacionam com essas novas tecnologias. Eles também reconhecem o impacto mais recente das ‘abordagens feministas, queer e de(s)coloniais’ (838) na etnografia, e é aqui que se situa nossa prática. Para a primeira fase do projeto AIAI, a equipe principal de pesquisa recrutou ativamente pessoas indígenas por meio de suas redes mais amplas (após uma revisão ética institucional), e foram coletados dados de entrevistas e grupos focais relacionados ao processo de geração de imagens e à análise das próprias imagens individuais. No entanto, nas iterações posteriores do projeto, a equipe se ampliou para incluir todas as pessoas envolvidas como colaboradoras nomeadas e, a partir da fase de solicitação da subvenção, as pessoas têm trabalhado com níveis muito maiores de autonomia e autodireção, além de terem contribuído para o rumo do projeto no futuro. A natureza deste livro como uma ‘antologia’ de diferentes perspectivas sobre o projeto é prova dessa mudança de enfoque.
No entanto, reconhecemos que nossa metodologia tem suas limitações. Conforme afirmam Fabian Offert e Ranjodh Singh Bhaliwal (2024), esse tipo de abordagem baseada em experimentos em escala muito pequena faz parte de uma tendência nas abordagens das humanidades digitais em relação à IA que produz resultados que não passam de ‘anedotas’ baseadas em uma compreensão muitas vezes insuficiente das tecnologias (3) e nas quais ‘estamos realizando o equivalente tecno-crítico a julgar um livro pela capa’ (8). Eles acrescentam, além disso, que, na verdade, não cabe aos pesquisadores das humanidades digitais realizar o ‘red teaming’ desde a perspectiva das humanidades (2) (ou seja, testes de sistemas para corrigir erros, falhas de segurança e outras deficiências); essa é a tarefa dos cientistas da computação e engenheiros que trabalham para as empresas que desenvolvem essas ferramentas, e talvez não seja do nosso interesse servir ao sistema ou ‘alimentar a máquina’ dessa maneira. Offert e Singh Bhaliwal concluem argumentando que aqueles que se dedicam a estudos críticos sobre a IA deveriam tentar compreender melhor a tecnologia e/ou colaborar mais com aqueles que realmente a compreendem, e deveriam adotar uma abordagem que permita uma ‘leitura atenta desses sistemas complexos’ mais exaustiva, em vez de se limitarem a relatar anedotas pouco sólidas (8).
Embora aceitemos essa crítica, para os fins do projeto AIAI, nos concentramos precisamente nas histórias contadas pelas pessoas: suas respostas pessoais diante de uma tecnologia nova e que está longe de ser plenamente compreendida. Nesse sentido, nos alinhamos com a abordagem que Ruha Benjamin (2019) aplica, em relação ao estudo do preconceito racial e das tecnologias emergentes, com base no que John L. Jackson (2013) denominou ‘thin description’ [descrição fina] na pesquisa etnográfica. A prática da descrição ‘fina’, em vez de ‘thick description’ [descrição densa] (onisciente, totalizante), explica Benjamin, ‘opõe-se às práticas oniscientes, extrativistas e monopolizadoras’ que encontramos no âmbito do desenvolvimento tecnológico – práticas que ‘pretendem penetrar em todas as esferas da vida, extraindo dados, gerando hierarquias e prevendo o futuro’ (46). Portanto, assumimos nossa decisão de nos concentrarmos em uma abordagem situada em pequena escala – talvez impossível em escalas maiores – e em uma abordagem não totalizante desses dados.
No que diz respeito aos métodos mais detalhados para gerar e analisar materiais visuais produzidos por IA, bem como à reflexão sobre a escolha entre utilizar ferramentas proprietárias ou de código aberto e à consideração das vantagens e dos desafios de projetar ferramentas sob medida, nossa abordagem está em consonância com a análise que Sabine Niederer e Gabriele Colombo fazem desse tema em sua recente obra Visual Methods for Digital Research [Métodos visuais para a pesquisa digital] (2024). Realizamos experimentos com formas ambíguas, evocativas, provocativas e abstratas do que elas denominam ‘design de prompts’ (ou seja, projetado para fins de pesquisa, em vez da ‘engenharia de prompts’ destinada a otimizar os resultados na execução de tarefas do mundo real) (122–35), com o objetivo de revelar alguns dos vieses e deficiências (prompts ambíguos e contra-prompts), bem como a censura embutida (prompts provocativos) das ferramentas utilizadas.[2] Também tentamos gerar imagens que revelassem as limitações linguísticas de uma ferramenta (prompts evocativos com ‘palavras sem sentido’ ou, simplesmente, palavras em línguas indígenas que a ferramenta não reconhece) ou que pudessem servir como ‘prompts visuais para a especulação ou a reflexão (humana)’ (135) (prompts abstratos), por exemplo, utilizando as ferramentas para ajudar a sonhar com futuros imaginários.[3] O trabalho de Eryk Salvaggio sobre como interpretar os resultados visuais das ferramentas de geração de imagens por IA (2023a) e como projetar experimentos para explorar artisticamente essas ferramentas – o que, pace Offert e Singh Bhaliwal, ele e seus colegas chamam de ‘red teaming’ (Salvaggio, Sinders e Swanson 2025) – também foi influente em nosso processamento posterior dos dados gerados por meio do projeto AIAI.
A Thydêwá utiliza a metodologia Dragon Dreaming [Sonhando com dragões], livremente baseada em princípios aborígenes, conforme ensinada pela Dragon Dreaming International, em todos os seus projetos de artes criativas e comunicação. A Immersive Networks [Redes Inmersivas] denomina sua própria metodologia relacionada como ‘narração aplicada’ (ver Capítulo 15). Pitman e outros têm trabalhado com a pesquisa-ação participativa de(s)colonial em outros projetos (Machada et al. 2024). ↑
Piercosma Bisconti et al. (2025) também utilizam o termo ‘prompts adversários’ em seu estudo, empregando prompts em forma de verso para contornar os filtros de conteúdo. ↑
Ver também a descrição de Fabian Offert e Thao Phan (2022) de um experimento com prompts ambíguos para revelar o viés racial no DALL.E 2. Da mesma forma, o artista chileno Felipe Rivas San Martín (2025) falou sobre o uso do ‘prompt minoritário’ para questionar os preconceitos raciais e de classe nas ferramentas de geração de imagens baseadas em IA. ↑