Capítulo 6
Metodología
Thea Pitman
Dado que la IA generativa es un fenómeno tan reciente, la metodología del proyecto AIAI se ha basado principalmente en nuestras propias experiencias pasadas de trabajo conjunto y en la adopción de un enfoque de(s)colonial de la investigación-acción participativa (IAP) basada en las artes.[1] No obstante, nuestro enfoque también concuerda bien con propuestas metodológicas más recientes para trabajar con la IA (generativa). En Critical AI: A Field in Formation [Enfoques críticos sobre la IA: un campo en formación], las autoras Rita Raley y Jennifer Rhee (2023) señalan que examinar las cuestiones de sesgo racial y de género es de suma importancia en los enfoques críticos de la IA, que los métodos etnográficos son ideales para explorar esto y que, en particular, los artistas están ‘especialmente bien posicionados para someter a pruebas de estrés, evaluar y explotar [las herramientas de IA], para indagar y revelar sus limitaciones con el fin de comunicarlas al público e incluso abogar por el desarrollo de mejores – es decir, justos, transparentes y responsables – datos, conjuntos de datos, modelos y aplicaciones’ (191). Esto es, en esencia, lo que el proyecto AIAI pretende hacer y por qué.
Anne Dippel y Andreas Sudmann (2023) se centran especialmente en el valor de lo que denominan ‘etnografía de la IA’, basándose en el enfoque de la etnografía en la ‘producción de conocimiento situado’ y la ‘procesualidad’, así como en su espíritu de ‘aprender haciendo’ y la práctica co-creativa, incluso con actores más que humanos (827), lo que nos permite estudiar la forma en que los diferentes grupos sociales se relacionan con estas nuevas tecnologías. También reconocen el impacto más reciente de los ‘enfoques feministas, queer y de(s)coloniales’ (838) en la etnografía, y es aquí donde se sitúa nuestra práctica. Para la primera fase del proyecto AIAI, el equipo de investigación principal reclutó activamente a personas indígenas a través de sus redes más amplias (tras una revisión ética institucional), y se recopilaron datos de entrevistas y grupos focales en relación con el proceso de generación de imágenes y el análisis de las propias imágenes individuales. Sin embargo, en las iteraciones posteriores del proyecto, el equipo se ha ampliado para incluir a todas las personas implicadas como colaboradoras nombradas y, desde la fase de solicitud de la subvención en adelante, las personas han trabajado con niveles mucho mayores de autonomía y autodirección, y han contribuido a la orientación del proyecto de cara al futuro. La naturaleza de este libro como una ‘antología’ de diferentes perspectivas sobre el proyecto es prueba de este cambio de enfoque.
No obstante, reconocemos que nuestra metodología tiene sus limitaciones. Tal y como sostienen Fabian Offert y Ranjodh Singh Bhaliwal (2024), este tipo de enfoque basado en experimentos a muy pequeña escala forma parte de una tendencia en los enfoques de las humanidades digitales hacia la IA que produce resultados que no son más que ‘anécdotas’ basadas en una comprensión a menudo insuficiente de las tecnologías (3) y en las que ‘estamos llevando a cabo el equivalente tecno-crítico de juzgar un libro por su portada’ (8). Añaden, además, que en realidad no corresponde a los investigadores de las humanidades digitales llevar a cabo el ‘red teaming’ desde la perspectiva de las humanidades (2) (es decir, pruebas de sistemas para subsanar errores, fallos de seguridad y otras deficiencias); esta es la labor de los informáticos e ingenieros que trabajan para las empresas que desarrollan estas herramientas, y quizá no nos convenga servir al sistema o ‘alimentar a la máquina’ de esta manera. Offert y Singh Bhaliwal concluyen argumentando que quienes se dedican a los estudios críticos sobre la IA deberían intentar comprender mejor la tecnología y/o colaborar más con quienes sí la comprenden, y deberían adoptar un enfoque que permita una ‘lectura atenta de [estos] sistemas complejos’ más exhaustiva, en lugar de limitarse a relatar anécdotas poco sólidas (8).
Aunque aceptamos esta crítica, a efectos del proyecto AIAI, nos centramos precisamente en las historias que cuentan las personas: sus respuestas personales ante una tecnología nueva y que dista mucho de ser plenamente comprendida. En este sentido, nos alineamos con el enfoque que Ruha Benjamin (2019) aplica, en relación con el estudio del sesgo racial y las tecnologías emergentes, basándose en lo que John L. Jackson (2013) ha denominado ‘thin description’ [descripción delgada] en la investigación etnográfica. La práctica de la descripción ‘delgada’, en lugar de ‘thick description’ [descripción densa] (omnisciente, totalizadora), explica Benjamin, ‘se opone a las prácticas omniscientes, extractivas y monopolizadoras’ que encontramos en el ámbito del desarrollo tecnológico – prácticas que ‘pretenden penetrar en todos los ámbitos de la vida, extrayendo datos, generando jerarquías y prediciendo el futuro’ (46). Por lo tanto, asumimos nuestra decisión de centrarnos en un enfoque situado a pequeña escala – quizás imposible a escalas más grandes – y en un enfoque no totalizador de esos datos.
En lo que respecta a los métodos más detallados para generar y analizar materiales visuales producidos por IA, así como a la reflexión sobre la elección entre utilizar herramientas propietarias o de código abierto y a la consideración de las ventajas y los retos que plantea el diseño de herramientas a medida, nuestro enfoque concuerda con el análisis que Sabine Niederer y Gabriele Colombo hacen de este tema en su reciente obra Visual Methods for Digital Research [Métodos visuales para la investigación digital] (2024). Hemos experimentado con formas ambiguas, evocadoras, provocativas y abstractas de lo que ellas denominan ‘diseño de prompts’ (es decir, diseñado con fines de investigación, en lugar de la ‘ingeniería de prompts’ destinada a optimizar los resultados al realizar tareas del mundo real) (122–35) con el fin de poner de manifiesto algunos de los sesgos y deficiencias (prompts ambiguos y contra-prompts), así como la censura integrada (prompts provocativos) de las herramientas utilizadas.[2] También hemos tratado de generar imágenes que revelen las limitaciones lingüísticas de una herramienta (prompts evocativos con ‘palabras sin sentido’ o, simplemente, palabras en lenguas indígenas que la herramienta no reconoce) o que puedan servir como ‘prompts visuales para la especulación o la reflexión (humana)’ (135) (prompts abstractos), por ejemplo, utilizando las herramientas para ayudar a soñar con futuros imaginarios.[3] El trabajo de Eryk Salvaggio sobre cómo interpretar los resultados visuales de las herramientas de generación de imágenes mediante IA (2023a) y cómo diseñar experimentos para explotar artísticamente estas herramientas – lo que, pace Offert y Singh Bhaliwal, él y sus colegas denominan ‘red teaming’ (Salvaggio, Sinders y Swanson 2025) – también ha sido influyente en nuestro posterior procesamiento de los datos generados a través del proyecto AIAI.
Thydêwá utiliza la metodología Dragon Dreaming [Soñando con dragones], basada libremente en principios aborígenes, tal y como se enseña en Dragon Dreaming International, en todos sus proyectos de artes creativas y comunicación. Immersive Networks denomina a su propia metodología relacionada ‘narración aplicada’ (véase el Capítulo 15). Pitman y otros han trabajado con la investigación-acción participativa de(s)colonial en otros proyectos (Machada et al. 2024). ↑
Piercosma Bisconti et al. (2025) también utilizan el término ‘prompts adversarios’ en su caso, empleando prompts en forma de verso para eludir los filtros de contenido. ↑
Véase también la descripción de Fabian Offert y Thao Phan (2022) de un experimento con prompts ambiguos para revelar el sesgo racial en DALL.E 2. De manera similar, el artista chileno Felipe Rivas San Martín (2025) ha hablado de su uso del ‘prompt minoritario’ para cuestionar los sesgos raciales y de clase en las herramientas de generación de imágenes basadas en IA. ↑