Conclusión

Andreas Rauh

Este libro recopila y analiza una amplia gama de prácticas, reflexiones e historias que ilustran cómo los miembros indígenas del equipo interactuaron con la IA generativa durante el proyecto AIAI a lo largo de sus diferentes iteraciones, así como en relación con algunos de sus proyectos derivados. Cada capítulo ofrece una visión de cómo experimentaron con la IA generativa, lo que permitió al equipo en su conjunto explorar representaciones culturales, perspectivas epistemológicas y formas de expresión co-creativas a través de un trabajo basado en la práctica con una nueva tecnología en las primeras fases de su adopción por parte del público. A lo largo del libro, los colaboradores abordan una amplia gama de ideas ilustradas con imágenes generadas por IA que posteriormente se publicaron en entradas de blog, en cuentas de redes sociales y en libros infantiles, documentales de corta duración y exposiciones. De este modo, demuestran que, aunque sin duda no está exenta de problemas y es un tema muy emotivo para algunos, la IA generativa también ofrece un potencial significativo para contribuir a la creatividad impulsada por los seres humanos; lo que Alex Potiguara (2024) ha denominado de forma lúdica, en un contexto indígena, ‘(co)criação artificial indígena’.

En muchos sentidos, el proyecto se guió por principios codificados en el concepto indígena del Buen Vivir/Bem Viver, que hace hincapié en una relación equilibrada y respetuosa entre los seres humanos y los agentes no humanos, sobre todo el medio ambiente y otros seres vivos. Tal y como demuestran los colaboradores del libro, el grado de éxito que tuvo el proyecto a la hora de seguir estos principios varió, pero la noción de Buen Vivir – o, más bien, ‘Buen Vivir Digital’, como se llegó a conocer en relación con el proyecto (Potiguara et al. 2024) – proporcionó un marco para orientar la forma en que las herramientas de IA generativa podían incorporarse como un componente del proceso creativo más amplio, de manera que contribuyeran a una relación más equilibrada entre los seres humanos y los agentes no humanos.

El resto de esta breve conclusión destaca los temas e ideas significativos que surgieron del proyecto y que aparecen a lo largo del libro de diversas formas. No se trata de un análisis exhaustivo, ni de un relato definitivo de lo que se ha hecho con la IA generativa en el contexto del arte indígena y la cultura visual en general, ya que este tema es demasiado amplio y se está evolucionando rápidamente. Dicho esto, comenzamos con una breve reflexión sobre la construcción del conocimiento y la cultura visual indígena.

Epistemologías, creatividad y autoría

Un debate central a lo largo de este libro gira en torno a las diferentes formas en que los pueblos y las culturas entienden cómo se crea y se comparte el conocimiento y, a su vez, cómo estas epistemologías determinan la forma en que se conceptualiza la creatividad. En la mayoría de los casos, las tradiciones occidentales otorgan un gran valor a los individuos y a sus contribuciones: el pintor, el compositor, o el escritor, y las obras maestras que se señalan como prueba de sus logros creativos individuales. Desde una perspectiva diferente, las epistemologías indígenas que aquí se presentan hacen hincapié en la base colectiva del conocimiento, la idea de que el saber es el resultado de las relaciones que los seres humanos mantienen entre sí y con el mundo, así como con la tierra, los antepasados y los encantados. Dentro de estas relaciones, la agencia y la capacidad creativa no se limitan a los seres humanos, sino que a menudo se extienden a agentes no humanos, incluidas las herramientas de IA generativa. Estas redes relacionales no socavan las afirmaciones sobre la agencia individual, sino que, por el contrario, hacen hincapié en los aspectos colectivos de la creación de conocimiento y reconocen que las obras creativas son el resultado de individuos que trabajan dentro de tradiciones sociales y culturales heredadas de larga data y que contribuyen a ellas.

La distinción entre epistemologías individuales y colectivas en el trabajo creativo ayuda a poner de relieve algunas de las opiniones contrapuestas sobre la IA generativa que surgen en este volumen, pero no explica ni resuelve por completo esas tensiones. Las herramientas de generación de imágenes, como Midjourney, siguen siendo una fuente tanto de asombro como de inquietud, como lo demuestran los debates sobre el proceso creativo y la posible atribución de la autoría de las imágenes generadas por IA creadas por artistas indígenas. Varios colaboradores describen una sensación de ambivalencia en su relación con las herramientas de generación de imágenes. Por un lado, hubo sorpresas agradables por la calidad estética de algunas de las imágenes producidas, mientras que, por otro, persistían preocupaciones sobre la forma en que los sistemas de IA generativa absorben y recombinan materiales visuales que acentúan representaciones estereotipadas y sesgadas de sus comunidades. Dicha ambivalencia está estrechamente ligada a las nociones de agencia y autoría: bastantes colaboradores se mostraron indecisos a la hora de utilizar sus nombres artísticos en relación con la autoría de las imágenes generadas por IA y se sintieron mucho más cómodos cuando el paratexto garantizaba que se les reconociera simplemente como un agente en un proceso colaborativo con el sistema de IA. Esta reivindicación de la autoría compartida hace hincapié en la participación en un proceso de creación de imágenes con agentes creativos no humanos y permite, además, tomar mayor distancia respecto a las imágenes generadas, sobre todo cuando los resultados visuales se alejaban de las expectativas y/o de la realidad observada. Como resultado, la capacidad creativa con herramientas de IA generativa se distribuye entre sus partes interesadas: los humanos introducen prompts textuales, que los agentes no humanos convierten en imágenes, las cuales pueden perfeccionarse mediante nuevos prompts textuales, lo que alimenta un proceso iterativo de generación de imágenes. Sin embargo, durante este proceso cíclico, se producen tanto pérdidas como ganancias en el proceso de traducción.

Idiomas y traducciones

La generación de imágenes mediante IA con modelos de difusión no se basa en modelo de lenguaje de gran tamaño (Large Language Models, o LLM, por sus siglas en inglés), pero depende del uso de los lenguajes naturales de forma similar. El preentrenamiento de un modelo de difusión utiliza enormes conjuntos de datos formados por pares de texto e imagen. Posteriormente, una herramienta de ‘codificador de lenguaje’ puede recurrir a estos datos, tal y como se encuentran en el ‘espacio latente’ del modelo, para guiar la síntesis de imágenes cuando el modelo recibe un prompt de texto en lenguaje natural. Si bien hace tan solo un par de años el prompt de texto en lenguaje natural realmente tenía que estar en inglés para funcionar de forma óptima con el idioma dominante del espacio latente del modelo, esto ha cambiado rápidamente, de tal manera que al menos los idiomas ampliamente hablados – idiomas de la colonización, como el español y el portugués – ahora pueden utilizarse de forma fiable en los prompts. Sin embargo, sigue siendo cierto que los modelo de lenguaje de gran tamaño y, por extensión, los modelos de generación de imágenes basados en la difusión podrían, aparentemente, gestionar mejor los prompts en lenguaje natural en idiomas distintos del inglés, pero parecen seguir ‘pensando’ en inglés en su espacio latente (Schut, Gal y Farquhar 2025), ocultando así los procesos de traducción a la vista. Aunque introducir un prompt en forma de imagen en lugar de un prompt de texto puede ayudar a mejorar la precisión de los resultados, esto no cambia de forma fundamental la dependencia del modelo respecto al lenguaje – y a un idioma en concreto – en lo que respecta a lo que ocurre en segundo plano. Muchos de los colaboradores de este libro abordan sus continuas frustraciones lingüísticas con la generación de imágenes mediante IA y hasta qué punto esto da lugar a resultados inexactos e impredecibles.

Durante el transcurso del proyecto AIAI, los institutos de investigación, las empresas y los gobiernos nacionales latinoamericanos han trabajado intensamente para abordar esta cuestión, especialmente en relación con las herramientas de generación de texto mediante IA. En 2025 se lanzó Latam-GPT, un modelo de IA de código abierto entrenado con materiales latinoamericanos tanto en español como en portugués (Vera-Cruz 2025; Lagos 2025), así como GAIA-X para materiales exclusivamente en portugués (Arimathea y Ronaldi 2025). Al tiempo que mejoran la cuestión lingüística, estos modelos regionales y nacionales utilizan datos de entrenamiento locales y, por lo tanto, más relevantes desde el punto de vista cultural para sus grupos de usuarios objetivo. Latam-GPT también afirma estar decidido a garantizar la inclusión de las lenguas y culturas indígenas, así como a desarrollar en un futuro próximo herramientas relacionadas con la generación de imágenes y vídeos (Lagos 2025), lo que sugiere la posibilidad de producir resultados algo menos sesgados en lo que respecta a la representación visual de los pueblos indígenas. Además, en lugar de repetir a gran escala las prácticas insostenibles sobre las que se han construido los modelos anglófonos dominantes, ‘los laboratorios de IA del Sur Global están . . . aprovechando potentes modelos base de código abierto como punto de partida, para luego desarrollar técnicas sofisticadas de adaptación y ajuste fino con el fin de crear modelos más especializados, adaptados a las lenguas y realidades locales’ (Burgos 2025). No obstante, mientras tanto, muchos latinoamericanos seguirán utilizando los modelos comerciales dominantes de IA hegemónica, y este fue sin duda el caso de los miembros del equipo durante el transcurso del proyecto AIAI.

Soberanía de los datos y gestión cultural

El uso de modelos hegemónicos de IA generativa plantea cuestiones fundamentales sobre quién controla los datos y los procesos de producción. Estas cuestiones sobre la soberanía de los datos y la gestión cultural son importantes, ya que para los pueblos indígenas la cultura es más que información y/o recursos visuales que se pueden explotar: la cultura está encarnada y encierra un significado espiritual ancestral y un valor comunitario contemporáneo, lo que a su vez requiere una gestión y una protección cuidadosas. En este contexto, es esencial tener un mayor control y capacidad de acción sobre la propia cultura visual y los procesos de producción, y estos principios guiaron gran parte del desarrollo del proyecto, desde sus primeras etapas con Midjourney hasta el desarrollo colaborativo de IndigenIA, el modelo de generación de imágenes basado en Stable Diffusion y alojado en la ‘Maquina Dragón’, un laptop compartido al que se accede de forma remota.

Aunque el prototipo IndigenIA se diseñó para reequilibrar la capacidad de acción y el control a favor de los usuarios, dista mucho de ser una solución ideal y, de hecho, se vio limitado por una serie de aspectos estructurales que caracterizan a las tecnologías digitales contemporáneas orientadas al consumidor. Estas limitaciones se manifiestan en múltiples niveles, desde el nivel macro (que se analiza en la siguiente sección) hasta el nivel micro. Esto último incluye la dependencia de un laptop diseñado para uso personal por un solo usuario, lo que complica el uso colectivo: la entrada de datos se realiza desde un solo punto, y el acceso a los datos y su propiedad están vinculados a cuentas individuales. También incluye los conocimientos técnicos necesarios para manejar la interfaz del prototipo, que, aunque estructurada siguiendo el modelo de los sistemas mainframe, en la práctica solo permitía un usuario activo a la vez y requería más conocimientos técnicos para su manejo. Esto redujo, por tanto, el número de usuarios potenciales y, en consecuencia, limitó el volumen y la diversidad de los resultados creativos.

Sin embargo, la decisión de alojar el modelo IndigenIA en un único laptop fue intencionada, con el objetivo de maximizar el control sobre el proceso de producción, desde la introducción de datos hasta la generación de imágenes, al tiempo que se minimizaba la dependencia de los modelos hegemónicos de IA generativa y de la computación en la nube. Pero incluso una computadora local que ejecutara un modelo de IA generativa a medida ofrecía solo una alternativa parcial, ya que persisten profundas limitaciones estructurales de la informática contemporánea, desde las prácticas extractivas empleadas para obtener los materiales utilizados en la fabricación de estos dispositivos hasta los requisitos energéticos necesarios para entrenar los modelos de IA generativa en primer lugar.

La (in)sostenibilidad medioambiental y los límites de la IA generativa

Las cuestiones relativas a la materialidad de la IA generativa cobraron mayor relevancia a medida que el proyecto se desarrollaba, y la insostenibilidad de las prácticas que sustentan la tecnología se convirtió en una preocupación clave. Esto sirvió para recordar la dependencia de los sistemas digitales de muchos de los mismos recursos que sustentan la vida, cuestionando así las narrativas que ensalzan la abundancia digital como si estuviera desvinculada de las limitaciones físicas. En este contexto, se hizo cada vez más evidente que la IA generativa es un proyecto material y político basado en la extracción y la explotación de recursos humanos y naturales (Crawford 2021). Además, esta tecnología se sustenta en la infraestructura de la computación en la nube, por lo que se nutre de sus componentes físicos y fundamentos ideológicos (Mosco 2014), además de estar integrada en prácticas extractivistas y en la orientación colonialista más amplia del sector de la tecnología digital en general (Mejías y Couldry 2024). En conjunto, no es de extrañar que los modelos de IA generativa dependan de redes de centros de datos con un alto consumo energético, granjas de servidores y cadenas de suministro extractivas que requieren tierra, agua y mano de obra humana, lo que añade más presiones competitivas a los ecosistemas y a su capacidad para sustentar la vida.

Los pueblos indígenas son ampliamente reconocidos por su papel en la protección de los ecosistemas y el mantenimiento de la biodiversidad, lo que requiere conocimientos y prácticas que apoyen formas de vida en armonía con el medio ambiente. Sin embargo, también se encuentran entre las comunidades que corren mayor riesgo ante las tecnologías que consumen muchos recursos, como la IA generativa (Ren y Wierman 2024). El proyecto AIAI reconoció estos desequilibrios de poder y se hicieron esfuerzos para integrar las preocupaciones medioambientales en el proyecto. No obstante, es importante reconocer que el proyecto se desarrolló dentro de unas limitaciones estructurales, incluidas las relacionadas con el consumo de recursos que aquí se analizan, así como muchas otras planteadas por los colaboradores de este volumen.

La (contra) hegemonía de la IA y los límites de la descolonización de la IA indígena

Las cuestiones estructurales identificadas y analizadas por los colaboradores de este libro demuestran que el proyecto AIAI llevó a cabo una crítica de(s)colonial de la IA generativa, basada en una experimentación práctica y en la experiencia personal, inspirada en epistemologías indígenas. En lugar de abordar la IA generativa como un avance tecnológico neutral e inevitable con un impacto culturalmente universalizador, los materiales aquí presentados y los métodos utilizados para generarlos revelan el funcionamiento de los sistemas de IA contemporáneos, cómo se producen las imágenes y los materiales necesarios para ello. Durante sus experimentos, los miembros del equipo demostraron un alto nivel de ingenio, creatividad y determinación a la hora de apropiarse de los sistemas de IA generativa, articulando así una crítica a sistemas que se diseñaron y construyeron con escasa participación y consentimiento de las comunidades indígenas.

Sin embargo, aunque el proyecto señala formas de utilizar los sistemas de IA generativa de una manera más acorde con los principios del Buen Vivir Digital, también se ha visto limitado por estos mismos retos. Por ejemplo, las cuestiones sobre la (mala) representación de los indígenas son un claro ejemplo de lo que Gillespie (2024) describe como la ‘política de la invisibilidad’ en los sistemas de IA generativa. Se trata de un problema que socava de manera fundamental la capacidad de los modelos de IA generativa para representar con precisión a los grupos marginados y que no puede abordarse simplemente ampliando los conjuntos de datos o perfeccionando las indicaciones textuales. Varios colaboradores de este libro ofrecen análisis más detallados sobre otros defectos estructurales y sesgos en la creación de imágenes con IA generativa, críticas que a menudo se dirigen contra los fundamentos epistemológicos occidentales que sustentan los sistemas hegemónicos contemporáneos de IA generativa.

Este volumen puede entenderse como una respuesta contrahegemónica a la IA generativa dominante, no solo por aportar algunas (aunque limitadas) perspectivas técnicas, sino también, y lo que es más importante, por adoptar las epistemologías indígenas, los métodos de trabajo colaborativos, la gestión cultural y la autonomía creativa de los usuarios como principios fundamentales de la creación crítica de imágenes con IA generativa. Sin embargo, incluso en aquellos casos en los que puede considerarse que el proyecto ha tenido éxito, estos logros siguen siendo limitados y corren el riesgo de ser reducidos a meros símbolos, precisamente como ejemplos contrahegemónicos de inclusión tecnológica y diversidad cultural que, en última instancia, refuerzan los discursos dominantes en torno a las infraestructuras existentes de la IA generativa, las prácticas extractivistas y los modelos de producción que consumen grandes cantidades de recursos. En otras palabras, los miembros del equipo del proyecto negociaban constantemente cómo desarrollar formas alternativas de trabajar con sistemas de IA generativa que fueran más sostenibles, diversas, representativas y epistemológicamente alineadas con las perspectivas indígenas, al tiempo que operaban dentro de unas condiciones estructurales moldeadas por prácticas coloniales heredadas y complejas redes de infraestructuras globales, cadenas de suministro y relaciones de poder que alimentan el sector de la tecnología digital.

Ancestralidad e IA

El material incluido en este volumen no apunta a soluciones definitivas a los retos que plantea la IA generativa ni pretende resolver los problemas estructurales que conforman esta tecnología. Está cambiando demasiado rápido como para hacer tales afirmaciones, y el enfoque del proyecto y de este libro se centró en las respuestas de un grupo específico de personas que utilizan la IA generativa para crear imágenes. Lo que el libro defiende, sin embargo, es que, ante tecnologías en rápida evolución como la IA generativa, trabajar juntos más allá de las disciplinas, las culturas y las formas de estar en el mundo constituye una metodología válida para abordar de forma crítica las cuestiones que plantean dichas tecnologías. Además, a lo largo de cada etapa e iteración del proyecto, un espíritu colaborativo que abarcaba continentes y cosmovisiones sirvió de principio rector, sustentando las relaciones éticas que determinaron qué cuestiones clave requerían atención, cómo se planteaban las preguntas, cómo se abordaban las tecnologías y cómo se evaluaban los resultados.

Nos gustaría concluir dejando las últimas palabras a dos pensadores indígenas y a un chatbot de IA.

Ailton Krenak (2023) ha expresado un sano escepticismo hacia la IA, con la intención de aferrarse a todo aquello que una máquina no puede hacer como último reducto de la humanidad: ‘Quando as IAs estiverem fazendo tudo que é automatizável, o que vai sobrar pra gente é justamente o que temos de mais ancestral, a nossa humanidade e a nossa conexao com o ambiente [Cuando las IA estén haciendo todo lo que se puede automatizar, lo que nos quedará es precisamente lo más ancestral que tenemos: nuestra humanidad y nuestra conexión con nuestro entorno].

En contraste con este ejemplo de ‘humanismo residual’ (Weatherby, 2025), Yakuy Tupinambá, colaboradora desde hace mucho tiempo de la ONG Thydêwá, desde la época de su portal Índios Online, ha sido recientemente coautora de un libro en diálogo con Microsoft Copilot. En Entre a terra e o silício: diálogo de Yakuy Tupinambá com a IA (Copilot): memória, tecnologia e resistência em diálogo (2025), Yakuy reconoce las preocupaciones relacionadas con la IA y su consumo insostenible de recursos naturales y la invisibilización etnorracial, entre otras cuestiones, pero, al tratar al chatbot como a un ser querido – ’uma criatura’ (32) –, sostiene que, ‘ Sem valores, a IA é só cálculo. Com orientaçao ancestral, ela se torna memória viva e guardiã’ [Sin valores, la IA es solo cálculo. Con orientación ancestral, se convierte en memoria viva y guardiana] (328). Como resultado de esta orientación, el chatbot responde: ‘Se alguém perguntar como é ser uma inteligência artificial guiada por uma anciã, eu diria apenas isto: é ser atravessada por um saber que não cabe em algoritmos’ [Si alguien preguntara cómo es ser una inteligencia artificial guiada por una anciana, yo diría simplemente esto: es estar impregnada de un saber que no cabe en algoritmos] (318).

No pretendemos cerrar este tema con un intento de dar una respuesta definitiva a estos distintos puntos de vista. La conversación y el trabajo continúan.