Introducción
Thea Pitman, Sandra De Berduccy y Andreas Rauh
Este libro, como se indica en la portada, trata sobre la Inteligencia Artificial y su relación con el arte y cuestiones de indigeneidad en particular. Las definiciones de Inteligencia Artificial no son definitivas porque cambian continuamente, ya sea para adaptar aplicaciones inteligentes anteriores ahora que la IA ha cobrado ‘relevancia’ para el público en general, (aquí es donde todo tipo de tecnologías, como las rutas de navegación por satélite y las sugerencias de las redes sociales, empiezan a denominarse IA, aunque antes no las llamáramos así) o, por el contrario, excluir las aplicaciones anteriores con el fin de situar a la IA de forma permanente en la vanguardia de la innovación (aquí es donde, a menudo, las referencias a la IA en la actualidad se refieren en realidad solo a la IA generativa, como es el caso del título de este libro). Pero las definiciones de la IA no son tampoco definitivas porque es mucho más que (solo) tecnología: como ha argumentado Paola Ricaurte (2022), ‘A nivel micropolítico, la IA media la relación con el yo, nuestras relaciones intersubjetivas, así como nuestras relaciones con el mundo, nuestras representaciones de la realidad y los imaginarios compartidos del presente y del futuro’ (728),[1] y, en palabras de Rita Raley y Jennifer Rhee (2023), ‘la IA no es una tecnología: es una epistemología y también una forma de gubernamentalidad y de economía política’ (196). Otros, como Emily M. Bender y Alex Hanna, autores del libro The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want [La trampa de la IA: Cómo combatir el revuelo publicitario de las grandes empresas tecnológicas y crear el futuro que queremos] (2025), descartan fácilmente el valor de uso del término, y describen la IA simplemente como ‘un término de marketing utilizado para esparcir un poco de polvo mágico que atrae el capital de riesgo y, en teoría, atrae al consumidor’ (Jaffe 2025). En este libro optamos por el mismo ‘pragmatismo lingüístico’ en relación con nuestro uso del término que el defendido por Raley y Rhee (188), al tiempo que mantenemos una dosis saludable de cautela sobre las formas en que se utiliza.
El principal objeto de nuestra atención es la reciente aparición de herramientas de generación de imágenes basadas en IA. A principios de 2021, OpenAI lanzó por primera vez al público en general la herramienta de IA generativa de texto a imagen DALL-E. Su segunda versión, significativamente mejorada, DALL-E 2, llegó en abril de 2022 y, junto con el lanzamiento de herramientas similares como Midjourney (Midjourney Inc, julio de 2022) y Stable Diffusion [Difusión estable] (Stability AI, agosto de 2022), las tres empresas provocaron una auténtica oleada de expectación y preocupación en la prensa en torno a sus posibles aplicaciones e impactos. En los párrafos siguientes ofrecemos una síntesis muy breve de cómo funciona la generación de imágenes con el fin de presentar los términos y conceptos clave antes de pasar a esbozar el enfoque más específico de este libro.[2]
Estas nuevas y poderosas herramientas de generación de imágenes se basan todas en el proceso de ‘difusión’, a diferencia de herramientas anteriores, como las redes neuronales convolucionales (CNN) y las redes generativas adversarias (GAN). Las CNN, como DeepDream [SueñoProfundo], no generaban imágenes desde cero, sino que buscaban mejorar las imágenes existentes identificando y acentuando los patrones que contenían, lo que daba lugar a una estética psicodélica y ‘onírica’ conocida como ‘pareidolia algorítmica’ (Somaini 2023, 89–91). La herramienta fue creada por ingenieros de Google y lanzada en 2015; las primeras versiones producían imágenes fijas, mientras que las posteriores ofrecían la posibilidad de generar versiones animadas del proceso. Las GAN, como StyleGAN, generaban técnicamente nuevas imágenes mediante un proceso competitivo entre dos redes neuronales independientes (un generador y un discriminador) que tomaban muestras de un ‘espacio latente’ – un espacio matemático de alta dimensión en el que cada punto representa un conjunto comprimido de características que pueden decodificarse en una imagen. Sin embargo, aunque las GAN podían producir resultados fotorrealistas, para los usuarios no expertos sus aplicaciones eran relativamente limitadas, centrándose a menudo en tareas como la generación de variaciones de rostros, objetos o escenas.[3]
Cuando hablamos de redes (neuronales) en relación con todas estas herramientas, nos referimos a arquitecturas o modelos con una estructura muy compleja que utilizan las reglas proporcionadas por los algoritmos para aprender patrones. Un ‘modelo de generación de imágenes’ es la versión entrenada de esa red que produce imágenes de salida. Los modelos de difusión se entrenan con conjuntos de datos realmente enormes de pares imagen-texto (normalmente extraídos de sitios web como Instagram y Pinterest, e inevitablemente, también dependen del idioma en el que se haya redactado la descripción textual [Bender y Hanna 2025, 107–9]), y este proceso de entrenamiento consume una cantidad asombrosa de energía y otros recursos (Ren y Wierman 2024). Durante su entrenamiento, se les enseña a eliminar el ‘ruido’ aleatorio – es decir, un patrón de píxeles sin sentido – de las imágenes. Cuando un usuario introduce un prompt [una descripción] en lenguaje natural en la interfaz del modelo entrenado, esta se convierte en ‘tokens’ [fichas] que guían al modelo a medida que elimina gradualmente el ruido de su conjunto de datos, lo que da como resultado una nueva imagen que, con suerte, se ajusta al prompt. Tal y como Dave Lynch explicó de forma muy clara a los miembros del equipo en el contexto del proyecto AIAI, la generación de imágenes mediante IA con un modelo de difusión es ‘un proceso en el que un modelo informático difunde imágenes visuales de forma similar a como una gota de tinta se dispersa en el agua. Al repetir este proceso millones de veces con diferentes imágenes, el modelo es capaz de generar imágenes invirtiendo el proceso, reformando estas “gotas dispersas” en nuevas imágenes mediante instrucciones en forma de prompts de texto’.
La facilidad de uso mediante prompts en lenguaje natural, así como la calidad de los resultados, han propiciado la adopción masiva de los modelos de difusión. Muchos modelos, como Midjourney y DALL-E, también están integrados en otras plataformas de uso generalizado (siempre se ha accedido a Midjourney a través de la plataforma comunitaria Discord, mientras que se ha podido acceder a DALL -E 3 a través de ChatGPT); sin embargo, su uso está limitado por el hecho de que algunas son herramientas comerciales que requieren una suscripción, como Midjourney, frente a otras de uso gratuito, como Stable Diffusion. Nuestra comprensión de su funcionamiento también depende del grado en que sean de código cerrado o de código abierto en lo que respecta a los conjuntos de datos con los que se entrenan, los algoritmos utilizados y la posibilidad de personalizarlos mediante el entrenamiento de modelos adicionales más pequeños (o LoRA, modelos de adaptación de bajo rango) como pesos secundarios del algoritmo principal. Stable Diffusion es totalmente de código abierto, mientras que el conjunto de datos con el que se entrena a Midjourney es, según se informa, el mismo que el de Stable Diffusion (LAION-5B [Large-scale Artificial Intelligence Open Network, o Red Abierta de Inteligencia Artificial a Gran Escala]) y por lo tanto de código abierto, sin embargo, el modelo y sus algoritmos no lo son, por lo que funciona como una ‘caja negra’ en la que solo podemos hacer conjeturas fundamentadas a partir de los resultados en relación con los prompts utilizados sobre el proceso algorítmico de generación de imágenes. Es cierto, por supuesto, que los modelos de generación de imágenes que ofrecen las interfaces más intuitivas suelen ser los más opacos en su funcionamiento, y que aquellos que ofrecen mayor transparencia exigen un mayor nivel de conocimientos tecnológicos por parte de los usuarios para poder utilizarlos.
Antes de pasar de este resumen técnico de las herramientas en cuestión, lo que merece la pena destacar sobre la terminología relacionada con la generación de imágenes – y con la IA en general – son, por supuesto, las metáforas extendidas que relacionan estos modelos con el cerebro humano, algo que se aprecia con mayor claridad en los términos ‘red neuronal’ y la referencia a la ‘inteligencia’ en la IA. Relacionadas con esto están también todas las referencias a los ‘sueños’ y las ‘alucinaciones’ que abundan en este campo. Al propio DeepDream se le atribuye haber contribuido a la ‘tendencia generalizada a considerar las imágenes generadas por algoritmos de aprendizaje profundo como una forma de “sueño” o “alucinación” de la “máquina”’ (Somaini 2023, 91; véase también Zylinska 2024, 246). El término ‘alucinación’ también ha pasado a referirse específicamente a los casos en los que ‘las imágenes generadas no reflejan información factual’ (Lim, Choi y Shim 2025), que puede estar o no explícita en el prompt (como, en los inicios de los modelos de difusión, la representación de manos con dedos de más). Si bien esta respuesta programada de generar siempre una imagen independientemente de su veracidad puede suponer un problema para quienes buscan representar con precisión una cultura minoritaria, por ejemplo, también puede dar lugar a interacciones creativas que conduzcan a la generación de resultados cada vez más curiosos desde una perspectiva artística. Las abundantes referencias a los sueños en este campo también resultan muy sugerentes en relación con las epistemologías indígenas, en las que soñar es una forma clave de interpretar el mundo e imaginar el futuro. Es por esta razón por la que hemos enmarcado nuestra respuesta a la generación de imágenes mediante IA como algo situado ‘entre los sueños y las alucinaciones’.
Centrándonos ahora en la relación entre la IA generativa y el arte y la indigeneidad, en lo que respecta al arte, aunque se han esgrimido muchos argumentos que sostienen que el material visual generado por la IA no puede constituir ‘arte’ per se, si aceptamos que el término ‘arte’ se utiliza a menudo para referirse a la cultura visual de manera más general, entonces el ‘arte de la IA’ existe, y con frecuencia son los artistas que trabajan con estas herramientas quienes se consideran en una posición ideal para someterlas a ‘pruebas de resistencia’ en lo que respecta a su impacto en la sociedad. En relación con los pueblos indígenas y su representación visual y autoexpresión cultural, incluido el arte, sea cual sea su definición, aunque estas tecnologías puedan tender a invisibilizar o tergiversar las culturas minoritarias y/o corran el riesgo de facilitar niveles aún mayores de apropiación cultural que antes, las teorías sobre la IA indígena – y, en un sentido más amplio, la IA de(s)colonial[4] – reconocen que es necesario interactuar con estas nuevas tecnologías, apropiarse de ellas y rediseñarlas, y que las epistemologías indígenas pueden contribuir de manera útil a su desarrollo continuo.
Sin embargo, en un campo tan emergente, lo que se requiere, además de debates teóricos, es evidencia de cómo los pueblos indígenas – y los artistas indígenas en particular – están respondiendo a la IA generativa, así como su análisis evaluativo del valor de uso y/o estatus como arte de la IA y sus productos derivados. Si bien en los contextos anglófonos ya hay evidencia de que los artistas indígenas están ‘poniendo a prueba’ estas tecnologías de IA generativa, este libro aporta evidencia procedente de un proyecto piloto pionero para explorar precisamente esto en un contexto latinoamericano. Trabajando en equipo con indígenas[5] artistas, escritores, guardianes de tradiciones y líderes comunitarios entre otros, asentados, en la gran mayoría de los casos, en lo que hoy son Argentina, Bolivia, Brasil Chile y Peru, el proyecto AIAI: Artificial Intelligence, Art and Indigeneity [Inteligencia Artificial, Arte e Indigeneidad], que se puso en marcha en 2023, ha tratado de responder a estas preguntas mediante talleres en los que se debatieron imágenes generadas con diversas herramientas, entre ellas Midjourney y una herramienta de generación de imágenes a medida llamada IndigenIA, basada en Stable Diffusion. En concreto, el proyecto ha explorado las dificultades de los miembros del equipo con las ‘alucinaciones’ de la IA que tergiversan sus realidades e intenciones, así como sus compromisos pragmáticos y sus esperanzas y sueños en relación con la IA generativa, todo ello con el objetivo de poner en primer plano las perspectivas indígenas a la hora de dar forma al desarrollo futuro de este tipo de tecnología y a su impacto en todos nosotros.
A continuación, ofrecemos una serie de reflexiones sobre lo que hemos aprendido a través del proyecto AIAI a lo largo de sus diferentes etapas, y lo hacemos en un formato multivocal. Hemos procurado mantener nuestras diferentes voces y perspectivas diferenciadas, organizadas en dieciocho ‘capítulos’ breves, en lugar de reunirlas en un argumento más uniforme redactado en prosa académica estandarizada – en estos tiempos de síntesis y resúmenes alimentados por ChatGPT, consideramos que mantener la singularidad de las diferentes voces y perspectivas de las personas es de suma importancia.[6] Los autores no nativos de inglés han escrito o grabado sus capítulos individuales en español o portugués, basándose en las conversaciones originales mantenidas con los miembros del equipo académico y de la ONG a través de WhatsApp o Zoom. Posteriormente, estos han sido traducidos al inglés y ligeramente editados, sin mermar la singularidad de la voz y la perspectiva.[7] Además, estos capítulos se incluyen en formato bilingüe en la versión impresa del libro en inglés. En esta versión del libro, íntegramente en español y alojada en la plataforma Manifold (read.uolpress.co.uk/projects/artificial-intelligence-art-and-indigeneity), todos los materiales que originalmente no estaban en español se han traducido con la ayuda de la herramienta de IA Deepl y han sido revisados minuciosamente por los miembros del equipo académico.[8] La plataforma Manifold también incluye materiales adicionales, como los vídeos cortos realizados sobre el proyecto, que sería imposible incluir en el libro impreso.
El libro se divide en tres secciones. La primera parte (IA, arte e indigeneidad) proporciona el marco teórico, el contexto y la metodología en los que se sustenta el proyecto AIAI, y ofrece una visión general de los debates clave en el ámbito de la IA (generativa), el arte y la cultura visual; la IA indígena y de(s)colonial; y de los experimentos de artistas indígenas con la IA (generativa), tanto en el mundo (pos)colonial anglófono como en Abya Yala/América Latina. A continuación, pasa a ofrecer una visión general del proyecto AIAI tal y como ha evolucionado a lo largo del tiempo, así como una breve discusión sobre la metodología utilizada. La Parte 2 (Entre sueños y alucinaciones) recoge textos escritos por algunos de los artistas y escritores indígenas que más han colaborado en el proyecto AIAI a lo largo del tiempo, en los que reflexionan sobre sus diferentes respuestas a las herramientas de generación de imágenes. Está ordenada de tal manera que revela un cambio: las respuestas, en general más cautelosas, de los artistas visuales ante estas herramientas, en comparación con la respuesta más positiva de los escritores, que han llegado a utilizarlas para ilustrar sus obras escritas. La tercera parte (Pensamientos generativos), redactada tanto por los editores del libro como por otros miembros del equipo – indígenas como no indígenas –, explora la forma en que los resultados del proyecto AIAI se entrecruzan con algunos de los debates más amplios en este ámbito relacionados con temas como los estereotipos raciales, el futurismo indígena, la censura y la infracción de los derechos de autor, así como las diferentes perspectivas que diversos colaboradores han aportado al proyecto y las distintas direcciones en las que lo han llevado al desarrollar proyectos derivados. También reflexionamos sobre las diferentes consideraciones que se han tenido en cuenta al exponer el proyecto en diferentes lugares y las reacciones del público ante el mismo. La conclusión resume brevemente los resultados del proyecto, situándolos en un contexto más amplio.
Todas las citas de textos publicados originalmente en inglés o portugués han sido traducidas por el equipo académico, salvo que se indique lo contrario. ↑
La siguiente explicación sobre el funcionamiento de los modelos de generación de imágenes es deliberadamente breve por motivos de espacio. Para obtener explicaciones más detalladas y útiles desde un punto de vista crítico sobre su funcionamiento, véanse Lev Manovich (2019), Eryk Salvaggio (2023), Antonio Somaini (2023), Joanna Zylinska (2024), Lev Manovich y Emanuele Arielli (2024), y Roland Meyer (2025). ↑
Para un estudio exhaustivo sobre el uso de las GAN, véase Antonio Somaini (2023, 91–99). ↑
Nota del traductor: hemos optado por traducir la palabra inglesa ‘decolonial’ como ‘de(s)colonial’ en español, reflejando así la coexistencia de los términos ‘decolonial’ y ‘descolonial’ en español. ↑
No existe una definición única y universalmente aceptada de ‘indigeneidad’. A efectos de este trabajo, la identidad indígena es una cuestión de autoidentificación en relación con los grupos étnicos cuya presencia en Abya Yala/América Latina es anterior a la colonización, según la ‘Declaración sobre los Derechos de los Pueblos Indígenas’ de las Naciones Unidas de 2007 (Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos 2013, 2). Mientras que algunas de las personas que participaron en el proyecto AIAI habían crecido en territorios oficialmente designados como indígenas, hablando una lengua indígena y/o practicando plenamente su cultura, otras procedían de entornos en los que sus antepasados habían sufrido desplazamientos, mestizaje y aculturación forzada, y se encontraban en diversas etapas de reconexión con sus raíces indígenas. Todos los miembros indígenas del equipo participaron a título individual y no como representantes de sus respectivos grupos étnicos. ↑
Tras la presentación inicial de los miembros del equipo con sus nombres completos y/o nombres artísticos, tal y como desean que se utilicen actualmente, hemos optado por romper con la tradición y referirnos a las personas por sus nombres personales. Esto tiene la ventaja de evitar que a algunos de los miembros indígenas del equipo – que utilizan su origen étnico como apellido – se les denomine únicamente por su origen étnico, y también significa que hay una diferencia menos evidente en el trato entre quienes tienen nombres artísticos de una sola palabra que funcionan efectivamente como nombres personales y quienes no los tienen.
Nota del traductor: también hemos optado por escribir con mayúscula la primera letra de los nombres de etnias indígenas específicas (Kaingang o Aymara) y por respetar las grafías que prefieren los miembros de esas comunidades (por ejemplo, Aymara en lugar de aimara). ↑
Todas las traducciones al inglés han sido realizadas por Thea. ↑
Todas las traducciones al español han sido revisados por Roberto Rodríguez-Saona. ↑