Capítulo 13

Una genealogía de los estereotipos: la representación de los pueblos indígenas con IA generativa

Sandra De Berduccy

Se, nas cidades, temos dificuldade em fazer as pessoas entenderem que

existe uma grande diversidade indígena, imagine explicar isso para um

banco de dados.

[Si, en las ciudades, nos cuesta hacer entender a la gente que existe una gran diversidad indígena, imagínate explicárselo a una base de datos.]

(Kuenan Mayu, comentario realizado durante uno de los grupos focales del proyecto AIAI, mayo de 2023)

Desde el momento en que empezamos a generar imágenes con Midjourney en el marco del proyecto AIAI, nos dimos cuenta de que las imágenes ponían de manifiesto una gran cantidad de ideas preconcebidas sobre los pueblos indígenas, representándolos de formas excesivamente simplificadas y que no tienen en cuenta la especificidad cultural de las comunidades en cuestión. Este sesgo en la representación de los pueblos indígenas tiene su origen en la forma en que se les ha retratado a lo largo de la historia de la fotografía. Para analizar estas formas recurrentes de representación estereotipada, este capítulo repasa una selección de fotografías de pueblos indígenas tomadas en Sudamérica a finales del siglo XIX. En este periodo, aspectos como la puesta en escena, la pose, el uso de un telón de fondo, así como la alteración de las normas culturales en cuanto a vestimenta y joyería, comenzaron a influir en la forma en que percibimos a los pueblos indígenas. Un ejemplo revelador es el de las imágenes fotográficas del pueblo Mapuche que desempeñaron un papel fundamental en la forma en que los forasteros han percibido a esa comunidad. Hoy en día, vemos cómo estas convenciones visuales reaparecen en imágenes generadas por herramientas de Inteligencia Artificial como Midjourney, lo que sugiere que el sesgo histórico en la representación de los pueblos indígenas no solo persiste, sino que está siendo reproducido y amplificado por estas nuevas tecnologías generativas.

La puesta en escena

Las fotografías de personas tomadas a finales del siglo XIX seguían las mismas convenciones estrictas que la pintura de retratos en cuanto a la puesta en escena. Según Peter Burke (2001), hacerse una foto consistía en capturar una escena en la que la persona, vestida con sus mejores galas, aparecía rodeada de objetos que la caracterizaban y que desempeñaban una función simbólica, ‘ocultando un mensaje religioso o moral presentado a través del “simbolismo encubierto” de los objetos cotidianos’ (21). Este uso de la puesta en escena también se aplicó a las primeras imágenes fotográficas tomadas de pueblos indígenas, como los Mapuche. En el libro Mapuche: fotografías Siglo XIX y XX: construcción y montaje de un imaginario, Margarita Alvarado (2001) analiza la obra de fotógrafos como Gustavo Milet Ramírez y Odber Heffer Bissett, que trabajaron en Chile a finales del siglo XIX. Según Alvarado, sus fotografías sentaron las bases de la forma en que se entendía la cultura Mapuche – o cultura Araucana, como se la denominaba en aquella época – en ese momento histórico.

Las observaciones de Alvarado son fundamentales para comprender cómo se construyó, a través de imágenes fotográficas, una visión estereotipada del pueblo Mapuche. Al analizar una serie de retratos de mujeres Mapuches tomados alrededor de 1900 en el estudio de Gustavo Milet Ramírez (véase Fig. 13.1), Alvarado destaca una práctica recurrente: ‘podemos percibir que todas estas diferentes mujeres aparecen exhibiendo exactamente las mismas joyas de plata. Milet interviene así directamente una normatividad social y estética instalando sobre estas mujeres joyas de plata que probablemente eran de su propiedad’ (23). Además, según Alvarado, los objetos de importancia cultural, como las joyas tradicionales Mapuches – piezas conocidas como trapelakucha, sikil o trarulongko –, no se presentan en relación con su simbolismo indígena ni con su papel en la construcción de la identidad indígena, sino que se utilizan para adaptarse a las elecciones estéticas del fotógrafo: ‘No son más que una parafernalia utilizada para una escenificación, son solo un subterfugio para mostrarnos una realidad que, al fin y al cabo, es un delicado y maravilloso montaje (23).

Fig. 13.1. Mujeres Mapuches con joyas de plata, taller de Gustavo Milet Ramírez, Traiguen, Chile, hacia 1900. Nationaal Museum van Wereldculturen, Leiden, Países Bajos, n.º^s RV-A299-11 y RV-A299-19.

Este uso estereotípico de los símbolos culturales se reproduce en las imágenes generadas con Inteligencia Artificial y se observó en las primeras pruebas realizadas por el equipo del proyecto AIAI con Midjourney. Si utilizábamos indicaciones como ‘amazon_woman_child_craftwork’ [Amazonía_mujer_niño_artesanía] y ‘andes_woman_child_weaving’ [Andes_mujer_niño_tejido] respectivamente, observamos que, al igual que ocurre con las imágenes de mujeres Mapuches fotografiadas a finales del siglo XIX, las imágenes generadas por IA de mujeres y niños de la Amazonía (véase Fig. 13.2, imágenes superiores) y de los Andes (véase Fig. 13.2, imágenes inferiores) no reflejan fielmente la vestimenta, los textiles ni los adornos propios de esas regiones. Para las personas que pertenecen a estas culturas, esto puede resultar bastante impactante, ya que la iconografía o los colores de los textiles siempre han correspondido a lugares e identidades específicos, y siguen haciéndolo hoy en día.

Fig. 13.2. Thea Pitman, imágenes de mujeres y niños amazónicos y andinos generadas con Midjourney v.5.1, mayo de 2023, como pruebas previas al inicio del proyecto AIAI. Prompts: ‘amazon_woman_child_craftwork’ [Amazonía_mujer_niño_artesanía] ‘andes_woman_child_weaving’ [Andes_mujer_niño_tejido], respectivamente.

En las imágenes generadas, en lugar de mostrar elementos iconográficos específicos que nos permitan identificar claramente de dónde procede una persona o a qué pueblo indígena pertenece, se nos presenta una mezcla confusa de signos pertenecientes a diferentes grupos culturales. Incluso hay algunos elementos no identificables que no tienen nada que ver con los códigos culturales asociados a las comunidades amazónicas o andinas. Este fenómeno recuerda a la apropiación y el intercambio aleatorio de joyas en el estudio de Milet, donde los símbolos culturales se intercambiaban entre las modelos – que bien podrían ni siquiera haber posado para las fotografías por voluntad propia – sin tener en cuenta su uso o significado original.

Basando sus observaciones en estas y otras imágenes generadas durante la primera fase del proyecto, el artista e investigador Tadeu Kaingang destacó uno de los elementos clave de la representación de los pueblos indígenas en Brasil: el cocar o tocado. En estas imágenes generadas por IA, argumentó que los tocados parecían más similares a los utilizados en la cultura Maya y en absoluto parecidos a los que utilizan los pueblos indígenas de Brasil. Esta observación pone de relieve cómo la IA, por carecer de una comprensión contextual de los símbolos culturales, los recombina de forma aparentemente aleatoria, generando representaciones que no solo son incorrectas, sino que pueden contribuir a la reproducción de formas estereotipadas de ver a los pueblos indígenas.

La pose y el telón

Alvarado también destaca que, en estas primeras imágenes, las poses adoptadas por los sujetos de origen Mapuche no reflejaban realmente su comportamiento habitual, sus formas de expresión cultural ni su entorno, sino más bien las exigidas por el fotógrafo. Los sujetos Mapuches participan en el proceso de puesta en escena del estudio fotográfico, con poses y expresiones que se les imponen para ajustarse a una visión estética que resultaba bastante ajena a su forma de ser (2001, 23). Por ejemplo, en las imágenes reproducidas en la Fig. 13.3, las convenciones de la puesta en escena se identifican fácilmente. La imagen del Longko, tomada en el estudio de Fernando Valck en 1880, muestra al jefe Mapuche posando con actitud solemne, ataviado con un poncho tradicional combinado con accesorios occidentales, como las botas con espuelas y el sombrero que vemos en el suelo, en este caso sobre un fondo completamente neutro. Y en la imagen de las mujeres y los niños Mapuches, tomada en el estudio de Gustavo Milet Ramírez (hacia 1900), las figuras están situadas a ambos lados de un tronco de árbol retorcido; algunas permanecen inmóviles y miran impasibles directamente a la cámara para que se les vea claramente el rostro, mientras que otras están inclinadas, ocupadas en la preparación de la comida, aludiendo así a lo que pretende ser una escena típica de la vida cotidiana. No obstante, todas ellas están situadas de forma bastante improbable frente a un fondo que representa un pedestal clásico, enrredaderas y árboles que se desvanecen en la niebla, y que sin duda sirvió para otros retratos de la alta-sociedad.

Fig. 13.3. Izquierda: Longko [jefe] Mapuche, fotografía de Fernando Maximiliano Valck Wiegand, Santiago de Chile, 1880. Museo Histórico Nacional, Santiago de Chile, n.º Fb-4363. Derecha: Mujeres y un niño Mapuches preparando comida, posando frente a un telón, estudio de Gustavo Milet Ramírez, Traiguen, Chile, hacia 1900. Nationaal Museum van Wereldculturen, Leiden, Países Bajos, n.º RV-A299-14.

Esta forma de representación fotográfica, lejos de desaparecer con el paso del tiempo, se reproduce ahora en imágenes generadas por Inteligencia Artificial. En la Fig. 13.4 se puede ver un ejemplo generado por Lucian de Silenttio, artista interdisciplinar y educador boliviano de origen Aymara, durante la fase inicial del proyecto AIAI. La intención de Lucian era reproducir el paisaje urbano de la ciudad de El Alto, con vistas hacia la ciudad de La Paz; una zona en la que predomina la presencia de la cultura Aymara urbana. En la imagen generada, este paisaje se percibe como un telón de fondo pictórico sobre el que destaca la figura del personaje.

Fig. 13.4. Lucian de Silenttio, Hombre en la cima de una montaña, imagen generada con Midjourney v.5.1, mayo de 2023, en la primera fase del proyecto AIAI. Prompt: ‘Man on the highland mountain, dressed in a red and black striped poncho, next to him a golden dog reclining like a sphinx, in the background a city between mist and smoke coming out of buildings. Realistic, 4k photography’ [Hombre en la cima de una montaña, vestido con un poncho a rayas rojas y negras; junto a él, un perro dorado recostado como una esfinge; al fondo, una ciudad entre la niebla y el humo que sale de los edificios. Fotografía realista en 4K].

De las cuatro variaciones generadas por Midjourney, Lucian prefirió la que se encuentra en la parte inferior izquierda porque la persona tiene el pelo largo, aunque comentó que le hubiera gustado que mostrara rasgos indígenas más marcados. Sin embargo, al no incluir ninguna referencia a la indigeneidad ni a la ubicación geográfica en el prompt, es prácticamente imposible que tales rasgos fenotípicos aparezcan en una imagen generada por Midjourney v.5.1, lo que indica la presencia extremadamente escasa de pueblos indígenas de la región en la base de datos utilizada y la ausencia de prompts que sugieran formas específicas de diversidad incluidos por los diseñadores.^[1] Otra de las observaciones de Lucian se refiere al poncho, una prenda tejida tradicional para la cultura Aymara. En la imagen generada, parece un impermeable o una capa. En una comunicación personal, Lucian comentó: ‘Es que [la IA] no conoce’. También señaló que todas las imágenes le parecían ‘muy convencionales’, especialmente la de la esquina superior derecha.

En cuanto a la cuestión de la pose, en las antiguas fotografías en blanco y negro, la rigidez y la inmovilidad de las figuras se debían a requisitos técnicos, ya que los procesos químicos propios de la fotografía de la época exigían que el modelo permaneciera inmóvil durante varios segundos, lo que dificultaba la representación de la naturalidad. Aquí vemos claramente que, aunque esta limitación técnica ya no existe, la rigidez de la pose sigue reproduciéndose en las imágenes generadas debido a su fuerte presencia en las imágenes que componen la base de datos.

La escena étnica

Tadeu Kaingang también observó la construcción de lo que podríamos denominar ‘escenas étnicas’ en las imágenes que creó como parte de la primera fase del proyecto AIAI. Según Alvarado, la tradicional ‘escena étnica’ en la fotografía tenía por objeto transmitir ‘una atmósfera que tiene el fin de producir una ambientación elaboradamente dramática’ (2001, 25) en la que se intenta crear la ilusión de un paisaje real y de la naturaleza, así como una representación aparentemente veraz de una realidad cultural exótica y distintiva.

Este tipo de puesta en escena reaparece en las imágenes generadas por IA. Un ejemplo es el prompt creado por Tadeu Kaingang: ‘A family of five South American Kaingang indigenous people reforesting a patch of forest while under the watchful gaze of ancestral nature gods in supernatural form’ [Una familia de cinco indígenas Kaingang sudamericanos reforestando una parcela de bosque bajo la mirada atenta de dioses ancestrales de la naturaleza en forma sobrenatural] (véase la Fig. 10.2). La imagen generada omite cualquier representación evidente de los ‘dioses ancestrales de la naturaleza’ mencionados explícitamente en el prompt, mostrando en su lugar un bosque compuesto a partir de elementos genéricos, y también llama la atención que la vestimenta no se corresponda con la cultura Kaingang, a pesar de que la referencia a dicha cultura se indica claramente en el prompt. La mirada frontal y la pose rígida también reaparecen. Como comentó Tadeu durante los grupos focales, se trata de ‘estereótipos, onde nao conseguimos enxergar a pessoa indígena contemporânea’ [estereotipos, en los que no conseguimos ver a la persona indígena contemporánea]. Estas imágenes de los Kaingang recordaron a Tadeu las ilustraciones realizadas por Joaquim José de Miranda en el siglo XVIII, que estaban ‘desenhadas no estilo do conquistador; eles eram povos indígenas completamente diferentes’ [dibujadas al estilo del conquistador, y parecían ser pueblos indígenas totalmente diferentes] y en claro contraste con las imágenes de los Kaingang que se hallan en la enciclopedia del Instituto Socioambiental Povos indígenas no Brasil (2018), que muestran a familias Kaingang en su entorno cotidiano real, lejos de los artificios de un estudio fotográfico.

Durante los grupos focales en la primera fase del proyecto AIAI, varios participantes expresaron dificultades para reconocerse a sí mismos o a sus comunidades en las imágenes generadas. Mariela Tulián, Casqui Curaca [líder comunitaria] del pueblo Tulián, quería representarse a sí misma como jaguar hembra rodeada de algarrobos, ya que no se imaginaba a sí misma tanto como una persona sino como un gran felino, una figura importante para los pueblos del Gran Chaco. Sin embargo, Midjourney generó una imagen que no cumplió sus expectativas, lo que le dificultó identificarse con el jaguar o reconocer el bosque de algarrobos. Este caso nos lleva a la cuestión de la autorrepresentación indígena, que no siempre se centra en el yo individual, sino más bien en su relación con el entorno. Como señaló Lucian de Silenttio en una comunicación personal: ‘Las montañas, los árboles y hasta los animales son sujetos’. Esta visión cuestiona la lógica antropocéntrica que subyace tanto a la IA como a las representaciones visuales tradicionales.

Sub-representación

La tejedora Mapuche e investigadora de tintes naturales y plantas medicinales, Loreto Millalén, realizó otra observación sobre la falta de representatividad en las imágenes generadas. En referencia a su práctica de investigación, creó este prompt en español: ‘La gente se identifica cada una con una planta y trabajan en equipos para realizar actividades que se consideran medicina’. La imagen resultante (véase Fig. 13.5) muestra a un hombre blanco vestido con una bata blanca y un estetoscopio, lo que pone de manifiesto la asociación de la palabra ‘medicina’ con la figura de un médico occidental de género masculino. En las demás imágenes generadas en relación con este prompt, y sin que en el propio prompt se incluyera información alguna sobre la estética, las imágenes recuerdan a dibujos animados o caricaturas, completamente alejadas de la complejidad simbólica, espiritual y comunitaria de la medicina tradicional que Loreto tenía en mente.

Fig. 13.5. Loreto Millalén, Gente trabajando con plantas medicinales, imagen generada con Midjourney v.5.1, mayo de 2023, en la primera fase del proyecto AIAI. Prompt: ‘La gente se identifica cada una con una planta y trabajan en equipos para realizar actividades que se consideran medicina’.

Lucian de Silenttio, que ha seguido generando un gran número de imágenes desde la época de estos primeros grupos focales, afirma enfáticamente:

No es posible que las Inteligencias [Artificiales] nos permitan autorrepresentarnos como indígenas . . . porque la Inteligencia Artificial es un programa que utiliza una base de datos determinada, y solo puede responderte recurriendo a esa base de datos en la que no estamos incluidos.

Los científicos sociales y los activistas ya han observado casos en los que las imágenes generadas por IA dan lugar a representaciones heteronormativas y racialmente estereotipadas, lo que pone de relieve que los modelos entrenados con datos extraídos de la web no representan adecuadamente a toda la humanidad.^[2] Esto no es casual, sino estructural. Las bases de datos masivas perpetúan, reproducen y refuerzan los estereotipos generados por una cultura dominante y, con ellos, las lógicas de exclusión y supremacía en las que no se tolera el florecimiento de otras visiones y narrativas.

Todo esto sugiere que, tras la interfaz intuitiva de las herramientas de IA, persisten lógicas sesgadas, heredadas de la historia colonial de la representación. Si bien era posible esforzarse más para proponer prompts que produjeran resultados más cercanos a la autorrepresentación deseada, este proceso suponía un esfuerzo de traducción doble para quienes no hablaban inglés: traducir imaginarios culturales muy diferentes a lenguas europeas convencionales, como el español o el portugués, y luego de nuevo otra traducción al inglés, la única lengua con la que la ‘máquina’ podía trabajar eficientemente en aquel momento. Se trataba de una doble traducción que nos obligaba a traducirnos a nosotros mismos para poder existir en un sistema que no nos representaba.

Fig. 13.6. Arriba: Aymar Ccopacatty, Abuelo Aymara caminando junto al lago Titicaca, serie de cuatro imágenes generadas con Midjourney v.5.1, mayo de 2023. Prompt: ‘an ancient Aymara grandfather, walking his farm lands on lake titicaca, high altitude, time is slow, slow slow down, the green shore and the blue depths of the lake shimmer. His crops are Potato, Avas, Quinua, Jirwa, Achachilas guard the snow capped glacier mountains far away, slow slow slow down, an Apacheta spring gurgles its sacred and mystical life giving water

that flows downhill towards the lake’ [Un anciano abuelo Aymara, caminando por sus tierras de cultivo junto al lago Titicaca, a gran altitud; el tiempo transcurre lento, lento, más lento aún; la orilla verde y las profundidades azules del lago brillan. Sus cultivos son patatas, avas, quinua y jirwa; chachilas custodian las montañas glaciares coronadas de nieve en la lejanía; despacio, despacio, ve más despacio; un manantial brota de una apacheta y su agua sagrada y mística, dadora de vida, borbotea y fluye cuesta abajo hacia el lago]. Abajo: dos fotografías del tío abuelo de Aymar, Cicilio Ccopacati Quispe, en Puno, Perú, hacia 1980. Fotos: Aymar Ccopacatty.

Dicho esto, siempre hay una excepción a cualquier regla. Aymar Ccopacatty, un artista Aymara de Perú que se trasladó a EE. UU. cuando era niño, redactó un prompt directamente en inglés que incluía detalles específicos sobre el origen étnico, la ubicación geográfica y la flora local, y los resultados superaron de hecho sus expectativas. En las imágenes generadas (véase Fig. 13.6, arriba), Aymar reconoció un parecido evidente con las fotografías que tiene de su tío abuelo Cicilio Ccopacati Quispe, originario de la comunidad de Qullana Socca, en Puno (Perú) (véase Fig. 13.6, abajo). Además, quizá debido al énfasis en representar el tiempo en su prompt – aunque sea con un enfoque en la lentitud – las imágenes generadas son mucho más dinámicas que la pose estática de las fotografías originales, que se ajustan más a las convenciones de la fotografía de retrato tradicional. Por supuesto, también podemos especular sobre cómo la distancia geográfica y temporal hace que Aymar esté más predispuesto a experimentar una respuesta afectiva ante las imágenes generadas en comparación con los demás artistas indígenas que participan en el proyecto. No obstante, esta única excepción sugiere que, para quienes se sientan inclinados a ello y puedan sortear las dificultades lingüísticas de los prompts de texto, existen interesantes posibilidades por explorar en la generación de imágenes mediante IA en relación con los pueblos indígenas.

1. Como se señala en el Capítulo 5, Midjourney v.5.1 y las versiones posteriores utilizadas para este libro han vuelto a utilizar un algoritmo que ofrece resultados con menor diversidad étnica, tras el breve experimento de aumentar la diversidad étnica en la versión 5.0. ↑

2. Véase el Capítulo 1, especialmente la nota 6. ↑