La inteligencia artificial y los algoritmos están surgiendo y consolidándose a toda marcha, reproduciendo el racismo estructural presente en la sociedad.
Hace unas semanas, se difundió en las redes sociales una tendencia en la que muchos influencers, líderes de opinión, empresaries, entre otres, participaron. Se trataba de la tendencia de Disney Pixar, en la que con el apoyo de la inteligencia artificial, era posible crear imágenes similares a nosotres, evocando a les personajes de las películas animadas de Pixar. Pues bien, en el primer intento de crear mi “personaje Pixar”, la aplicación solicitó una foto y mi equipo de comunicación la cargó. Y sorpresivamente, excepto por el hecho de que la imagen creada era de una persona blanca, el dibujo se parecía mucho a mí.
En el segundo intento, el equipo volvió a ingresar a la plataforma indicada por los sitios de tecnología, ingresó todos los parámetros, y voilà, como dirían les franceses, nuevamente una imagen de una persona blanca. Para que el resultado fuera la imagen de una persona negra, era necesario especificar: ejecutiva negra. Al poner solo la palabra “ejecutiva”, la imagen generada era obligatoriamente de una persona blanca. Por curiosidad, revisé las páginas de algunas personalidades negras en las redes sociales y en los dibujos creados para esta tendencia: no en todos, pero en muchos, la piel del personaje también estaba más clara.
El intento exitoso de Liliane Rocha, solo después de escribir “ejecutiva negra” (Reproducción/Instagram/@lilianerochaoficial).
De hecho, no sé si has notado, pero en Instagram, cuando hacemos una historia e intentamos insertar un ícono, si escribimos la palabra “ángel”, siempre aparecerá la imagen de un ángel blanco. Atleta, siempre aparecerán atletas blancos. Y así sucesivamente. Para que aparezca una imagen de ángel negro, atleta negro, o cualquier otra iconización negra, tengo que especificar la palabra “negro” al final. Como si la blancura fuera la norma y el estándar, y los demás grupos raciales necesitaran o demandaran ser detalladas como una excepción.
Lo mismo ocurre cada vez que ingresamos a aplicaciones de edición de fotos. Los rasgos afro se suavizan, la nariz y la boca se afinan ligeramente, el tono de la piel se aclara sutilmente, los contornos se retiran ligeramente. Sin embargo, de sutileza en sutileza se delinean el racismo. Exactamente como sucede con la aplicación que teóricamente “nos embellece”, al restar los rasgos raciales negros.
En fin, el tema no es nuevo, ni mucho menos desconocido para la gran mayoría. De hecho, tal vez ese sea el problema, dada la antigüedad y obviedad del tema, así como su relevancia tras la llegada de aplicaciones y plataformas. No sabemos con certeza cómo estas nuevas tecnologías afectarán nuestras vidas. Por eso, que los algoritmos sean racistas es grave. De hecho, es gravísimo.
Podemos decir que la inteligencia artificial y los algoritmos están surgiendo y consolidándose a toda marcha, reproduciendo el racismo estructural presente en la sociedad, en las empresas y en Sillicon Valley.
Además, hay otra cara de esta problemática. Este mes, en el que hablamos prioritariamente sobre la Conciencia Negra, intentamos impulsar en nuestro perfil de Instagram dos imágenes y textos con los siguientes contenidos: “Si somos un país mestizo, ¿cómo opera el racismo?” y “¿Seríamos todas las personas iguales? ¿Luchamos todas por los mismos ideales?”. Preguntas muy relevantes y con análisis de legislación, investigaciones y demás. Sin menciones político-partidarias ni ofensas de ningún tipo, aún así, los contenidos fueron rechazados por la plataforma sin motivo ni justificación. La respuesta que obtuvimos fue que no estaban dentro de la política. ¡Así de simple!
No es casualidad que les influencers negros hayan llamado repetidamente la atención sobre el hecho de que tienen mucho menos repercusión en sus publicaciones y en la entrega de su contenido, en comparación con sus pares blancos. Incluso si la foto, el contexto y el anuncio son extremadamente similares. Según el sitio Negrê, “la influencer digital y youtuber Sá Ollebar, creadora del proyecto digital Preta Pariu, inició un experimento en la plataforma Instagram (…)
Después de notar la creciente caída en los índices de alcance digital, la paulista publicó fotografías de modelos caucásicas (blancas) en su perfil y analizó las métricas de participación. Sorprendentemente, la herramienta de estadísticas registró un aumento del 6000% en su alcance”.
Parafraseando y completando la pregunta que ella hizo, ¿Instagram y las demás redes sociales, algoritmos y la inteligencia artificial, sólo nos representan, entregan nuestro contenido y nos contemplan si somos personas blancas?
A medio y largo plazo, ¿cuál será el impacto de este racismo algorítmico que estamos dejando pasar en vano en la sociedad? Necesitamos con urgencia, más programadores afro, LGBTIQ+, con discapacidad, mujeres, de las periferias y todas las ramificaciones de la diversidad, trabajando también en la concepción y programación de estas herramientas.
Como he dicho, la realidad sólo cambia cuando estamos construyendo, produciendo y pensando juntos. Y además, también en los cargos de toma de decisiones. Siguiendo esta lógica, ya estoy escribiendo este texto anticipando que será bloqueado por los algoritmos y leído por pocos. Aun así, insisto, porque el tema es necesario y urgente. Cuento contigo para que, juntes, rompamos esta burbuja. Exige a las empresas de tecnología, contrata personas negras, comparte este artículo. Quién sabe, así podemos hacer que la era de la inteligencia artificial sea la primera gran revolución realmente inclusiva en la historia de la humanidad.
Fuente: Liliane Rocha para Le Monde Diplomatique Brasil
