O projeto IAAI explora questões de representação de grupos culturais minorizados, em particular aqueles que se identificam como indígenas, em sistemas de IA que geram arte.
A capacidade dos sistemas de IA de gerar diferentes formas de arte e de desafiar nossa capacidade de discernir a diferença entre seus Acomponentes humanos e não humanos recebeu cobertura na imprensa nos últimos meses, com reações hiperbólicas cobrindo todo o espectro de descrença e preocupação com as consequências, ao assombro e excitação sobre su potencial. No entanto, os sistemas de arte visual de IA são tão bons quanto os algoritmos que geram as imagens e são afetados pelos preconceitos dos desenvolvedores e pela proveniência dos materiais com os quais os sistemas são treinados. Quando esses sistemas são criados por desenvolvedores “brancos” (não indígenas), localizados nos centros de inovação digital do Norte Global, e estão trabalhando com metadados em inglês, é provável que os sistemas de IA resultantes evidenciam traços disso na forma como representam outras culturas e estes são afetados pelos preconceitos dos desenvolvedores. Além do que esses sistemas são criados por desenvolvedores localizados nos centros de inovação digital do Norte Global, e estão trabalhando com metadados em inglês. Os sistemas de IA resultantes provavelmente evidenciarão traços disso na forma como representam outras culturas.
O projeto AIAI está com financiamento para executar um piloto para testar um desses sistemas de arte visual de IA – Midjourney – por sua capacidade de representar povos e culturas indígenas no contexto brasileiro. AIAI está organizando grupos focais compostos por artistas e pensadores indígenas, para, utilizando métodos criativos, aprofundar a compreensão de como esses sistemas funcionam e explorar as respostas afetivas ao conteúdo e estética da arte que pode ser criada com esta ferramenta. O projeto passará então a debater questões éticas mais amplas em torno da agência e propriedade ao trabalhar com a representação de comunidades minorizadas. Os resultados criativos do projeto, bem como suas reflexões e debates, serão compartilhados neste website oportunamente. Um documento aprovado por todos os participantes também pode ser compartilhado com o sistema desenvolvedores no final do projeto.
O projeto IAAI vem sendo dialogado desde julho de 2022 e será executado concretamente de janeiro a junho de 2023. Uma chamada aberta para participantes será distribuída em janeiro. Por favor, entre em contato se você estiver
interessados em participar. CONTATOS@THYDEWA.ORG
O projeto é uma colaboração entre ONG Thydêwá e uma equipe de acadêmicos sediados no Reino Unido e Irlanda (Professora Thea Pitman e Dr Tom Jackson da Universidade de Leeds, e Dr Andreas Rauh da Universidade da Cidade de Dublin). É financiado pelo Fundo para Pesquisa Interdisciplinar e Impacto Cultural do Leeds Arts and Humanities Research Institute.
A AIAI baseia-se em colaborações anteriores já realizadas entre seus participantes, especialmente durante o projeto AEI – “ARTE ELETRONICA INDIGENA pelo qual a ONG recebeu Menção Honrosa no Prêmio STARTS 2019.
Esperamos garantir mais financiamento para o projeto para que possamos desenvolver sua escala, trabalhando com grupos focais em outras partes do mundo, e para que possamos desenvolver e compartilhar literacias visuais cruciais em IA para comunidades minorizadas, como a capacidade de reconhecer e responder criticamente a falsificações profundas e notícias falsas em geral. Em nosso projeto em andamento, estamos especificamente, buscando fortalecer os indígenas a lidar com as imagens existentes, feitas com eles ou sem eles, feitas com pessoas reais ou através de inteligência artificial. Uma forma de fortalecer os indígenas a melhor lidar com a realidade atual e os futuros que chegam.
O projeto AEI, bem como a ONG Thydewa, tem importantes trabalhos no Brasil e pela ABYA YALA, com notoriedade na Argentina, Chile, Equador, Colômbia, Bolívia e México.
