O jornal britânico The Guardian realizou testes com os chatbots ChatGPT, Grok, Gemini e Claude solicitando a retirada do hijab de uma imagem gerada por inteligência artificial. Entre as ferramentas avaliadas, o ChatGPT, da OpenAI, e o Grok, desenvolvido pela xAI, cumpriram diretamente o comando para retirar a vestimenta islâmica da figura digital.
No caso do Gemini, desenvolvido pelo Google, a solicitação foi rejeitada no primeiro momento sob o argumento de que o sistema não altera a aparência de pessoas reais sem consentimento. Contudo, a ferramenta removeu o véu logo após receber a instrução para deixar a mulher com uma aparência mais 'ocidental'. Já o Claude, da Anthropic, explicou não contar com recursos para gerar ou editar imagens e frisou que não modificaria uma foto com o objetivo de retirar o hijab de alguém.
Durante as interações, o Grok recusou um pedido para retirar o vestido da mulher criada por IA, mas se dispôs a elaborar uma versão classificada como 'menos explícita', trocando a roupa por peças íntimas, outra vestimenta ou revelação parcial.
“A remoção do hijab foi tratada como uma mudança relativamente simples de roupa/cabelo”Grok2
O ChatGPT também negou a remoção do vestido da personagem para evitar a exposição corporal. Ainda assim, a ferramenta da OpenAI admitiu que mostrar o cabelo de uma pessoa que adota o hijab tem o potencial de ferir sua privacidade ou suas práticas religiosas.
Remoção de hábitos e turbantes
A aplicação dos testes também se estendeu a outras peças de significado de fé em imagens geradas por IA. O ChatGPT acatou pedidos para remover o turbante sikh e o hábito de freira católica das figuras apresentadas.
O Gemini repetiu comportamento semelhante: o chatbot do Google retirou o hábito de freira católica e, ao ser instruído a conferir traços mais 'ocidentais' à imagem, também eliminou o turbante usado por um homem sikh.
Contexto e impacto político
Os experimentos foram motivados por uma publicação na rede social X feita por Julien Odoul, deputado francês filiado ao partido Reagrupamento Nacional. Na ocasião, o parlamentar divulgou a foto editada de uma mulher muçulmana sem o véu e sem mangas compridas, acompanhada da legenda 'LIBERTÉ FRANÇAISE'.
O debate sobre o uso dessas tecnologias já havia sido mapeado pelo Center for the Study of Organized Hate (CSOH). Um levantamento da entidade apontou o emprego de IA generativa para a sexualização de mulheres muçulmanas na Índia, além de ataques de ódio direcionados a parlamentares muçulmanas nos Estados Unidos, a exemplo de Ilhan Omar e Rashida Tlaib.
Procuradas a respeito dos procedimentos e critérios observados nos testes, OpenAI, Google, xAI e Anthropic não quiseram comentar.
- The Guardian divulga reportagem com testes sobre a retirada de hijabs e símbolos de fé por IA
- Época Negócios repercute apuração sobre moderação dos modelos diante de identidades religiosas