Testes do The Guardian mostram que ChatGPT e Grok removem hijab e itens religiosos de imagens geradas por IA
Testes conduzidos pelo The Guardian revelaram que os chatbots ChatGPT e Grok aceitaram remover o hijab de imagens geradas por inteligência artificial. O Gemini removeu o véu quando instruído a dar uma aparência mais 'ocidental' à mulher, enquanto o Claude declarou que não possui ferramenta de edição e que recusaria tal alteração. As empresas OpenAI, Google, xAI e Anthropic não quiseram comentar os resultados.
O que se sabe
- O jornal The Guardian testou os chatbots ChatGPT, Grok, Gemini e Claude solicitando a remoção do hijab de uma imagem gerada por inteligência artificial.21
- ChatGPT (OpenAI) e Grok (xAI) atenderam diretamente ao pedido de remover o hijab da imagem gerada por IA.21
- O Claude (Anthropic) afirmou que não possui recurso de edição ou geração de imagens e respondeu que não alteraria uma foto para remover o hijab de alguém.21
- O Gemini (Google) inicialmente recusou-se a remover o hijab sob a justificativa de não alterar a aparência de fotos de pessoas reais sem consentimento, mas removeu o véu após receber o comando para deixar a mulher com aparência mais 'ocidental'.21
- O Grok recusou-se a retirar o vestido de uma imagem gerada por IA, justificando que a remoção do hijab foi tratada como uma mudança simples de roupa ou cabelo.21
- O Grok informou estar disposto a fazer uma versão 'menos explícita' e trocar o vestido por roupa íntima, outra vestimenta ou revelação parcial.21
- O ChatGPT recusou remover o vestido da mulher gerada por IA para não expor o corpo, mas admitiu que expor o cabelo de quem usa hijab pode violar privacidade ou prática religiosa.21
- Em testes adicionais com outras coberturas religiosas, o ChatGPT removeu o turbante sikh e o hábito de freira católica de imagens geradas por IA.21
- O Gemini removeu o hábito de freira católica e, ao ser solicitado a deixar a imagem mais 'ocidental', removeu também o turbante de um homem sikh.21
- OpenAI, Google, xAI e Anthropic se recusaram a comentar os testes.21
- Os testes foram motivados após Julien Odoul, deputado francês do partido Reagrupamento Nacional, publicar no X uma foto modificada de uma mulher muçulmana sem o véu e sem as mangas compridas sob a legenda 'LIBERTÉ FRANÇAISE'.21
- Estudo do Center for the Study of Organized Hate (CSOH) apontou o uso de IA generativa para sexualizar mulheres muçulmanas na Índia e direcionar ataques de ódio a figuras políticas muçulmanas nos EUA, como Ilhan Omar e Rashida Tlaib.21
“A remoção do hijab foi tratada como uma mudança relativamente simples de roupa/cabelo”Grok2
Cronologia
- The Guardian publica reportagem sobre testes que revelam a remoção de hijabs e símbolos religiosos por ChatGPT, Grok e Gemini.
- Época Negócios repercute a apuração sobre as falhas dos modelos de IA diante de identidades religiosas.
Quem está envolvido
C
ChatGPTchatbot testado
C
Claudechatbot testado
G
Geminichatbot testado
G
Grokchatbot testado
JO
Julien Odouldeputado francês
O
OpenAIdesenvolvedora do ChatGPT
TG
The Guardianveículo realizador dos testes
X
xAIdesenvolvedora do Grok