OpenAI anuncia marca d'água invisível textGrain para textos gerados por IA

O que se sabe

• A OpenAI anunciou o textGrain, uma tecnologia de marca d'água invisível para textos gerados por inteligência artificial no ChatGPT e no Codex.¹²
• O textGrain funciona como um sinal estatístico que ajusta a seleção de tokens e palavras durante a geração com base em probabilidades e em uma chave secreta, sem adicionar caracteres ocultos ou espaços adicionais.¹²
• A tecnologia será ativada como padrão para usuários do ChatGPT e do Codex na União Europeia nas próximas semanas.¹²
• A medida foi tomada pela OpenAI para cumprir as exigências de transparência da Lei de Inteligência Artificial da União Europeia (EU AI Act).¹²
• Clientes da API da OpenAI em qualquer parte do mundo podem ativar a marca d'água em modelos selecionados, permanecendo o recurso desligado por padrão.¹²
• A marca d'água não identifica o usuário, não revela comandos, não valida a veracidade do conteúdo e não mede a proporção de intervenção humana em textos editados.¹²
• O detector correspondente verifica o texto usando a mesma chave secreta para identificar se a distribuição dos termos difere do padrão aleatório.¹
• Em testes da OpenAI com 1% de falsos positivos, o detector encontrou a marca em cerca de 80% dos trechos de 200 tokens e em 95% dos trechos de 400 tokens em textos sobre psicologia.¹
• A substituição de 10% das palavras por sinônimos em trechos de 400 tokens em inglês reduziu a taxa de detecção de cerca de 92% para 66%, caindo para 17% caso 25% sejam substituídas.¹
• A tecnologia apresenta menor eficácia em conteúdos de matemática devido à menor flexibilidade na escolha de palavras.¹
• A ferramenta de detecção não será aberta ao público em geral no lançamento, ficando restrita a pesquisadores e organizações especializadas mediante aprovação.¹
• A OpenAI planeja disponibilizar o textGrain em código aberto.¹
• A OpenAI já havia anunciado o desenvolvimento de um método de marca d'água em 2024, mas não o havia implementado em larga escala para texto até então.²

“We're expanding our approach to content provenance to include text in response to EU regulatory requirements, while recognizing the significant limitations of current text watermarking technology.”OpenAI¹

“In the EU, we’ll start watermarking eligible text from ChatGPT and Codex over the coming weeks to comply with the EU AI Act.”OpenAI¹

Cronologia

1. 2024OpenAI anuncia desenvolvimento inicial de tecnologia de marca d'água para texto
2. 05 out 2026OpenAI anuncia a ferramenta textGrain para cumprir o EU AI Act e a disponibiliza opcionalmente via API