OpenAI introduz marca d'água para texto gerado por IA

Em resposta aos requisitos do Regulamento de IA da UE que exigem que o texto gerado por IA seja identificável de forma legível por máquina, a OpenAI introduziu o textGrain, um sistema de marca d'água de texto que adiciona um sinal estatístico invisível às escolhas de palavras do modelo.

Em vez de inserir caracteres ocultos, o textGrain influencia quais palavras o modelo escolhe em cada etapa da geração. O sistema altera ligeiramente o padrão estatístico de seleção de palavras, criando um sinal imperceptível aos humanos, mas detectável por um detector. Como o sinal está incorporado nas próprias palavras, ele não depende de metadados e sobrevive à cópia comum. No entanto, edição e tradução podem enfraquecer significativamente a marca d'água, então a confiabilidade da detecção depende do comprimento e do conteúdo do texto.

A tecnologia tem várias limitações, e é por isso que a OpenAI não está disponibilizando o detector publicamente: • textos mais curtos ou mais restritos são mais difíceis de detectar; • substituir 10% das palavras por sinônimos reduz a taxa de detecção de cerca de 92% para 66%, enquanto substituir 25% das palavras a reduz para 17%; • a ausência de uma marca d'água detectada não prova autoria humana. O texto pode ter sido editado, traduzido, gerado por outro modelo ou criado antes da introdução da marca d'água.

Clientes da API em todo o mundo podem optar pela marca d'água de texto para modelos selecionados. A marca d'água de texto está desativada por padrão na API. Nas próximas semanas, a OpenAI adicionará uma marca d'água invisível à saída de texto elegível do ChatGPT e do Codex na União Europeia. O acesso ao detector de marca d'água de texto será inicialmente limitado a pesquisadores aprovados e organizações especializadas.