A OpenAI vai inserir uma marca d'água digital invisível em textos e códigos produzidos pelo ChatGPT e pelo Codex na União Europeia. A medida responde às exigências de transparência previstas na Lei de IA do bloco europeu e deve entrar em vigor nas próximas semanas.
O sistema recebe o nome de textGrain e funciona ao incorporar um sinal estatístico invisível nas escolhas de palavras feitas pelo modelo.
Leia também:
- ChatGPT vai passar a exibir anúnicios enquanto gera imagens
- Android pode guardar mensagens apagadas do WhatsApp
Segundo a própria empresa, a tecnologia adiciona uma marca legível por máquina sem alterar o sentido ou a aparência do conteúdo para o leitor humano.
A OpenAI afirma que o textGrain igualou ou superou outras soluções testadas internamente, inclusive o SynthID para texto, desenvolvido pelo Google DeepMind. Ainda assim, a empresa reconhece que o sistema não é infalível.
De fato, a detecção pode falhar em situações cotidianas, mesmo quando apresenta bom desempenho em condições ideais. Além disso, o detector está sujeito a dois tipos de erro:
- Falso positivo: indicar marca d'água onde ela não existe;
- Falso negativo: deixar passar uma marca d'água presente no texto.
Por ora, a implementação fica restrita à União Europeia e não se tornará o padrão global da empresa.
Para clientes que acessam os modelos por API, a marcação será opcional e ficará desativada por padrão, de modo que cada cliente possa decidir como aplicá-la conforme suas obrigações legais.
O detector também não estará disponível ao público no lançamento.
O acesso inicial será liberado apenas para pesquisadores aprovados e organizações especializadas, e os resultados indicarão somente se há marca d'água da OpenAI, sem identificar usuários nem revelar conversas ou prompts.
A OpenAI não é a única empresa a adotar esse caminho. Em agosto, a Anthropic, desenvolvedora do Claude, anunciou medida semelhante para cumprir a legislação europeia e inserir sinais identificadores nos textos produzidos por seus modelos.
O artigo 50 da Lei de IA da União Europeia obriga provedores de IA generativa a tornar textos identificáveis de forma legível por máquina. As principais empresas de tecnologia do setor têm até 2 de dezembro para cumprir essa exigência.
As regras abrangem, portanto, um conjunto amplo de obrigações que incluem:
- Tornar o conteúdo gerado por IA identificável por máquinas;
- Garantir transparência para usuários finais;
- Cumprir o prazo de adequação até 2 de dezembro.
Quer receber mais novidades de mundo da tecnologia? Acesse o canal do DOL no WhatsApp!
Por fim, a medida representa um passo concreto no esforço regulatório europeu para tornar o uso de inteligência artificial mais rastreável e transparente para empresas, pesquisadores e consumidores.