Anthropic explica marcas d'água invisíveis no Claude

A Anthropic explicou como pretende aplicar marcas d'água invisíveis em textos gerados pelo Claude para cumprir as regras de transparência de IA da Europa. Na sexta-feira, a empresa anunciou que o sistema de marcação de texto do Claude é "uma versão da abordagem SynthID-Text", uma tecnologia de marca d'água de código aberto desenvolvida pelo Google DeepMind que cria padrões detectáveis usando probabilidades de escolha de palavras.

Esse recurso de marca d'água, junto com o suporte a C2PA para imagens processadas pelo Claude, está sendo introduzido para atender às obrigações da Anthropic sob o AI Act da União Europeia. A lei exige que áudio, imagem, vídeo e texto sintéticos incluam marcas legíveis por máquina que permitam que o conteúdo seja detectado como gerado ou manipulado artificialmente.

A Anthropic afirma que as marcas d'água de texto não tornarão o Claude mais caro para os usuários, nem terão "qualquer impacto prático na qualidade ou no conteúdo das respostas do Claude". A empresa deu um exemplo para explicar o funcionamento: na frase "O clima hoje estava frio e...", a próxima palavra dificilmente seria "açucarado", mas poderia ser "nublado" ou "cinzento". Na maioria dos casos, não importa ao leitor qual dessas duas últimas palavras o modelo escolhe, pois o significado da frase é praticamente o mesmo.

Nesses casos, a escolha é decidida por um número aleatório. A marca d'água usa essas escolhas de baixo risco, que ocorrem muitas vezes ao longo de um texto gerado, para deixar um padrão nas respostas do Claude. Esse padrão é indetectável para o leitor, mas pode ser identificado por qualquer pessoa que tenha uma chave que o codifica. Quando a marca d'água é usada, as escolhas continuam sendo feitas aleatoriamente, mas a fonte da aleatoriedade é diferente. Em vez de usar um gerador de números aleatórios arbitrário para escolher a próxima palavra, o sistema usa a chave e algumas palavras anteriores para decidir qual palavra o modelo deve escolher.

Os requisitos de transparência da UE também afetam outros grandes desenvolvedores de IA. O chatbot Gemini, do Google, adota a solução SynthID Text desde 2024. A OpenAI ainda não detalhou planos de marca d'água para o ChatGPT em seu roteiro de conformidade com o AI Act, mas também estará sujeita às exigências da lei.

Leia também: o modem de digital e a placa de educação.