Programmers Bypass Claude’s Hidden Watermarks Quickly

Quatro horas depois de a Anthropic confirmar que seus modelos Claude incluiriam marcas d'água invisíveis e legíveis por máquina em todo conteúdo gerado por IA, o desenvolvedor Guillaume Meyer já havia publicado sua forma de contornar o sistema. O código para remover as marcas d'água de textos gerados por Claude viralizou no GitHub, foi salvo mais de 20 mil vezes no X e atraiu mais de 100 colaboradores, com muitos outros incorporando a tecnologia em seus próprios projetos.

Meyer e outros programadores começaram a investigar o funcionamento da marca d'água depois que a Anthropic anunciou na semana passada que adotaria o recurso para cumprir o Ato de IA da União Europeia. As novas regras, que entraram em vigor neste mês, exigem que provedores de modelos como Anthropic e OpenAI rotulem áudio, imagem, vídeo ou texto sintético para que esse material possa ser detectado por máquinas como gerado por IA, sob pena de multas de até 3% do faturamento anual.

Alguns tentam burlar a marca d'água por discordarem da ideia de que todo conteúdo gerado por IA deva ser rotulado como tal, enquanto outros, incluindo Meyer, dizem simplesmente apreciar o desafio técnico. Redatores freelancers e criadores de conteúdo também procuraram Meyer pedindo ajuda para usar o código.

“Não sou contra a transparência e sou totalmente a favor da atribuição de conteúdo”, diz Meyer. “Só acho que a marca d'água em si é uma solução muito ruim, porque tem grandes desvantagens e riscos.” Ele está preocupado com o risco de falsos positivos e com a possibilidade de a marca d'água não distinguir entre uso leve ou intenso de IA, especialmente porque, como falante nativo de francês, ele usa Claude e outras ferramentas de IA para editar seus textos.

A Anthropic marca textos invisivelmente deixando um padrão na escolha de palavras e frases do Claude, imperceptível para leitores humanos, mas detectável por máquinas que saibam procurá-lo. A técnica, chamada SynthID, foi desenvolvida pelo Google, que a usa desde 2023. O método de remoção de Meyer usa um modelo de linguagem sem marca d'água para gerar múltiplas reescritas, trocando palavras por sinônimos e reorganizando levemente o conteúdo.

Outros programadores desenvolveram suas próprias ferramentas de remoção, incluindo um engenheiro de software que criou um utilitário em 15 minutos e um pesquisador da Universidade de Oxford que sugere condensar a resposta, traduzi-la para um dialeto como o árabe e depois traduzi-la de volta. A própria Anthropic reconheceu que conteúdo fortemente editado, parafraseado ou traduzido pode não carregar a marca d'água.

Em comunicado, a Anthropic disse que está adicionando a marcação à saída do Claude para cumprir o Ato de IA da UE e que planeja lançar uma API de detecção de texto para que os usuários possam fazer isso por conta própria. A empresa afirma que a marca d'água não muda o significado, a qualidade ou a legibilidade das respostas do Claude e que continua trabalhando para melhorar o sistema.

Leia também: o que publicamos sobre notícias e a editoria de iptv.