Introdução
A promessa de controle sobre conteúdo gerado por inteligência artificial durou apenas algumas horas. Após a Anthropic anunciar que seu modelo Claude passaria a inserir marcas d’água invisíveis em todo texto gerado – uma exigência do EU AI Act, a nova regulamentação europeia para IA – desenvolvedores ao redor do mundo rapidamente criaram ferramentas para remover essas marcações. O episódio expõe uma realidade inconveniente: a distância entre as intenções regulatórias e a viabilidade técnica de sua implementação pode ser maior do que legisladores imaginam.
A corrida contra as marcas d’água
Guillaume Meyer, um desenvolvedor francês, precisou de apenas quatro horas após o anúncio da Anthropic para publicar seu código de remoção de watermarks. Sua solução rapidamente se tornou viral no GitHub, foi salva mais de 20 mil vezes no X (antigo Twitter) e atraiu mais de 100 colaboradores. A ferramenta funciona de forma relativamente simples: utiliza outros modelos de linguagem que não inserem marcas d’água para reescrever o texto, substituindo sinônimos e reorganizando levemente o conteúdo.
O sucesso imediato da ferramenta de Meyer não foi um caso isolado. Erik Hughes, outro engenheiro de software, desenvolveu uma solução alternativa em apenas 15 minutos – ironicamente, usando o próprio Claude para criar o código. Sua ferramenta remove caracteres invisíveis, reordena sentenças dentro dos parágrafos e substitui palavras por sinônimos. Leon Chlon, pesquisador visitante na Universidade de Oxford, descobriu que traduzir o texto para idiomas com semântica muito diferente, como o árabe, e depois traduzi-lo de volta também remove efetivamente as marcações.
Como funcionam as marcas d’água invisíveis
A tecnologia de watermarking implementada pela Anthropic baseia-se no SynthID, desenvolvido pelo Google e em uso desde 2023. O sistema funciona inserindo padrões sutis na escolha de palavras e frases do modelo – imperceptíveis para leitores humanos, mas teoricamente detectáveis por máquinas que sabem o que procurar. É uma abordagem elegante em teoria: permite rastrear conteúdo gerado por IA sem afetar a experiência do usuário.
Scott Aaronson, renomado cientista da computação, havia proposto um método similar quando trabalhava na OpenAI. No entanto, a empresa nunca implementou a tecnologia, preocupada que as marcas d’água pudessem afastar clientes de seus produtos – uma preocupação que agora parece profética, considerando a reação da comunidade de desenvolvedores.
As motivações por trás da resistência
As razões para burlar o sistema variam significativamente. Meyer, que é francês nativo, expressa preocupações legítimas sobre falsos positivos. Ele frequentemente usa Claude e ferramentas como Grammarly para editar seus textos em inglês – uma prática comum entre profissionais não nativos. Com as marcas d’água, existe o risco de que empregadores rejeitem candidatos injustamente ou que pesquisadores sejam acusados de usar IA apenas porque um detector sinalizou probabilidade de uso.
Freelancers de conteúdo e criadores de mídia social também procuraram Meyer pedindo ajuda para usar o código. Para esses profissionais, a distinção entre conteúdo “assistido por IA” e “gerado por IA” é crucial. Um texto que passou por revisão gramatical básica não deveria carregar o mesmo estigma de um conteúdo inteiramente gerado por máquina, argumentam.
Wayne Pan, CTO e cofundador da startup Haimaker no Vale do Silício, incorporou a ferramenta de Meyer em sua plataforma. Sua principal objeção é a natureza invisível das marcações – usuários não sabem que seus textos estão sendo marcados, criando uma assimetria de informação problemática.
O dilema da conformidade regulatória
O EU AI Act, que entrou em vigor este mês, exige que provedores de modelos como Anthropic e OpenAI rotulem conteúdo sintético de forma detectável por máquinas. O não cumprimento pode resultar em multas de até 3% do faturamento anual. Embora as regras proíbam que provedores comercializem ferramentas de contorno, não há restrição legal para ferramentas independentes – uma brecha que desenvolvedores estão explorando ativamente.
A situação cria um paradoxo interessante: 190 organizações, incluindo OpenAI, Microsoft e Meta, assinaram o código de transparência da União Europeia. Novos modelos lançados a partir de agosto devem incluir watermarks, e modelos existentes devem integrá-los até dezembro. No entanto, se as marcações podem ser removidas tão facilmente, qual é o valor real dessa conformidade?
Implicações para o mercado brasileiro
Para empresas brasileiras que utilizam IA em suas operações, este desenvolvimento levanta questões importantes. Primeiro, a facilidade com que as marcas d’água podem ser removidas sugere que confiar nelas como único método de detecção de conteúdo IA é arriscado. Empresas de mídia, instituições educacionais e departamentos de RH precisarão desenvolver métodos mais sofisticados de avaliação.
Segundo, a situação ilustra os desafios de implementar regulamentações globais em tecnologia. Embora o Brasil ainda não tenha uma legislação específica como o EU AI Act, é provável que regulamentações similares sejam propostas. O episódio das marcas d’água serve como um estudo de caso sobre as limitações práticas de certas abordagens regulatórias.
Para desenvolvedores e startups brasileiras no setor de IA, há uma lição clara: soluções técnicas para problemas regulatórios precisam ser robustas o suficiente para resistir a tentativas de contorno. Caso contrário, criam-se apenas obstáculos superficiais que não atendem ao objetivo pretendido de transparência e responsabilização.
O futuro da detecção de conteúdo IA
A Anthropic afirma estar trabalhando em melhorias para seu sistema de watermarking e planeja lançar em breve uma API de detecção de texto. Quando isso acontecer, desenvolvedores finalmente poderão testar se seus métodos de remoção são realmente eficazes. No entanto, como observa Pan, é improvável que qualquer marca d’água possa “resistir a tudo”.
A própria Anthropic reconhece que conteúdo fortemente editado, parafraseado ou traduzido pode não carregar a marca d’água – uma admissão que questiona a eficácia fundamental da abordagem. Se modificações relativamente simples podem remover as marcações, o sistema oferece apenas uma ilusão de controle.
Conclusão
O rápido desenvolvimento de ferramentas para burlar as marcas d’água do Claude ilustra uma verdade fundamental sobre tecnologia e regulamentação: soluções técnicas para problemas sociais complexos raramente são à prova de falhas. Enquanto a intenção de tornar o conteúdo IA mais transparente é louvável, a implementação através de marcas d’água invisíveis parece destinada a se tornar mais um jogo de gato e rato entre desenvolvedores e reguladores.
Para o mercado brasileiro, a lição é clara: precisamos de abordagens mais nuançadas para lidar com conteúdo gerado por IA. Isso pode incluir educação sobre uso responsável de IA, desenvolvimento de múltiplos métodos de detecção, e principalmente, um diálogo contínuo entre desenvolvedores, usuários e reguladores. A transparência é importante, mas precisa ser implementada de forma que realmente funcione – não apenas no papel, mas na prática cotidiana de milhões de usuários ao redor do mundo.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria “Coders Say They Already Found Workarounds to Claude’s Invisible Watermarks” publicada em Wired, disponível em https://www.wired.com/story/coders-say-they-already-found-workarounds-to-claudes-invisible-watermarks/.
