Um desenvolvedor de software afirma ter feito engenharia reversa do sistema SynthID do Google DeepMind, mostrando como marcas d’água de IA podem ser removidas de imagens geradas ou inseridas manualmente em outras obras. Uma afirmação que o Google diz não ser verdadeira.
Desenvolvedor, através nome de usuário Aloshdennyter abra o código-fonte de seu trabalho no GitHub e documentou o processo, alegando que bastou 200 imagens geradas pelo Gemini, processamento de sinal e “muito tempo livre”. Um pouco de erva também parece ajudar.
“Sem rede neural. Sem acesso proprietário,” Aloshdenny disse no Medium. “Acontece que se você estiver ocioso e tiver uma média de imagem ‘preto puro’ gerada por IA, cada pixel diferente de zero é na verdade apenas uma marca d’água olhando para você.”
SynthID é um sistema de marca d’água quase invisível que marca o conteúdo gerado pelas ferramentas de IA do Google e depois o incorpora em pixels de imagem no ponto de criação. Ele foi projetado para ser difícil de remover sem degradar a qualidade da imagem e é amplamente utilizado em todos os produtos de IA oferecidos pelo Google – tudo lançado por modelos como Nano Banana e Veo 3 carrega a marca d’água SynthID e é até aplicado a clones de criação de conteúdo gerados por IA no YouTube.
Aloshdenny disse que achou o sistema uma “engenharia realmente boa” e ainda não conseguiu remover completamente o SynthID nos testes, contando com um decodificador SynthID confuso que tenta ler imagens com marca d’água.
O processo usado para quebrar o mecanismo básico de marca d’água do Google é tecnicamente complexo para não desenvolvedores. Você pode ler os detalhes completos na página Medium de Aloshdenny (que aparentemente foi escrita quando Aloshdenny estava “chapado”) se estiver curioso, mas aqui está uma explicação simplificada:
“O fato de que o melhor que pude fazer foi confundir o decodificador o suficiente para que ele desistisse – em vez de limpá-lo completamente – diz muito sobre o quão bom é o design”, disse Aloshdenny. “Não é perfeito. Mas não é inquebrável. Está tentando aumentar os custos do abuso o suficiente para que a maioria das pessoas não se importe.”
Não experimentei o projeto de Aloshdenny que fez engenharia reversa do sistema de marca d’água SynthID do Google, então não posso garantir quão eficaz ele realmente é. Porém, neste momento, o SynthID não aparece ter foi submetido a engenharia reversa, pelo menos não a ponto de os script-kiddies poderem baixar a ferramenta e remover (ou adicionar) a marca d’água do Google para enganar o sistema de detecção de IA. O Google também não acredita que esteja à altura das afirmações de Aloshdenny.
“É incorreto dizer que esta ferramenta pode remover sistematicamente as marcas d’água SynthID”, disse a porta-voz do Google, Myriam Khan. Borda. “SynthID é uma ferramenta poderosa e eficaz de marca d’água para conteúdo gerado por IA.”
