Desvendando o SynthID: Tentativa de engenharia reversa no sistema de marca d’água da Google DeepMind
Recentemente, um desenvolvedor de software conhecido pelo pseudônimo Aloshdenny afirmou ter realizado a engenharia reversa do SynthID, sistema de marca d’água invisível criado pela Google DeepMind para identificar imagens geradas por inteligência artificial. O projeto, disponibilizado no GitHub, detalha como as marcas d’água podem ser parcialmente removidas ou inseridas manualmente em outras imagens. Contudo, a Google nega que a ferramenta possa efetivamente remover essas marcas de forma sistemática.
O que é o SynthID e sua importância
O SynthID é um mecanismo desenvolvido para inserir uma marca d’água quase invisível diretamente nos pixels das imagens criadas pelos sistemas de IA da Google, como os modelos Nano Banana e Veo 3. Essa tecnologia visa garantir a rastreabilidade e autenticidade das criações geradas artificialmente, dificultando a remoção da assinatura digital sem degradar a qualidade da imagem. Além disso, o sistema é aplicado em produtos como os clones criados por IA para o YouTube.
Como foi feita a engenharia reversa
Segundo o desenvolvedor, a engenharia reversa foi realizada sem acesso a redes neurais proprietárias ou códigos internos da Google. O processo envolveu a geração de 200 imagens totalmente pretas ou brancas usando o modelo Gemini, seguido por manipulações de contraste, saturação e redução de ruído para revelar padrões da marca d’água.
O método resumido é:
- Gerar 200 imagens puramente pretas ou brancas com o Gemini.
- Aumentar contraste e saturação para evidenciar o padrão da marca d’água.
- Aplicar técnicas de denoise na saturação para isolar o sinal da marca.
- Combinar os padrões para identificar magnitude e fase do sinal em diferentes frequências e canais.
- Buscar essas frequências em imagens e tentar removê-las parcialmente, aplicando a correção no mesmo ângulo da inserção original.
O resultado são imagens com marca d’água ainda parcialmente visível, mas suficientemente alteradas para confundir detectores automáticos.
Limitações e resposta da Google
Apesar do avanço técnico, Aloshdenny admite não ter conseguido remover completamente o SynthID, apenas confundir os decodificadores que identificam a marca. Ele classifica o sistema como uma engenharia robusta que eleva o custo de uso indevido, desestimulando a maioria das tentativas de burlar a proteção.
Por sua vez, a Google afirma que as alegações de remoção sistemática da marca d’água são incorretas e que o SynthID continua sendo uma ferramenta eficaz e resistente para identificação de conteúdo gerado por IA.
Implicações práticas
O episódio evidencia o desafio constante em proteger conteúdos digitais frente à evolução das técnicas de manipulação e engenharia reversa. Embora o SynthID não tenha sido completamente quebrado, a divulgação do método pode incentivar novas pesquisas e ferramentas para tentar burlar sistemas de autenticação de conteúdo gerado por IA.
Além disso, o caso reforça a importância de aprimorar mecanismos de marca d’água e detecção para garantir a transparência e responsabilidade no uso de inteligência artificial na criação de imagens, vídeos e outros conteúdos digitais.