Com o aumento do uso de Inteligências Artificiais gerativas, muitos usuários começaram a experimentar a geração de imagens por meio de IA. Esse cenário levanta a necessidade de mecanismos de verificação de autenticidade para imagens criadas artificialmente.
Em resposta a essa demanda, o Google lançou uma ferramenta chamada SynthID, que tem como objetivo combater deepfakes e o uso inadequado de imagens geradas por IA. Essa ferramenta beta “incorpora uma marca d’água digital diretamente nos pixels da imagem, tornando-a invisível para o olho humano, mas detectável para identificação”.
Créditos: SynthID for Images.
Assim, à primeira vista, a imagem gerada por IA parecerá normal, mas ela conterá um marcador que pode ser rapidamente identificado, indicando que não se trata de uma imagem autêntica.
A ferramenta foi disponibilizada para um “número limitado” de clientes que utilizam o modelo Imagen, desenvolvido pelo Google DeepMind, o qual gera imagens fotorrealistas a partir de comandos de texto.
Contudo, um engenheiro conseguiu realizar engenharia reversa da tecnologia, disponibilizando o código para remover a marca d’água no GitHub.
O usuário do Reddit que fez essa divulgação compartilhou tanto o link do processo detalhado quanto o repositório do aplicativo no GitHub. Ele destacou que todo o trabalho foi realizado de forma legal, sem o uso de outras IAs e sem acesso a
Metodologia do engenheiro
O processo envolveu a geração de 200 imagens Gemini em preto e branco e a análise de 123 mil pares de imagens, além de uma série de análises de Transformada Rápida de Fourier (FFT). Isso exigiu um investimento significativo de tempo para o processamento das informações.
Através das imagens analisadas, o engenheiro identificou que cada pixel que apresentava um valor diferente de zero era, na verdade, a marca d’água, sinalizando a presença do recurso sem necessidade de esconderijo. Ele identificou que o modelo era baseado em uma configuração de fase fixa.
Créditos: Alosh Denny.
Dessa forma, o sistema, que foi desenvolvido para ser seguro e resistente a compressão, capturas de tela e edições, acabou sendo quebrado por um engenheiro desempregado.
Ele elaborou um método chamado bypass V3, que removeu a marca d’água de maneira eficaz, comprometendo apenas 91% da coerência de fase e 75% da energia do sinal, enquanto mantinha a qualidade da imagem (PSNR superior a 43 dB). Além disso, ele também descobriu que o modelo de fase apresentava uma intensidade maior no canal verde, com variações apenas de acordo com a resolução das imagens.
Fonte:: adrenaline.com.br
