A ferramenta pode detectar imagens geradas por IA mesmo após edição, alteração de cores ou adição de filtros. Google DeepMind
As imagens geradas por ferramentas de inteligência artificial estão se tornando mais difíceis de distinguir daquelas criadas pelos humanos. As imagens geradas pela IA podem proliferar desinformação em proporções massivas, levando ao uso irresponsável da IA. Para esse propósito, o Google revelou uma nova ferramenta SynthID que pode diferenciar imagens geradas por IA daquelas criadas por humanos.
A ferramenta, criada pela equipe DeepMind, adiciona uma marca d’água digital imperceptível às imagens geradas por IA – como uma assinatura. A mesma ferramenta pode posteriormente detectar essa marca d’água para apontar quais imagens foram criadas pela IA, mesmo após modificações, como adição de filtros, compactação, alteração de cores e muito mais.
Também: Como o Google e a UCLA estão solicitando que a IA escolha a próxima ação para uma resposta melhor
SynthID combina dois modelos de aprendizagem profunda em uma ferramenta. Um adiciona visualmente a marca d’água ao conteúdo original de forma imperceptível a olho nu e outro identifica as imagens com marca d’água.
Atualmente, o SynthID não consegue detectar todas as imagens geradas por IA, pois está limitado àquelas criadas com a ferramenta de conversão de texto em imagem do Google, Imagen. Mas isto é um sinal de um futuro promissor para a IA responsável, especialmente se outras empresas adotarem o SynthID nas suas ferramentas de IA generativa.
Também: O resumo de pesquisa baseado em IA do Google agora aponta para suas fontes on-line
A ferramenta será implementada gradualmente para clientes Vertex AI que usam Imagen e está disponível apenas nesta plataforma. No entanto, o Google DeepMind espera disponibilizá-lo em outros produtos do Google e para terceiros em breve.
source – www.zdnet.com
