A Meta está lançando uma nova ferramenta que pode adicionar uma marca d’água invisível a vídeos gerados por inteligência artificial (IA). Chamada de Video Seal, a nova ferramenta se junta às ferramentas de marca d’água existentes da empresa, Audio Seal e Watermark Anything. A empresa sugeriu que a ferramenta será de código aberto, porém ainda não publicou o código. Curiosamente, a empresa afirma que a técnica de marca d’água não afetará a qualidade do vídeo, mas será resistente aos métodos comuns de remoção de vídeos.
Deepfakes inundaram a Internet desde o surgimento da IA generativa. Deepfakes são conteúdos sintéticos, geralmente gerados por IA, que mostram objetos, pessoas ou cenários falsos e enganosos. Esse conteúdo é frequentemente usado para espalhar informações erradas sobre uma figura pública, criar conteúdo sexual falso ou realizar fraudes e golpes.
Além disso, à medida que os sistemas de IA melhoram, o conteúdo deepfake se tornará mais difícil de reconhecer, tornando ainda mais difícil diferenciá-lo do conteúdo real. De acordo com um McAfee enquete70% das pessoas já sentem que não têm confiança em saber a diferença entre uma voz real e uma voz gerada por IA.
Conforme dados internos pela Sumsub, as fraudes deepfake aumentaram 1.740 por cento na América do Norte e 1.530 por cento na região Ásia-Pacífico em 2022. Descobriu-se que o número aumentou dez vezes entre 2022 e 2023.
À medida que aumentam as preocupações com os deepfakes, muitas empresas que desenvolvem modelos de IA começaram a lançar ferramentas de marca d’água que podem identificar conteúdo sintético de conteúdo real. No início deste ano, o Google lançou o SynthID para marcar textos e vídeos gerados por IA. A Microsoft também lançou ferramentas semelhantes. Além disso, a Coligação para a Proveniência e Autenticidade de Conteúdos (C2PA) também está a trabalhar em novos padrões para identificar conteúdos gerados por IA.
Agora, Meta tem lançado sua própria ferramenta Video Seal para colocar marca d’água em vídeos de IA. Os pesquisadores destacam que a ferramenta pode marcar cada quadro de um vídeo com uma marca d’água imperceptível que não pode ser adulterada. Diz-se que é resistente a técnicas como software de desfoque, corte e compactação. Porém, apesar de adicionar a marca d’água, os pesquisadores afirmam que a qualidade do vídeo não será comprometida.
A Meta anunciou que o Video Seal será de código aberto sob uma licença permissiva, no entanto, ainda não lançou a ferramenta e sua base de código em domínio público.
source – www.gadgets360.com
