O Google Fotos está adicionando uma nova funcionalidade que permitirá aos usuários verificar se uma imagem foi gerada ou aprimorada usando inteligência artificial (IA) ou não. De acordo com o relatório, o serviço de compartilhamento e armazenamento de fotos e vídeos está recebendo novas tags de recursos de identificação que revelarão as informações de IA da imagem, bem como o tipo de fonte digital. A gigante da tecnologia com sede em Mountain View provavelmente está trabalhando nesse recurso para reduzir os casos de deepfakes. No entanto, não está claro como as informações serão exibidas aos usuários.
Atribuição de IA do Google Fotos
Deepfakes surgiram como uma nova forma de manipulação digital nos últimos anos. São imagens, vídeos, arquivos de áudio ou outras mídias semelhantes que foram geradas digitalmente usando IA ou aprimoradas por vários meios para espalhar informações erradas ou enganar as pessoas. Por exemplo, o ator Amitabh Bachchan recentemente entrou com uma ação judicial contra o proprietário de uma empresa por veicular anúncios em vídeo deepfake onde o ator era visto promovendo os produtos da empresa.
De acordo com um relatório do Android Authority, uma nova funcionalidade no aplicativo Google Fotos permitirá aos usuários ver se uma imagem em sua galeria foi criada por meios digitais. O recurso foi detectado no aplicativo Google Fotos versão 7.3. No entanto, não é um recurso ativo, o que significa que aqueles que possuem a versão mais recente do aplicativo ainda não poderão ver isso.
Dentro dos arquivos de layout, a publicação encontrou novas sequências de código XML apontando para esse desenvolvimento. Esses são recursos de ID, que são identificadores atribuídos a um elemento ou recurso específico no aplicativo. Um deles supostamente continha a frase “ai_info”, que se acredita se referir às informações adicionadas aos metadados das imagens. Esta seção deve ser rotulada se a imagem foi gerada por uma ferramenta de IA que segue protocolos de transparência.
Fora isso, acredita-se que a tag “digital_source_type” se refira ao nome da ferramenta ou modelo de IA que foi usado para gerar ou aprimorar a imagem. Isso pode incluir nomes como Gêmeos, Midjourney e outros.
No entanto, atualmente não se sabe como o Google deseja exibir essas informações. Idealmente, ele poderia ser adicionado aos dados EXIF (Exchangeable Image File Format) incorporados na imagem para que haja menos maneiras de adulterá-los. Mas uma desvantagem disso seria que os usuários não conseguiriam ver essas informações prontamente, a menos que acessassem a página de metadados. Alternativamente, o aplicativo poderia adicionar um emblema na imagem para indicar imagens de IA, semelhante ao que Meta fez no Instagram.
source – www.gadgets360.com
