A ferramenta de detecção de conteúdo de inteligência artificial (IA) da Meta no Instagram foi identificada denotando imagens reais com o rótulo ‘Feito por IA’. Uma dessas postagens que foi rotulada incorretamente veio da conta oficial do Instagram do Kolkata Knight Riders, que recentemente venceu o torneio de críquete de 2024 da Indian Premier League (IPL). Uma das imagens postadas pela conta, que mostra o time levantando o troféu, foi rotulada pela plataforma como gerada por IA. Vários fotógrafos na plataforma de mídia social enfrentaram o mesmo problema.
Em fevereiro, Meta disse que estava em processo de introdução de um recurso de detecção de conteúdo gerado por IA que evitaria a desinformação dos usuários e destacaria instâncias de deepfakes (imagens e vídeos gerados por IA ou alterados digitalmente que são feitos para se parecerem com outro indivíduo, localização ou evento). O recurso foi lançado recentemente no Instagram e parece que também está rotulando fotos reais como conteúdo gerado por IA. Atualmente, esses rótulos só podem ser vistos nos aplicativos iOS e Android e não na web.
Foto de Kolkata Knight Rider rotulada como ‘Feita por IA’Crédito da foto: Instagram/kkriders
Embora a foto de KKR seja um dos exemplos mais conhecidos desse erro, muitos outros rótulos incorretos também foram apontados pelos usuários. Entre eles está o ex-fotógrafo da Casa Branca Pete Souza que postou uma foto antiga de um jogo de basquete.
Depois que o rótulo incorreto foi adicionado, ele editou a legenda para escrever: “Não sei por que o Instagram está usando “feito com IA” em minha postagem. Não há IA com minhas fotos.” Ele também destacou que não conseguiu desmarcar o rótulo porque a plataforma o adicionava novamente.
Usuários frustrados também começaram a inundar Threads, a plataforma de mídia social baseada em texto da Meta, marcando o chefe do Instagram, Adam Mosseri, para destacar o problema. Um usuário disse: “Nenhum fotógrafo ou artista em todo o Facebook e Instagram tem a menor ideia do que desencadeia o rótulo “Feito com IA”. Embora Mosseri tenha esclarecido que tudo o que estão fazendo é ler os rótulos C2PA, ninguém sabe como evitá-lo.”
Anteriormente, o presidente de assuntos globais da Meta, Nick Clegg, havia dito que a empresa estava trabalhando com “parceiros da indústria para alinhar padrões técnicos comuns que sinalizam quando um conteúdo foi criado usando IA”. Ele também afirmou que a ferramenta de detecção pode rotular corretamente imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.
No entanto, a implementação do recurso parece ser falha. Em um relatório, PetaPixel descobriu que mesmo a remoção de uma pequena especificação em uma imagem usando o Generative Fill da Adobe fornece às imagens a tag ‘Made by AI’. No entanto, ferramentas que não são de IA, como a ferramenta Spot Healing Brush ou a ferramenta Clone Stamp, não adicionaram o rótulo, apesar do resultado ser o mesmo.
A publicação também descobriu que quando uma imagem anteriormente rotulada como gerada por IA era carregada de volta no Photoshop e salva após copiar e colar em um documento preto, o rótulo AI não aparecia.
A porta-voz da Meta, Kate McLaughlin, disse ao The Verge que a empresa agora está levando em consideração o feedback recente dos usuários e avaliando sua abordagem. “Contamos com indicadores padrão da indústria que outras empresas incluem no conteúdo de suas ferramentas, por isso estamos trabalhando ativamente com essas empresas para melhorar o processo para que nossa abordagem de rotulagem corresponda à nossa intenção”, disse McLaughlin, citado pela publicação.
source – www.gadgets360.com
