Meta está atualizando seu Rótulos de conteúdo de IA para garantir que uma gama mais ampla de conteúdo sintético seja marcada, em resposta a uma enxurrada crescente de postagens generativas de IA no aplicativo.
Nos últimos meses, mais e mais iscas de engajamento de IA foram aparecendo no Facebooke também vem gerando muito engajamento.
Tipo, mesmo o menor nível de escrutínio revelaria que esta não é uma imagem real. Mas o Facebook é usado por bilhões de pessoas, e nem todas elas vão ampliar ou ter o conhecimento digital para estar cientes de que a IA generativa pode até ser usada dessa forma (conforme indicado pelos 6,9 mil curtidas nesta postagem). ).
Como tal, a Meta está atualizando suas políticas de rotulagem de IA para garantir que mais conteúdo gerado por IA seja marcado e divulgado de acordo.
Conforme meta:
“A nossa abordagem atual é demasiado restrita, uma vez que abrange apenas vídeos criados ou alterados pela IA para fazer uma pessoa parecer dizer algo que não disse. Nossa política de mídia manipulada foi escrita em 2020, quando o conteúdo realista gerado por IA era raro e a preocupação geral era com os vídeos. Nos últimos quatro anos, e particularmente no ano passado, as pessoas desenvolveram outros tipos de conteúdo realista gerado por IA, como áudio e fotos, e esta tecnologia está evoluindo rapidamente.”
O novo processo verá mais rótulos “Feito com IA” sendo anexados a conteúdo quando o Meta detecta “indicadores de imagem de IA padrão da indústria ou quando as pessoas divulgam que estão enviando conteúdo gerado por IA”.
Meta diz que também deixará mais conteúdo gerador de IA em seus aplicativos, em vez de removê-lo, com os rótulos servindo tanto para fins informativos quanto educacionais.
“Se determinarmos que imagens, vídeos ou áudio criados ou alterados digitalmente criam um risco particularmente elevado de enganar materialmente o público sobre uma questão importante, poderemos adicionar um rótulo mais proeminente para que as pessoas tenham mais informações e contexto. Esta abordagem geral dá às pessoas mais informações sobre o conteúdo para que possam avaliá-lo melhor e para que tenham contexto se virem o mesmo conteúdo em outro lugar.”
Ou seja, os rótulos informarão imediatamente ao usuário que o conteúdo é falso, ao mesmo tempo que mostrarão o que agora pode ser feito com IA, o que ajudará a aumentar a conscientização sobre o mesmo.
É uma boa atualização, embora muito aqui dependa da capacidade do Meta de detectar IA generativa nas postagens.
Conforme observado, no exemplo acima (e em muitos outros semelhantes), é muito óbvio para a maioria que foi gerado por IA. Mas à medida que os sistemas de IA melhoram e as pessoas aprendem novas formas de os utilizar, estes também se tornarão mais difíceis de detetar, o que poderá limitar a capacidade automatizada do Meta de os detetar.
Mas, novamente, a nova abordagem também dará aos moderadores do Meta mais poderes de fiscalização sobre o mesmo, e poderia muito bem servir a um propósito importante de aumentar a conscientização sobre o que pode ser feito com falsificações de IA.
O tempo dirá, mas parece uma boa atualização, que pode ter um impacto na expansão do uso da IA.
Meta diz que implementará seu novo processo de rotulagem de IA em maio.
source – www.socialmediatoday.com
