Principais conclusões
É justo dizer que há um grupo de pessoas que não está muito satisfeito com a ascensão de IA generativa e isso são educadores. As habilidades impressionantes de Chatbots de IA permitem que os alunos os usem para gerar tarefas inteiras em questão de segundos. Ser capaz de detectar aqueles que estão trapaceando em suas tarefas nem sempre é fácil, e é ainda mais difícil provar de forma confiável.
No entanto, conforme relatado no Wall Street Journal, a OpenAI tem trabalhado em um método de marca d’água para conteúdo gerado pelo ChatGPT para que ele possa ser detectado com uma precisão de 99,9%. De acordo com documentos internos vistos pelo Wall Street Journal, a tecnologia está pronta para uso há quase um ano e pode ser rapidamente implantada em Bate-papoGPT se a OpenAI escolher fazer isso. Uma postagem de blog no site da OpenAI confirma que a empresa tem trabalhado em marca d’água de texto.
Tim Cook diz que o ChatGPT será integrado ao iOS 18 até o final do ano civil
Na última teleconferência de resultados da Apple, o CEO confirmou que a integração do ChatGPT chegará antes do final do ano.
A marca d’água tornaria o conteúdo gerado pelo ChatGPT detectável por alguns poucos selecionados
A tecnologia ajusta a saída do ChatGPT de uma forma reconhecível
Detectar conteúdo gerado por IA é desafiador. Há muitos sites por aí que afirmam fazer isso, mas eles sofrem com baixa precisão e uma taxa significativa de falsos positivos. A OpenAI lançou seu próprio classificador de IA em janeiro de 2023, mas em julho de 2023 o produto foi retirado devido a uma baixa taxa de precisão.
A marca d’água adota uma abordagem diferente ao adicionar uma assinatura exclusiva ao texto gerado pelo ChatGPT. Se você tiver a tecnologia de detecção correta, poderá procurar por essa assinatura para determinar se o texto foi gerado por Bate-papoGPT . Os documentos internos vistos pelo Wall Street Journal afirmam que a detecção de marca d’água é 99,9% precisa.
Com texto com marca d’água, os tokens seriam selecionados de uma maneira ligeiramente diferente, o que deixaria uma indicação clara de que o texto foi gerado pelo ChatGPT.
A técnica envolve mudar sutilmente como os tokens são selecionados ao gerar texto. Quando um chatbot de IA produz texto, ele adiciona cada palavra, ou fragmento de uma palavra, com base na probabilidade de que seja a melhor escolha para vir a seguir. Com texto com marca d’água, os tokens seriam selecionados de uma forma ligeiramente diferente, o que deixaria uma indicação clara de que o texto foi gerado pelo ChatGPT. Essas mudanças não seriam óbvias para um leitor humano, no entanto.
O método não é infalível; em uma postagem de blog no site OpenAI, a empresa admite que ele pode ser contornado por métodos como o uso de um modelo de IA diferente parafrasear o texto, passando-o por um software de tradução ou inserindo e depois excluindo caracteres especiais.
A OpenAI está preocupada que a marca d’água possa impactar grupos específicos
Também pode fazer com que o ChatGPT perca usuários para outros modelos
De acordo com insiders que falaram com o Wall Street Journal, a OpenAI vem trabalhando no projeto há cerca de dois anos, e que a tecnologia de marca d’água está pronta para uso há cerca de um ano. Por que a OpenAI não a lançou para o mundo real?
Há uma série de razões pelas quais a OpenAI parece estar mantendo a técnica de marca d’água em segredo por enquanto. A primeira é que, de acordo com a postagem do blog da OpenAI, “o método de marca d’água de texto tem o potencial de impactar desproporcionalmente alguns grupos”. A postagem do blog afirma que a tecnologia pode estigmatizar o uso de IA para falantes não nativos que usam o ChatGPT para ajudá-los a gerar texto. No entanto, pode haver uma razão mais convincente pela qual não temos acesso a essa tecnologia anti-trapaça para o ChatGPT.
Parece que, embora a marca d’água tornasse a vida um pouco mais fácil para os educadores, no final das contas provavelmente prejudicaria os lucros do ChatGPT.
Em 2023, uma pesquisa da OpenAI descobriu que quase 30% dos usuários do ChatGPT usariam menos o ChatGPT se ele usasse marca d’água e outros chatbots de IA não. Em outras palavras, se o ChatGPT introduzisse tecnologia projetada para impedir que as pessoas trapaceassem, essas pessoas provavelmente mudariam para um chatbot de IA rival que não tivesse nenhuma tecnologia de marca d’água.
Parece que, embora a marca d’água tornasse a vida um pouco mais fácil para os educadores, no final das contas provavelmente prejudicaria os lucros do ChatGPT. O Google desenvolveu a tecnologia SynthID para marca d’água de texto e vídeo em Google Gêmeos mas a menos que todos os outros chatbots de IA sigam o exemplo, poderemos não ver marca d’água para o ChatGPT por algum tempo, se é que veremos.
source – www.pocket-lint.com
