A OpenAI supostamente construiu uma ferramenta que pode detectar quando o texto foi gerado usando seu chatbot de inteligência artificial (IA), mas não está disposta a liberá-la ao público. De acordo com o relatório, a ferramenta está pronta para ser lançada há algum tempo, mas a empresa de IA está preocupada que tal ferramenta de detecção possa tornar o chatbot impopular entre os usuários. No entanto, não lançar tal ferramenta levou os educadores a lutarem para descobrir quando uma tarefa ou uma redação foi escrita usando a ajuda da IA.
OpenAI supostamente tem um detector de texto de IA
De acordo com uma reportagem do The Wall Street Journal, a OpenAI vem debatendo o lançamento de tal ferramenta pelos últimos dois anos. A ferramenta de detecção de texto também está pronta para ser lançada há cerca de um ano, alegou a reportagem citando pessoas não identificadas familiarizadas com o assunto. Uma das fontes disse à publicação que lançar a ferramenta foi tão fácil quanto apertar um botão.
Tal ferramenta poderia ajudar educadores e outras instituições similares onde as pessoas recorreram à geração de conteúdo, como ensaios e trabalhos de pesquisa usando IA. No início deste ano, um artigo científico revisado por pares publicado no periódico Surfaces and Interfaces da Elsevier foi descoberto como escrito por IA e foi posteriormente retirado após ganhar atenção online. Esse plágio baseado em IA se tornou uma grande preocupação para a academia devido à falta de um método confiável para detectar o uso de IA.
De acordo com o relatório, a recusa da OpenAI em lançar sua ferramenta de detecção de IA vem do medo de perder usuários existentes. A empresa supostamente conduziu uma pesquisa e descobriu que quase um terço dos usuários estariam menos inclinados a usar o ChatGPT se um mecanismo anti-cheating fosse lançado.
Outro receio era que disponibilizá-la a um número seleto de usuários, como educadores, pudesse reduzir a utilidade da ferramenta, enquanto disponibilizá-la a um grupo grande poderia fazer com que a tecnologia de marca d’água fosse decifrada por pessoas mal-intencionadas, que poderiam então criar ferramentas avançadas de mascaramento.
Com base em documentos internos visualizados pela publicação, o relatório afirma que a ferramenta de detecção de texto de IA é 99% eficaz em encontrar texto que foi escrito com a ajuda do ChatGPT. Isso supostamente funciona, pois a ferramenta é essencialmente uma tecnologia de marca d’água que incorpora o texto com uma marca d’água invisível que não pode ser vista, mas é sinalizada quando executada pelo verificador de IA.
O funcionamento da ferramenta também foi explicado em documentos internos. Conforme o relatório, o ChatGPT gera texto prevendo qual palavra ou frase, também conhecida como token, deve seguir em uma sequência. A seleção é baseada em um pequeno pool para que a frase seja coerente.
A ferramenta de detecção de IA, por sua vez, tem um algoritmo ligeiramente diferente para a seleção dos tokens. As mudanças entre o texto gerado pelo ChatGPT e o texto da ferramenta deixam um padrão, o que ajuda a avaliar se a IA foi usada para gerar o texto ou não.
source – www.gadgets360.com
