A OpenAI, criadora do popular chatbot ChatGPT, lançou uma ferramenta de software para identificar texto gerado por inteligência artificial, informou a empresa em um post de blog na quarta-feira.
O ChatGPT é um programa gratuito que gera texto em resposta a um prompt, incluindo artigos, ensaios, piadas e até poesia, que ganhou grande popularidade desde sua estreia em novembro, ao mesmo tempo em que levanta preocupações sobre direitos autorais e plágio.
O classificador de IA, um modelo de linguagem treinado no conjunto de dados de pares de texto escrito por humanos e por IA sobre o mesmo tópico, visa distinguir o texto escrito por IA. Ele usa uma variedade de provedores para resolver problemas como campanhas automatizadas de desinformação e desonestidade acadêmica, disse a empresa.
Em seu modo beta público, o OpenAI reconhece que a ferramenta de detecção não é confiável em textos com menos de 1.000 caracteres, e o texto escrito por IA pode ser editado para enganar o classificador.
“Estamos disponibilizando este classificador publicamente para obter feedback sobre se ferramentas imperfeitas como esta são úteis”, disse a OpenAI.
“Reconhecemos que a identificação de texto escrito por IA tem sido um importante ponto de discussão entre os educadores, e igualmente importante é reconhecer os limites e impactos dos classificadores de texto gerados por IA na sala de aula”.
Desde que o ChatGPT estreou em novembro e ganhou grande popularidade entre milhões de usuários, alguns dos maiores distritos escolares dos EUA, incluindo a cidade de Nova York, proibiram o chatbot de IA devido a preocupações de que os alunos usariam o gerador de texto para trapacear ou plagiar.
Outros criaram ferramentas de detecção de terceiros, incluindo GPTZeroX, para ajudar os educadores a detectar texto gerado por IA.
A OpenAI disse que está se envolvendo com educadores para discutir os recursos e limitações do ChatGPT e continuará trabalhando na detecção de texto gerado por IA.
© Thomson Reuters 2023
source – www.gadgets360.com
