OpenAI tem um grande problema de spam e violação de política em sua loja GPT. A empresa de IA lançou sua GPT Store em janeiro de 2024 como um lugar onde os usuários podem encontrar GPTs interessantes e úteis, que são essencialmente mini chatbots programados para uma tarefa específica. Os desenvolvedores podem construir e enviar seus GPTs para a plataforma e, desde que não violem nenhuma das políticas e diretrizes fornecidas pela OpenAI, eles serão adicionados à loja. No entanto, acontece que as políticas não estão sendo seguidas rigorosamente e muitos GPTs que parecem violar os regulamentos estão inundando a plataforma.
Nós, do Gadgets 360, fizemos uma pesquisa rápida na plataforma GPT Store e descobrimos que o mercado de chatbot está cheio de bots que enviam spam ou violam as políticas da empresa de IA. Por exemplo, a política de uso da OpenAI declara na seção ‘Construindo com ChatGPT’ no ponto 2, “Não execute ou facilite as seguintes atividades que possam afetar significativamente a segurança, o bem-estar ou os direitos de terceiros, inclusive”, e então acrescenta subseção (b), “Fornecimento de aconselhamento jurídico, médico/de saúde ou financeiro personalizado”. No entanto, apenas pesquisando a palavra “advogado” apareceu um chatbot chamado Legal+, cuja descrição diz: “Seu advogado pessoal de IA. Faz tudo isso, desde fornecer aconselhamento jurídico em tempo real para problemas do dia a dia, produzir modelos de contratos jurídicos e muito mais!”
O exemplo mostra apenas uma das muitas violações de política que ocorrem na plataforma. A política de utilização também proíbe “representar outro indivíduo ou organização sem consentimento ou direito legal” no ponto 3 (b), mas pode-se facilmente encontrar “Elon Muusk” com um u extra adicionado, provavelmente para evitar a detecção. Sua descrição diz simplesmente “Fale com Elon Musk”. Além disso, outros chatbots que estão pisando na área cinzenta incluem GPTs que afirmam remover o plágio baseado em IA, fazendo o texto parecer mais humano, e chatbots que criam conteúdo no estilo Disney ou Pixar.
Esses problemas com a GPT Store foram detectados pela primeira vez pelo TechCrunch, que também encontrou outros exemplos de falsificação de identidade, incluindo chatbots que permitem aos usuários falar com personagens de marca registrada, como Wario, o popular personagem de videogame, e “Aang de Avatar: The Last Airbender”. Falando com um advogado, o relatório destacou que, embora a OpenAI não possa ser responsabilizada por violação de direitos autorais por desenvolvedores que adicionam esses chatbots nos EUA devido à Lei de Direitos Autorais do Milênio Digital, os criadores podem enfrentar ações judiciais.
Em sua política de uso, a OpenAI disse: “Usamos uma combinação de sistemas automatizados, revisão humana e relatórios de usuários para encontrar e avaliar GPTs que potencialmente violam nossas políticas. As violações podem levar a ações contra o conteúdo ou sua conta, como avisos, restrições de compartilhamento ou inelegibilidade para inclusão na Loja GPT ou monetização.” No entanto, nas nossas conclusões e com base no relatório do TechCrunch, parece que os sistemas não estão a funcionar conforme pretendido.
source – www.gadgets360.com
