O vice-presidente da IBM e diretor de tecnologia da IBM Automation, Jerry Cuomo, publicou recentemente uma postagem no blog descrevendo o que ele afirma serem vários riscos associados ao uso do ChatGPT para empresas.
Existem várias áreas de risco importantes, de acordo com a postagem do blog, que as empresas devem considerar antes de operar o ChatGPT. Por fim, no entanto, Cuomo conclui que apenas dados não confidenciais estão seguros com o ChatGPT:
“Depois que seus dados entram no ChatGPT”, escreve Cuomo, “você não tem controle ou conhecimento de como eles estão sendo usados”.
De acordo com a postagem, esse tipo de vazamento não intencional de dados também pode colocar as empresas em perigo, legalmente falando, se os dados de parceiros, clientes ou clientes forem expostos ao público em geral após vazarem nos dados de treinamento do ChatGPT.
Cuomo cita ainda os riscos à propriedade intelectual e a possibilidade de que o vazamento possa colocar as empresas em violação dos acordos de código aberto.
De acordo com a postagem no blog da IBM:
“Se informações confidenciais de terceiros ou de empresas internas forem inseridas no ChatGPT, elas se tornarão parte do modelo de dados do chatbot e poderão ser compartilhadas com outras pessoas que fizerem perguntas relevantes.”
O Cointelegraph entrou em contato com a OpenAI para comentar sobre a declaração acima. Recebemos a seguinte resposta de um intermediário de relações públicas por e-mail: “os dados não serão compartilhados com outras pessoas que fizerem perguntas relevantes”.
O representante também nos indicou a documentação existente sobre os recursos de privacidade do ChatGPT, incluindo uma postagem no blog detalhando a capacidade dos usuários da web de desativar seu histórico de bate-papo.
A API do ChatGPT tem o compartilhamento de dados desativado por padrão, de acordo com o OpenAI.
A política da API é perfeitamente clara – o que é confuso é a política sobre conversas que temos usando a interface da web do ChatGPT e os aplicativos iOS/Android
— Simon Willison (@simonw) 15 de agosto de 2023
Os críticos, no entanto, apontaram que as conversas na versão web são salvas por padrão. Os usuários também devem optar por não salvar suas conversas – um recurso conveniente para continuar de onde pararam – e ter seus dados usados para treinar o modelo. Atualmente, não há opção de manter conversas sem concordar em compartilhar dados.
Relacionado: Desenvolvedor do IBM Watson arrecada US$ 60 milhões para startup de IA Elemental Cognition
source – cointelegraph.com
