A Apple está desenvolvendo novas técnicas para analisar padrões de dados do usuário e informações agregadas para melhorar seus recursos de inteligência artificial (AI). A gigante tecnológica de Cupertino compartilhou essas técnicas de privacidade diferencial na segunda-feira, destacando que esses métodos não violarão a privacidade dos usuários. Em vez disso, a empresa está focada na coleta de dados, como tendências de uso e incorporação de dados para medir e melhorar suas ferramentas de geração de texto e genmoji. Notavelmente, a Apple disse que essas informações serão obtidas apenas dos dispositivos que optaram por compartilhar análises de dispositivos.
A Apple quer aprender com os dados do usuário sem violar a privacidade
Em um post em seu domínio de pesquisa de aprendizado de máquina, a fabricante de iPhone detalhou a nova técnica que está se desenvolvendo para melhorar alguns dos recursos da Apple Intelligence. As ofertas de IA da gigante da tecnologia foram assombrosas até agora, e a empresa reivindica uma das razões para isso são suas práticas éticas em torno de dados pré -treinamento e fornecimento de dados para seus modelos de IA.
A Apple afirma que seus modelos generativos de IA são treinados em dados sintéticos (dados criados por outros modelos de IA ou fontes digitais e não por qualquer humano). Embora essa ainda seja uma maneira justa de treinar grandes modelos de idiomas (LLMS), pois fornece conhecimento sobre o mundo, pois os modelos não estão aprendendo com o estilo humano de escrita e apresentação, a saída pode parecer branda e genérica. Isso também é conhecido como AI Slop.
Para corrigir esses problemas e melhorar a qualidade da saída de seus modelos de IA, a gigante da tecnologia agora está procurando a opção de aprender com os dados do usuário sem realmente analisar os dados privados dos usuários. A Apple chama essa técnica de “privacidade diferencial”.
Para a Genmoji, a Apple usará métodos diferencialmente privados para identificar prompts populares e padrões solicitados de usuários que optaram por compartilhar análises de dispositivos com a empresa. O fabricante do iPhone diz que fornecerá uma garantia matemática de que instruções exclusivas ou raras não serão descobertas e que instruções específicas não podem ser vinculadas a nenhum indivíduo.
A coleta dessas informações ajudará a empresa a avaliar os tipos de avisos que são “mais representativos de um envolvimento real do usuário”. Essencialmente, a Apple analisará o tipo de solicitação que levará à saída satisfatória e onde os usuários adicionam repetidamente prompts para chegar ao resultado desejado. Um exemplo compartilhado no post incluiu o desempenho dos modelos na geração de várias entidades.
A Apple planeja expandir essa abordagem para playground de imagem, varinha de imagem, criação de memórias e ferramentas de escrita na inteligência da Apple, bem como na inteligência visual com lançamentos futuros.
Privacidade diferencial no recurso de geração de texto da Apple IntelligenceCrédito da foto: Apple
Outra área importante em que a gigante da tecnologia está usando essa técnica é a geração de texto. A abordagem é um pouco diferente da usada com Genmoji. Para avaliar a capacidade de suas ferramentas na geração de email, a empresa criou um conjunto de e -mails que cobrem tópicos comuns. Para cada tópico, a empresa gerou várias variações e, em seguida, as representações derivadas dos emails, que incluíam dimensões -chave como idioma, tópico e comprimento. A Apple chama essas incorporações.
Essas incorporações foram então enviadas para um pequeno número de usuários que optaram pela análise de dispositivos. As incorporações sintéticas foram comparadas a uma amostra dos e -mails dos usuários. “Como resultado dessas proteções, a Apple pode construir dados sintéticos que refletem as tendências agregadas, sem nunca coletar ou ler qualquer conteúdo de email do usuário”, disse a gigante da tecnologia.
Em essência, a empresa não conheceria o conteúdo dos e -mails, mas ainda poderia entender como as pessoas preferem que seus e -mails sejam redigidos. A Apple está atualmente usando esse método para melhorar a geração de texto em e -mails e diz que, no futuro, também usará a mesma abordagem para resumos de email.
source – www.gadgets360.com
