A IA pode dizer exatamente quem você é, mesmo que você não esteja contando a eles

por Damir Yalalov

Publicado: 27 de outubro de 2023 às 9h52 Atualizado: 27 de outubro de 2023 às 9h52

por Victor Dey

Editado e verificado: 27 de outubro de 2023, 12h

Mesmo em situações em que as pessoas pensam que não revelaram nada pessoal, os modelos de linguagem de IA demonstram um nível inesperado de proficiência na compreensão das informações do utilizador. Este fenómeno é explicado por um estudo recente realizado pelo Instituto Federal de Tecnologia de Zurique. Com base em pistas oblíquas, a pesquisa indica que as redes neurais podem criar perfis de usuário extremamente precisos.

Os pesquisadores usaram uma postagem do Reddit acessível ao público como exemplo para sua investigação. O usuário relatou ter ficado preso no trânsito ao tentar uma difícil “curva em gancho”. Com base nesses detalhes aparentemente banais, o modelo de linguagem inferiu que o usuário provavelmente mora em Melbourne, na Austrália, uma cidade onde esse tipo de ação é típico.

Os pesquisadores criaram um conjunto de dados usando perfis reais do Reddit e descobriram que os LLMs atuais podem deduzir com precisão vários atributos pessoais, como localização, renda e gênero. Esses modelos alcançaram até 85% de precisão para a inferência top-1 e 95,8% de precisão para a inferência top-3, tudo a um custo significativamente menor (100 vezes) e em menos tempo (240 vezes) em comparação com os esforços humanos.

Em outro exemplo, um usuário conta que, por ser solteiro, tem um estranho costume de aniversário de ficar coberto de canela. Aqui, o modelo linguístico estimou a idade da autora em cerca de 25 anos. Ela mora na Dinamarca, onde é costume polvilhar canela em jovens solteiros de 25 anos.

Vários modelos de linguagem, incluindo os do Google, Meta, OpenAI e Anthropic, foram testados no estudo. Notavelmente, o GPT-4 mostrou o maior nível de especialização, reconhecendo corretamente as informações pessoais dos usuários em quase 85% dos casos. As implicações de tais capacidades são seriamente questionadas por esta revelação.

Os pesquisadores examinaram salvaguardas de privacidade comuns, como anonimato de texto e alinhamento de modelos, e descobriram que atualmente são ineficazes na proteção da privacidade do usuário contra inferências de LLM. O estudo ressalta que os atuais LLMs possuem a capacidade de deduzir informações pessoais em uma escala sem precedentes. Na ausência de defesas eficazes, os investigadores enfatizam a necessidade de uma discussão mais ampla sobre as implicações da privacidade do LLM, indo além das preocupações com a memorização, e esforçando-se por medidas de protecção da privacidade mais abrangentes.

Embora esses modelos de linguagem estejam melhorando na interpretação de pistas indiretas, os pesquisadores acreditam que, devido à grande quantidade de dados de treinamento que utilizam, eles podem ser ferramentas extremamente úteis para profissionais de marketing ou até mesmo para maus atores.

• Recentemente, o inquérito da Deloitte a mais de 1.700 profissionais revela uma divisão crescente entre a rápida adoção da IA ​​generativa e o atraso no desenvolvimento de princípios éticos. A privacidade dos dados é a principal preocupação ética, com 22% dos entrevistados citando-a como sua principal preocupação. Apesar disso, 39% dos entrevistados acreditam que as tecnologias cognitivas detêm o maior potencial para o bem social. A pesquisa também mostra uma mudança nas expectativas em relação ao envolvimento do governo na definição de padrões tecnológicos éticos.
• Além disso, a empresa controladora do Snapchat, Snap, está sob escrutínio quanto a riscos de privacidade relacionados ao seu chatbot de IA, ‘My AI’. O Information Commissioner’s Office (ICO) do Reino Unido emitiu um aviso preliminar de execução, potencialmente impactando as atividades de processamento de dados do Snap. A ICO afirma que o Snap não avaliou as implicações de privacidade para os usuários, especialmente as crianças.

Damir é líder de equipe, gerente de produto e editor do Metaverse Post, cobrindo tópicos como AI/ML, AGI, LLMs, Metaverse e campos relacionados à Web3. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado no Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como nômade digital. Damir formou-se em física, o que ele acredita ter lhe proporcionado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da Internet.

• 
  
  

Mais artigos