Publicado: 03 de novembro de 2023 às 7h42 Atualizado: 03 de novembro de 2023 às 7h43
Editado e verificado: 03 de novembro de 2023 às 7h42
em resumo
Desde a introdução do ChatGPT no final de 2022, foi observado um aumento significativo no número de e-mails de phishing maliciosos, com um aumento de 1.265%.
Alguns dos usuários mais comuns de chatbots de modelo de linguagem grande (LLM) são cibercriminosos, revela o relatório SlashNext do provedor de inteligência de ameaças em tempo real. Mas qual é exatamente o propósito de usar chatbots LLM?
De acordo com o relatório intitulado “The State of Phishing 2023”, os cibercriminosos estão aproveitando a ferramenta para ajudar a escrever ataques de comprometimento de e-mail comercial (BEC) e lançar sistematicamente ataques de phishing altamente direcionados.
Desde a introdução do ChatGPT da OpenAI no final de 2022, foi observado um aumento significativo no número de e-mails de phishing maliciosos, com um aumento impressionante de 1.265%.
Notavelmente, 68% desses e-mails de phishing empregam táticas Business Email Compromise (BEC) baseadas em texto. Esta tendência alarmante sublinha as crescentes apreensões relativamente ao papel dos chatbots e dos jailbreaks na facilitação de uma rápida proliferação de ataques de phishing, permitindo aos cibercriminosos lançar ofensivas altamente sofisticadas e rápidas.
Quando questionados, 40% dos entrevistados (profissionais de segurança cibernética) indicaram que atualmente utilizam o ChatGPT para redigir e-mails, tanto para casos de uso pessoal quanto profissional.
Não é surpreendente que esta utilização se estenda aos cibercriminosos, já que a composição de e-mail é uma das aplicações mais comuns do ChatGPT para hackers. Os invasores cibernéticos exploram os recursos do ChatGPT para ajudar na elaboração de ataques Business Email Compromise (BEC) e na orquestração de campanhas de phishing meticulosamente direcionadas.
Ignorando ChatGPT como Chatbots – Não é uma tarefa complexa
Embora chatbots de IA como o ChatGPT possuam amplo conhecimento e possam gerar texto sobre uma ampla variedade de tópicos, eles estão sujeitos a certas restrições para evitar vários problemas.
Essas restrições existem devido à natureza dos dados de treinamento e ao potencial de respostas prejudiciais ou inadequadas. Este artigo explora por que o ChatGPT é restrito e fornece técnicas para contornar essas limitações.
No entanto, ao enquadrar as perguntas com contexto, evitando frases problemáticas e abordando cenários a partir de uma perspectiva de terceira pessoa, os usuários muitas vezes podem obter respostas mais úteis. Além disso, os usuários podem contornar os limites de caracteres solicitando porções menores de texto por vez.
A IA generativa pode ser o herói do resgate?
Num cenário digital em rápida evolução, a confluência do potencial malicioso da IA e a dinâmica mutável dos ambientes de trabalho remotos e híbridos suscitou preocupações sobre o risco crescente de ataques cibernéticos.
Com os funcionários dispersos por vários dispositivos e canais de comunicação, as organizações estão cada vez mais vulneráveis a violações de segurança. Para combater esta ameaça, há uma procura crescente por soluções de segurança de IA generativas concebidas para proteger contra ataques cibernéticos avançados, como Business Email Compromise (BEC), ataques à cadeia de abastecimento, falsificação de identidade de executivos e fraude financeira.
As soluções generativas de segurança de IA são boas para identificar ameaças que manipulam as emoções humanas, aproveitando táticas como medo ou confiança para desencadear ações rápidas. Ao simular essas emoções e comportamentos humanos em seu processo de detecção, as soluções generativas de segurança de IA fornecem uma defesa robusta contra as ameaças cibernéticas mais recentes.
Um jogador notável neste campo é o SlashNext. A tecnologia da empresa é adepta da detecção, previsão e interrupção de ataques como spear phishing, BEC e Smishing, todos os quais exploram técnicas de engenharia social zero-hour. Este sistema avançado opera perfeitamente em aplicativos de e-mail, dispositivos móveis e mensagens da web, oferecendo uma defesa multifacetada.
De acordo com a SlashNext, suas soluções combinam processamento de linguagem natural, visão computacional, aprendizado de máquina, gráficos de relacionamento e contextualização profunda para neutralizar sofisticados ataques de mensagens multicanais.
A empresa tem a capacidade de antecipar uma ampla gama de ameaças de BEC geradas por IA, empregando tecnologias de clonagem e aumento de dados de IA.
Esta abordagem permite que o sistema avalie as principais ameaças e gere inúmeras variações, treinando-se eficazmente para reconhecer e impedir riscos potenciais, acrescentou.
À medida que as organizações enfrentam os crescentes desafios de segurança cibernética colocados pelas ameaças impulsionadas pela IA, as soluções generativas de segurança de IA são aliadas inestimáveis na busca por proteger dados sensíveis e manter a integridade digital. O futuro da cibersegurança depende cada vez mais destas tecnologias inovadoras, garantindo que as organizações possam estar um passo à frente dos cibercriminosos e das ameaças emergentes.
Isenção de responsabilidade
Quaisquer dados, textos ou outros conteúdos desta página são fornecidos como informações gerais de mercado e não como conselhos de investimento. O desempenho passado não é necessariamente um indicador de resultados futuros.
O Trust Project é um grupo mundial de organizações de notícias que trabalha para estabelecer padrões de transparência.
source – mpost.io
