O ChatGPT está sendo usado pelo cibercriminoso para criar malware.
De acordo com especialistas em segurança cibernética, os cibercriminosos começaram a usar o chatbot de inteligência artificial ChatGPT da OpenAI para construir rapidamente ferramentas de hacking. Os golpistas também estão testando o potencial do ChatGPT para construir outros chatbots feitos sob medida para se passar por jovens a fim de capturar presas, de acordo com um especialista que monitora fóruns criminais. Muitos dos primeiros usuários do ChatGPT estavam preocupados com o fato de o aplicativo, que se tornou popular nos dias seguintes ao seu lançamento em dezembro, poder codificar um malware prejudicial capaz de espionar as teclas digitadas dos usuários ou criptografar dados. De acordo com uma pesquisa da empresa de segurança israelense Check Point, os fóruns criminosos clandestinos finalmente pegaram. Em uma postagem no fórum avaliada pela Check Point, um hacker que já havia lançado malware para Android demonstrou um código desenvolvido usando o ChatGPT que pegava arquivos de interesse, os comprimia e os transferia pela Internet. Eles demonstraram outra ferramenta que plantava um backdoor em um computador e podia carregar malware adicional em um computador afetado.
Outro usuário no mesmo fórum postou um código Python que poderia criptografar arquivos, alegando que o aplicativo da OpenAI os ajudou a desenvolvê-lo. Eles disseram que foi o primeiro roteiro que escreveram. De acordo com a análise da Check Point, esse malware pode ser usado para fins absolutamente inócuos, mas também pode “simplesmente ser atualizado para criptografar totalmente o sistema de alguém sem qualquer intervenção do usuário”, semelhante ao funcionamento do ransomware. A Check Point destacou que o mesmo membro do fórum já ofereceu acesso a servidores corporativos hackeados e dados roubados. Um usuário também considerou “abusar” do ChatGPT ao usá-lo para ajudar a projetar recursos para um mercado da dark web semelhante ao Silk Road ou Alphabay. O usuário demonstrou como o bot de bate-papo pode facilmente criar um aplicativo que monitora valores de criptomoeda para um sistema de pagamento hipotético. De acordo com Alex Holden, chefe da empresa de inteligência cibernética Hold Security, golpistas de namoro também estão usando o ChatGPT para construir personas convincentes. “Eles querem construir chatbots para representar principalmente meninas para avançar nas conversas com suas marcas”, explicou. “Eles estão tentando automatizar o bate-papo ocioso.” No momento da publicação, a OpenAI não havia respondido a um pedido de comentário.
Embora as ferramentas codificadas pelo ChatGPT parecessem “bastante rudimentares”, a Check Point afirmou que era apenas uma questão de tempo até que hackers mais “qualificados” descobrissem uma maneira de explorar a IA. De acordo com Rik Ferguson, vice-presidente de inteligência de segurança da empresa americana de segurança cibernética Forescout, o ChatGPT não parece ser capaz de codificar algo tão complexo quanto as principais variedades de ransomware vistas em incidentes significativos de hackers nos últimos anos, como Conti, que foi infame por seu uso em violação do sistema nacional de saúde da Irlanda. A ferramenta da OpenAI, por outro lado, reduzirá a barreira de entrada para os recém-chegados ao mercado criminoso, criando malwares mais básicos, mas igualmente potentes, de acordo com Ferguson.
Ele também expressou preocupação de que, em vez de ser usado para criar um código que rouba os dados das vítimas, o ChatGPT possa ser usado para ajudar na criação de sites e bots que enganam os usuários para que forneçam suas informações. Ele tem o potencial de “industrializar o design e a personalização de sites nocivos, ataques de phishing altamente direcionados e golpes baseados em engenharia social”, de acordo com Ferguson. O especialista em inteligência de ameaças da Check Point, Sergey Shykevich, disse à Forbes que o ChatGPT será uma “ferramenta maravilhosa” para hackers russos que não falam inglês criarem e-mails de phishing com aparência legítima. Com relação às precauções contra o uso criminoso do ChatGPT, Shykevich afirmou que elas eventualmente, e “infelizmente”, teriam que ser aplicadas por meio de regulamentação. A OpenAI implementou certos filtros para impedir solicitações óbvias de que o ChatGPT construa malware com notificações de violação de política, mas hackers e jornalistas encontraram maneiras de contornar essas salvaguardas. De acordo com Shykevich, empresas como a OpenAI podem ter que ser legalmente obrigadas a educar sua IA para detectar tal exploração.
O post Como os cibercriminosos estão usando o ChatGPT para criar malware? apareceu primeiro em Analytics Insight.
source – www.analyticsinsight.net
