O ChatGpT pode revolucionar a segurança cibernética para sempre? Ou será o futuro distópico da cibersegurança?
Juntamente com o aprendizado de máquina, a inteligência artificial aborda muitos desafios de segurança cibernética. Um futuro distópico para a segurança cibernética é apresentado por todos os bons filmes e livros de ficção científica apocalíptica.
Além da inclusão de IA aberta em muitos slides de fornecedores, como forma de posicionar a tecnologia de última geração e uma abordagem mais automatizada e avançada da tecnologia, o conceito agora está se tornando mais popular. Com o lançamento do ChatGPT da OpenAI
componente de plataforma que permite o diálogo de conversação para responder a perguntas, dialogar e fornecer respostas detalhadas. O tema da distopia explodiu na consciência pública de uma maneira totalmente nova no final de 2022.
Esse avanço de uma pesquisa glorificada no Google despertou o interesse de alunos que buscam agilizar as respostas de redação sem consumir tempo ou necessidade de ler materiais de origem, seguidos por professores que buscam automatizar a correção de forma semelhante.
Qualquer pessoa que tenha ficado frustrada com um chatbot de site ao tentar obter ajuda ou uma resposta para uma pergunta vagamente complexa encontrou consolo em conversar com um computador. Sem dúvida, abriu um mundo de possibilidades para a IA influenciar a forma como interagimos com a tecnologia diariamente como indivíduos, em vez de ser apenas uma misteriosa caixa-preta alimentando sistemas que vão desde a previsão do tempo até os foguetes espaciais.
Inevitavelmente, o impacto potencial na segurança cibernética rapidamente se tornará um tópico importante de discussão em ambos os lados. Para os invasores, houve uma oportunidade instantânea de transformar texto de phishing básico, geralmente infantil, em estruturas mais profissionais. Além disso, também afeta a oportunidade de automatizar o envolvimento com várias vítimas em potencial que tentam escapar da armadilha do ransomware em que caíram.
Isso também pode oferecer uma oportunidade para os defensores revolucionarem processos como verificação de código ou educação sobre phishing? Ainda está nos estágios iniciais e certamente tem falhas. Mas ampliou o debate sobre como a IA pode mudar o setor de segurança cibernética.
“É um sistema incrivelmente bom”, diz Dave Barnett, chefe de serviço de acesso seguro (SASE) e segurança de e-mail da Cloudflare para a Europa, Oriente Médio e África (EMEA).
Preocupações sérias
Barnett, por outro lado, enfatiza as sérias preocupações que surgiram. Ele afirma: “A comunidade de segurança da informação deveria dedicar mais tempo considerando as implicações. Costumava ser bastante simples reconhecer quando estávamos sendo enganados por golpes 419, SMS de pagamento de entrega ou comprometimento de e-mail comercial, porque todos pareciam falsos para os humanos ”, diz ele.
“A inteligência artificial poderia nos enganar?” Também devemos ser cautelosos com certos riscos de segurança de dados, como para onde vão os dados, quem os controla e quem os processa. Os seres humanos são naturalmente curiosos, então, se começarmos a falar com computadores como se fossem pessoas, vamos compartilhar informações que não deveríamos. Finalmente, isso poderia ser uma solução para a falta de habilidades de TI? “Se o OpenAI puder escrever código em uma linguagem há muito esquecida, sem dúvida será de grande ajuda.”
O principal consultor de ameaças da Cofense, Sr. Ronnie Tokazowski, diz que a chance de ser criativo com a plataforma era algo a ser aproveitado. Como criar letras de rap geradas por IA sobre a paz mundial e revelações de OVNIs é atrevido e divertido; no entanto, é possível enganar a IA para fornecer as informações que você está procurando.
Incluir proteções em qualquer compilação de aplicativo é fundamental, e a segurança por design para IA sempre será preferida a um wrapper de segurança pós-compilação. Esse é o objetivo dos desenvolvedores, já que “a intenção da IA é boa e não quer criar simulações de phishing”. Mas perguntar de várias maneiras (como remover a palavra “phishing”) ainda não produz uma resposta positiva. No entanto, ser inventivo produziu resultados.
“O ChatGPT também fornece informações gerais sobre como verificar e manter a segurança antes de usar qualquer cartão-presente como forma de pagamento”, diz ele.
source – www.analyticsinsight.net
