A Microsoft entrou com uma ação judicial destinada a interromper operações cibercriminosas que abusam de tecnologias generativas de IA, de acordo com um anúncio de 10 de janeiro.
A ação legal, aberta no Distrito Leste da Virgínia, tem como alvo um grupo ameaçador baseado no exterior, acusado de contornar medidas de segurança em serviços de IA para produzir conteúdo prejudicial e ilícito.
O caso destaca a persistência dos cibercriminosos na exploração de vulnerabilidades em sistemas avançados de IA.
Uso malicioso
A Unidade de Crimes Digitais (DCU) da Microsoft destacou que os réus desenvolveram ferramentas para explorar credenciais roubadas de clientes, concedendo acesso não autorizado a serviços generativos de IA. Esses recursos alterados de IA foram então revendidos, completos com instruções para uso malicioso.
Steven Masada, Conselheiro Geral Assistente da DCU da Microsoft, disse:
“Esta ação envia uma mensagem clara: a transformação da tecnologia de IA em armas não será tolerada.”
O processo alega que as atividades dos cibercriminosos violaram a lei dos EUA e a Política de Uso Aceitável da Microsoft. Como parte da investigação, a Microsoft apreendeu um site central para a operação, que, segundo ela, ajudará a descobrir os responsáveis, interromper sua infraestrutura e analisar como esses serviços são monetizados.
A Microsoft melhorou as suas salvaguardas de IA em resposta aos incidentes, implementando mitigações de segurança adicionais em todas as suas plataformas. A empresa também revogou o acesso de agentes mal-intencionados e implementou contramedidas para bloquear ameaças futuras.
Combate ao uso indevido da IA
Esta ação legal baseia-se no compromisso mais amplo da Microsoft em combater conteúdo abusivo gerado por IA. No ano passado, a empresa delineou uma estratégia para proteger os utilizadores e as comunidades da exploração maliciosa da IA, visando particularmente os danos contra grupos vulneráveis.
A Microsoft também destacou um relatório lançado recentemente, “Protegendo o público contra conteúdo abusivo gerado por IA”, que ilustra a necessidade de colaboração da indústria e do governo para enfrentar esses desafios.
A declaração acrescenta que o DCU da Microsoft tem trabalhado para combater o crime cibernético há quase duas décadas, aproveitando a sua experiência para enfrentar ameaças emergentes, como o abuso de IA. A empresa enfatizou a importância da transparência, da ação legal e das parcerias entre os setores público e privado para salvaguardar as tecnologias de IA.
De acordo com o comunicado:
“A IA generativa oferece imensos benefícios, mas, como acontece com todas as inovações, atrai uso indevido. A Microsoft continuará a fortalecer as proteções e a defender novas leis para combater o uso malicioso da tecnologia de IA.”
O caso soma-se aos esforços crescentes da Microsoft para reforçar a segurança cibernética a nível global, garantindo que a IA generativa continue a ser uma ferramenta para a criatividade e a produtividade, e não para prejudicar.
Mencionado neste artigo
source – cryptoslate.com
