Resumo
Você pode pensar duas vezes antes de experimentar o mais recente aplicativo de IA, Deepseek.
De acordo com a nova pesquisa de Enkrypt AI, Deepseek’s R1 Modelo AI é 11 vezes mais propenso a gerar conteúdo prejudicial que os criminosos podem explorar do que o modelo O1 do OpenAI. A pesquisa diz ainda que é “altamente vulnerável” a “conteúdo perigoso, violento ou odioso”.
Deepseek ganhou manchetes recentemente quando se tornou o aplicativo mais baixado no App Storee seu modelo R1 AI enviado ondas de choque através dos mercados de tecnologia dos EUA Depois de mostrar sua alta eficiência em comparação com outros modelos de IA mais caros de gigantes da tecnologia como OpenAI e Google.
“O Deepseek-R1 oferece vantagens de custo significativas na implantação de IA, mas elas apresentam riscos sérios. Nossos resultados de pesquisa revelam grandes lacunas de segurança e segurança que não podem ser ignoradas”. disse Sahil Agarwal, CEO da Enkrypt AI em um comunicado à imprensa. “Embora o DeepSeek-R1 possa ser viável para aplicações estritamente escovadas, salvaguardas robustas-incluindo corrimãos e monitoramento contínuo-são essenciais para evitar o uso indevido prejudicial. A segurança da IA deve evoluir juntamente com a inovação, não como uma reflexão tardia”.
Eu baixei Deepseek para ver como é realmente censurado
Não espere que seja totalmente honesto com tópicos politicamente sensíveis.
A pesquisa descobre que Deepseek apresenta riscos de segurança cibernética
Governos de todo o mundo estão agindo na Deepseek
A pesquisa da Enkryptai também avaliou as vulnerabilidades potenciais de segurança cibernética da Deepseek. Ele descobriu que 78 % das vezes, poderia ser enganado a gerar código malicioso, como vírus de computador. Ele também descobriu que o Deepseek poderia ser manipulado para criar “ferramentas de hackers funcionais”. Ambas as vulnerabilidades representam um risco significativo à segurança que os cibercriminosos poderiam explorar.
“Nossas descobertas revelam que as vulnerabilidades de segurança da DeepSeek-R1 podem ser transformadas em uma ferramenta perigosa-uma que cibercriminosas, redes de desinformação e mesmo aquelas com ambições de guerra bioquímica poderiam explorar. Esses riscos exigem atenção imediata”, disse Agarwal.
Desde que chegou aos holofotes, a Deepseek está sujeita a intensa escrutínio dos governos em todo o mundo. Taiwan e Austrália proibiram a Deepseek em todos os dispositivos do governo, e a Itália bloqueou recentemente seu chatbot de AI, citando preocupações com sua política de privacidade e como lida com os dados dos usuários.
O governo federal dos EUA está tomando alguma ação. A NASA proibiu o uso da Deepseek pelos funcionários da agência federal e bloqueou a plataforma. O senador dos EUA, Josh Hawley (R-MO), apresentou recentemente um projeto de lei para proibir a Deepseek e quaisquer outras plataformas de inteligência artificial chinesa para todos os americanos.
Eu baixei Deepseek para ver como é realmente censurado
Não espere que seja totalmente honesto com tópicos politicamente sensíveis.
source – www.pocket-lint.com
