A China fechou um número recorde de violações de dados pessoais e está buscando feedback público sobre projetos de lei para regular o uso de dados de reconhecimento facial.
Nos últimos três anos, a polícia chinesa encerrou 36.000 casos relacionados a violações de dados pessoais, detendo 64.000 suspeitos ao longo do caminho, segundo o Ministério da Segurança Pública. As prisões fizeram parte dos esforços do governo desde 2020 para regular a internet, que também teve mais de 30 milhões de cartões SIM e 300 milhões de contas “ilegais” de internet apreendidas, informou a mídia estatal. Tempos Globaiscitando o ministério em uma coletiva de imprensa na quinta-feira.
Também: AI pode quebrar sua senha ouvindo seus cliques no teclado
A polícia vinha investigando um número crescente de casos criminais envolvendo violações de dados pessoais nos últimos dois anos, direcionados a vários setores, incluindo saúde, educação, logística e comércio eletrônico.
Os casos criminais relatados envolvendo inteligência artificial (IA) também aumentaram, disse o ministério, citando um incidente de abril de 2023 no qual uma empresa na província de Fujian perdeu 4,3 milhões de yuans (US$ 596.510) para hackers que usaram IA para alterar seus rostos.
Até o momento, as agências de aplicação da lei resolveram 79 casos envolvendo “mudança facial da IA”.
Também: Não estamos preparados para o impacto da IA generativa nas eleições
Com o reconhecimento facial agora amplamente usado junto com os avanços feitos na tecnologia de IA, funcionários do governo notaram o surgimento de casos de uso desses dados. Nesses casos, os cibercriminosos usariam fotos, em particular aquelas encontradas em carteiras de identidade, juntamente com nomes pessoais e números de identificação para facilitar a verificação do reconhecimento facial.
Os departamentos de segurança pública da China estão trabalhando com instalações estatais para realizar avaliações de segurança de reconhecimento facial e outras tecnologias relevantes, bem como para identificar riscos potenciais em sistemas de verificação de reconhecimento facial, de acordo com o ministério.
Com ecossistemas cibercriminosos amplamente conectados, variando de roubo a revenda de dados e lavagem de dinheiro, funcionários do governo chinês disseram que esses criminosos estabeleceram um mercado significativo de “big data” que representa sérios riscos aos dados pessoais e à “ordem social”.
Leis nacionais propostas para regular o reconhecimento facial
A Administração do Ciberespaço da China (CAC) publicou no início desta semana projetos de lei que tratam especificamente da tecnologia de reconhecimento facial. Isso marcou a primeira vez que regulamentos nacionais foram discutidos para a tecnologia, de acordo com Tempos Globais.
Também: Zoom está emaranhado em uma confusão de privacidade de IA
As regras propostas exigirão o consentimento “explícito ou por escrito” do usuário antes que as organizações possam coletar e usar informações faciais pessoais. As empresas também devem declarar o motivo e a extensão dos dados que estão coletando e usar os dados apenas para o propósito declarado.
Sem o consentimento do usuário, nenhuma pessoa ou organização tem permissão para usar a tecnologia de reconhecimento facial para analisar dados pessoais confidenciais, como etnia, crenças religiosas, raça e estado de saúde. Existem exceções para uso sem consentimento, principalmente para manter a segurança nacional e a segurança pública, bem como proteger a saúde e a propriedade de indivíduos em emergências.
As organizações que usam a tecnologia devem ter medidas de proteção de dados para evitar acesso não autorizado ou vazamento de dados, afirmou o documento CAC.
Os projetos de lei indicam ainda que qualquer pessoa ou organização que retenha mais de 10.000 conjuntos de dados de reconhecimento facial deve notificar as autoridades governamentais cibernéticas relevantes dentro de 30 dias úteis.
Também: IA generativa e o quarto porquê: Construindo confiança com seu cliente
As regras propostas estipulam as condições sob as quais os sistemas de reconhecimento facial devem ser usados, incluindo como eles processam dados faciais pessoais e para quais fins.
Os projetos de lei também obrigam as empresas a priorizar o uso de ferramentas alternativas de reconhecimento não biométrico, se estas fornecerem resultados equivalentes aos da tecnologia baseada em biometria.
O público tem um mês para enviar feedback sobre os projetos de lei.
Em janeiro, a China colocou em vigor regulamentos que visam impedir o abuso da tecnologia de “síntese profunda”, incluindo deepfakes e realidade virtual. Qualquer pessoa que use esses serviços deve rotular as imagens de acordo e abster-se de usar a tecnologia para atividades que violem os regulamentos locais.
Também: 4 maneiras de detectar o hype generativo da IA da realidade
Leis provisórias também entrarão em vigor na próxima semana para gerenciar serviços de IA generativos no país. Esses regulamentos descrevem várias medidas que visam facilitar o desenvolvimento sólido da tecnologia, protegendo os interesses nacionais e públicos e os direitos legais de cidadãos e empresas, disse o governo chinês.
Os desenvolvedores de IA generativa, por exemplo, terão que garantir que seus processos de pré-treinamento e otimização de modelos sejam realizados em conformidade com a lei. Isso inclui o uso de dados de fontes legítimas que aderem aos direitos de propriedade intelectual. Caso sejam utilizados dados pessoais, deve ser obtido o consentimento do indivíduo ou deve ser feito de acordo com os regulamentos existentes. Medidas também devem ser tomadas para melhorar a qualidade dos dados de treinamento, incluindo sua precisão, objetividade e diversidade.
De acordo com as leis provisórias, os provedores de serviços de IA generativa assumem a responsabilidade legal pelas informações geradas e sua segurança. Eles precisarão assinar contratos de nível de serviço com os usuários de seus serviços, esclarecendo assim os direitos e obrigações de cada parte.
source – www.zdnet.com
