Líderes de IA alertam sobre riscos crescentes e preocupações éticas em avanços rápidos

por Damir Yalalov

Publicado: 27 de outubro de 2023 às 9h26 Atualizado: 27 de outubro de 2023 às 9h26

por Victor Dey

Editado e verificado: 27 de outubro de 2023, 12h

Numa declaração política recente, figuras proeminentes no domínio da IA, incluindo Bengio, Hinton, Russell, Harari e Kahneman, soaram o alarme sobre o rápido progresso e os crescentes riscos sociais associados à IA.

A IA está se desenvolvendo rapidamente. O GPT-2 não conseguia contar de 0 a 100 há quatro anos, mas os modelos modernos podem escrever códigos, criar imagens incríveis e oferecer orientação intelectual. E porque estamos numa corrida, o progresso pode ganhar ainda mais velocidade. Além disso, a IA avança mais rapidamente, por exemplo, auxiliando na programação de novos sistemas e na recolha de dados para a sua formação.

Quando o progresso atingir os níveis humanos, não há razão para pensar que irá abrandar ou parar. Em certas regiões, os sistemas artificiais já superaram os humanos neste aspecto, exibindo capacidades como velocidades de processamento mais rápidas, maiores capacidades de processamento de dados e escalabilidade em grande escala. As empresas possuem os meios financeiros para implementar programas de formação que excedem em muito o limite atual.

Os autores pensam que há uma boa probabilidade de que surja um melhor generalista de IA nos próximos dez anos, ultrapassando as capacidades humanas em muitos domínios importantes.

O que acontecerá a seguir? Todas as vidas podem ser melhoradas se forem adequadamente geridas e distribuídas. A opção mal escolhida acarreta riscos significativos para os quais estamos mal preparados. Em vez de serem atribuídos à segurança e à prevenção de danos, recursos significativos estão a ser utilizados para construir sistemas de IA cada vez mais potentes. Isto precisa mudar; buscar habilidades por si só é insuficiente. E esse processo está demorando mais do que o esperado. Precisamos de planear riscos mais elevados antes que estes surjam, antecipando a escalada das ameaças actuais e o aparecimento de novas. Não temos o mesmo tempo para a IA, pois está a levar décadas a ser aceite em relação às alterações climáticas.

Existem numerosos riscos a nível social, incluindo um aumento da injustiça, uma deterioração da estabilidade e uma deterioração da percepção comum da realidade. Aqui, terroristas e criminosos estão envolvidos em atividades extensas. A IA poderia concentrar-se nas mãos de um pequeno número de intervenientes, levando ao aumento da desigualdade global, facilitando a guerra automatizada, a manipulação em massa adaptada a cada indivíduo e a vigilância omnipresente.

À medida que a IA autónoma se torna mais sofisticada e é capaz de planear, agir no mundo e atingir os seus objetivos, estes riscos só aumentarão. Estes objectivos podem não ser do nosso interesse e, no caso de maus actores, podem até ser prejudiciais. Atualmente não está claro como resolver o problema do alinhamento da IA, que envolve combinar o comportamento da IA ​​com nossos objetivos intrincados. Além disso, é muito simples ignorar as precauções de segurança ao competir com a intenção de vencer.

O software comum é difícil de controlar pelos humanos, muito menos os sistemas sofisticados de IA que estão se tornando cada vez mais adeptos da engenharia social, do hacking, do engano e do planejamento estratégico. Isso é algo que os sistemas autônomos de IA podem aprender com as pessoas ou criar por conta própria.

Estes sistemas têm a capacidade de construir coligações com indivíduos e outros sistemas, conquistar a confiança, garantir financiamento e influenciar os decisores. Como um worm, eles são capazes de se auto-replicar em toda a rede. Grandes quantidades de código já foram escritas com a ajuda de assistentes de IA; no futuro, os sistemas poderão incorporar explorações em vários sistemas cruciais. Os sistemas de IA têm a capacidade de usar ou ameaçar armas biológicas ou autónomas em combate aberto. Isto é apenas uma continuação dos actuais movimentos em direcção à investigação biológica, à inteligência artificial e à automatização da guerra. As pessoas podem achar muito desafiador intervir e resistir.

Em muitos casos, estamos dispostos a dar-lhes as rédeas sem que tenham que pedir. Muitos indivíduos e empresas estão dispostos a implementar esses sistemas num ambiente competitivo, temendo que fiquem para trás em relação à concorrência.

O documento completo pode ser encontrado aqui.

Damir é líder de equipe, gerente de produto e editor do Metaverse Post, cobrindo tópicos como AI/ML, AGI, LLMs, Metaverse e campos relacionados à Web3. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado no Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como nômade digital. Damir formou-se em física, o que ele acredita ter lhe proporcionado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da Internet.

• 
  
  

Mais artigos