O cofundador da Ethereum, Vitalik Buterin, levantou preocupações sobre os perigos potenciais de programas de Inteligência Artificial (IA) não verificados.
Num post de 10 de janeiro no X, Buterin alertou que a IA mal gerida poderia criar entidades inteligentes auto-replicantes que representam riscos para a humanidade.
Ele afirmou:
“A IA feita de forma errada está criando novas formas de vida inteligente independente e auto-replicante. A IA feita da maneira certa é um traje mecânico para a mente humana. Se fizermos a primeira sem a última, corremos o risco de desempoderamento humano permanente. Se fizermos o último, florescerá uma civilização humana superinteligente.”
Ele explicou que embora alguns sistemas de IA, como chatbots projetados para melhorar as interfaces do usuário, sejam benéficos, outros podem levar a riscos significativos. Especificamente, os agentes de IA que funcionam de forma autónoma durante longos períodos podem eventualmente desafiar o controlo humano e enfraquecer a sociedade.
Para mitigar estes riscos, Buterin propôs focar-se em sistemas de IA que complementem a inteligência humana, transformando-os em ferramentas que amplifiquem as capacidades colectivas em vez de as substituir.
Segundo ele, tal abordagem transformaria a IA numa ferramenta poderosa para melhorar as capacidades humanas, evitando riscos desnecessários.
d/Acc
Grande parte de sua estratégia envolve o conceito de Aceleração Defensiva Diferencial Descentralizada e Democrática (d/Acc). Esta abordagem enfatiza o desenvolvimento de ferramentas descentralizadas para enfrentar ameaças emergentes relacionadas com a IA.
Buterin elaborou essa ideia em uma postagem recente no blog, descrevendo o d/Acc como uma estrutura projetada para descentralizar tecnologias defensivas. O objetivo é capacitar indivíduos e comunidades para se protegerem dos perigos potenciais representados pelos rápidos avanços da IA.
Esta estratégia permite uma distribuição mais democrática do poder tecnológico, colocando capacidades defensivas nas mãos das comunidades. Por exemplo, os sistemas descentralizados poderiam monitorizar, neutralizar ou mesmo neutralizar atividades prejudiciais de IA sem depender do controlo de cima para baixo dos governos ou das empresas.
Buterin explicou que o d/Acc poderia servir como uma salvaguarda em cenários onde as tecnologias de IA avançam de forma imprevisível. Além disso, a democratização da defesa garante que nenhuma entidade possa dominar ou explorar o potencial da IA avançada, promovendo um ecossistema tecnológico mais equilibrado e resiliente.
O cofundador da Ethereum também enfatizou as responsabilidades éticas dos desenvolvedores neste campo em rápida evolução. Ele argumentou que abordagens descentralizadas como d/Acc melhoram a segurança coletiva e incentivam a transparência e a colaboração no desenvolvimento da IA.
Buterin escreveu:
“Uma ideia que é muito favorável ao d/acc é responsabilizar os proprietários ou operadores de qualquer equipamento que uma IA assuma (por exemplo, por hacking) no processo de execução de alguma ação catastroficamente prejudicial. Isto criaria um incentivo muito amplo para fazer o trabalho árduo para tornar a infraestrutura mundial (especialmente computacional e biológica) tão segura quanto possível.”
Mencionado neste artigo
source – cryptoslate.com
