Os EUA, o Reino Unido e a UE assinaram um tratado internacional que obriga os signatários a introduzir medidas para garantir que o uso de sistemas de IA em seus países seja consistente com “direitos humanos, democracia e estado de direito”. A Convenção-Quadro sobre Inteligência Artificial define as obrigações gerais e os princípios-chave que todos os países signatários do tratado devem implementar.
Ferramentas poderosas de IA, como Bate-papoGPT e Google Gêmeos explodiram do nada e continuam a se desenvolver no que alguns veem como um ritmo alarmante, com algumas pessoas envolvidas em seu desenvolvimento indicando que a IA tem o potencial de destruir a humanidade. Compreensivelmente, muitos países indicaram a necessidade de leis ou supervisão para garantir que não acabemos no ponto em que A Skynet se torna autoconsciente e lança nossas próprias armas nucleares contra nós.
O Conselho da Europa postou no X que esse foi um momento histórico, representando o “primeiro tratado global juridicamente vinculativo sobre IA e direitos humanos”, mas o que exatamente o tratado entrega e quão “juridicamente vinculativo” ele é? Damos uma olhada no que o documento diz e se é possível aplicá-lo.
O foco do tratado está no título
A ênfase está nos direitos humanos, na democracia e no Estado de direito
O nome completo do tratado é Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy, and Rule of Law. Essas três áreas compõem as obrigações gerais do tratado.
O Artigo 4 do tratado afirma que cada país deve “adotar ou manter medidas para garantir que as atividades dentro do ciclo de vida dos sistemas de inteligência artificial sejam consistentes com as obrigações de proteger os direitos humanos, conforme consagrado na lei internacional aplicável e em sua lei nacional”. Em outras palavras, cada país deve ter regras em vigor que impeçam as empresas de IA de violar as leis de direitos humanos.
Até que ponto um anúncio de ataque gerado por IA contra um oponente político prejudica a integridade das instituições democráticas? E quanto a um deepfake como o compartilhado por Elon Musk em seu próprio aplicativo de mídia social? As linhas são, na melhor das hipóteses, confusas e a interpretação de um país pode não ser a mesma de outro.
O Artigo 5 se refere à integridade dos processos democráticos e ao respeito ao estado de direito. Ele afirma que cada país deve “adotar ou manter medidas que busquem garantir que os sistemas de inteligência artificial não sejam usados para minar a integridade, a independência e a eficácia das instituições e processos democráticos, incluindo o princípio da separação de poderes, o respeito à independência judicial e o acesso à justiça”.
Isso é algo que pode ser um desafio real. Até que ponto um anúncio de ataque gerado por IA a um oponente político prejudica a integridade das instituições democráticas? E quanto a um deepfake como o compartilhado por Elon Musk em seu próprio aplicativo de mídia social? As linhas são, na melhor das hipóteses, confusas e a interpretação de um país pode não ser a mesma de outro.
O tratado também inclui alguns princípios comuns
Espera-se que cada país os implemente de alguma forma
O tratado estabelece alguns princípios comuns que todos os signatários devem aderir dentro do escopo de seus próprios sistemas legais. Estes incluem o seguinte:
Esses princípios não são irracionais, mas podem causar problemas significativos para empresas de IA. Chatbots de IA, por exemplo, são notórios por alucinar, levando a conteúdo que não é preciso ou confiável. No entanto, o princípio da confiabilidade afirma que os países devem “promover” confiança e confiabilidade, então pode ser o caso de que, enquanto as empresas de IA forem vistas trabalhando para tornar seus produtos o mais confiáveis possível, elas não estarão violando as regras.
No entanto, as empresas de IA não podem controlar diretamente exatamente o que sai de um chatbot de IA devido à natureza de como a IA generativa funciona. Já vimos exemplos de chatbots populares produzindo resultados que definitivamente não respeitam a igualdade ou proíbem a discriminação. Novamente, pode ser o caso de que, desde que as empresas sejam vistas trabalhando para minimizar esses problemas, isso pode ser bom o suficiente.
O tratado não estabelece nenhuma lei por si só
Cada país é obrigado a implementar as suas próprias medidas
Uma das coisas mais importantes para entender sobre esse tratado é que ele não estabelece nenhuma lei de IA em si. Em essência, é um acordo entre vários países para introduzir medidas para garantir que as obrigações gerais e os princípios comuns sejam seguidos. A redação exata é que “cada parte adotará ou manterá medidas legislativas, administrativas ou outras apropriadas para dar efeito às disposições estabelecidas nesta Convenção”.
Em outras palavras, os países podem criar novas leis que sustentem esses princípios, mas essa não é a única opção. Eles também podem colocar em prática medidas administrativas que não sejam juridicamente vinculativas, ou qualquer outro tipo de medida que considerem adequado.
Em outras palavras, os países podem criar novas leis que sustentem esses princípios, mas essa não é a única opção. Eles também podem colocar em prática medidas administrativas que não sejam juridicamente vinculativas, ou qualquer outro tipo de medida que considerem adequado.
Na realidade, muitos países provavelmente promulgarão algumas leis relacionadas a essas obrigações, mas como não há nada prescrito no tratado, diferentes países podem ter abordagens muito diferentes e leis muito diferentes. Não está claro como isso funcionará com ferramentas de IA que são usadas em vários países que têm leis diferentes sobre como devem operar.
Não há consequências explícitas para os países que não cumprem o tratado
Espera-se que os signatários mantenham-se na linha
Se o tratado finalmente diz aos países para criarem suas próprias medidas para garantir que essas obrigações sejam seguidas, o que impede um país que assinou o tratado de simplesmente não se incomodar? Bem, na realidade, não muito.
É um tratado baseado na confiança, e não em quaisquer ações punitivas para os países que não o cumprem.
O tratado estabelece planos para uma “Conferência das Partes”, que é essencialmente uma grande reunião de representantes de todos os signatários para analisar o quão bem as obrigações estão sendo implementadas e considerar emendas ao tratado. Cada país deve reportar à Conferência das Partes dentro dos primeiros dois anos sobre como as obrigações estão sendo cumpridas. Se um país não estiver cumprindo as obrigações, no entanto, há uma ação específica que pode ser tomada contra esse país. É um tratado construído com base na confiança, em vez de ter quaisquer ações punitivas em vigor para os países que não cumprem.
Quais países assinaram o tratado de IA?
Os EUA, o Reino Unido e a UE assinaram, juntamente com alguns outros países
Os três maiores signatários são os EUA, Reino Unido e UE, mas alguns outros países também assinaram. Entre eles estão Israel, Noruega, Islândia, República da Moldávia, Geórgia, San Marino e Andorra.
O tratado está aberto a qualquer outro país que queira assinar, no entanto. Para que esse tipo de tratado seja realmente efetivo, seria necessário que todos os países assinassem, mas é altamente improvável que países como China ou Rússia façam fila para adicionar suas assinaturas tão cedo.
O tratado não é perfeito, mas oferece esperança de uma regulamentação eficaz da IA
Em última análise, cada país é responsável pelas suas próprias regras
Maçã/Fio de bolso
O fato de o tratado ser inofensivo quando se trata de lidar com países que não cumprem com suas obrigações está longe de ser o ideal. No entanto, o conceito geral do tratado é bom. A IA continua a se desenvolver em um ritmo rápido, e coisas que não eram possíveis há um ano são mais do que possíveis agora. Em particular, a capacidade de gerar conteúdo de IA que é indistinguível do artigo genuíno tem o potencial de ter um impacto significativo em nossas vidas. Imagens geradas por IA e vídeos já estão sendo usados na preparação para a eleição dos EUA, e a tecnologia só vai melhorar daqui para frente. Algum tipo de legislação que garanta que o conteúdo gerado por IA seja sempre claramente marcado como tal ajudaria muito a impedir a disseminação de desinformação.
Ainda estamos longe de um conjunto de regras globalmente acordadas sobre como a IA pode ou não ser usada, mas este tratado é um passo significativo na direção certa.
Outra falha importante é que não há nada que impeça os países que não assinaram de fazer o que quiserem. Só porque você cria uma lei nos EUA proibindo o uso de deepfakes em eleições políticas não impede outros países de fazerem exatamente isso.
Ainda estamos longe de um conjunto de regras globalmente acordadas sobre como a IA pode ou não ser usada, mas este tratado é um passo significativo na direção certa.
source – www.pocket-lint.com
