A nova lei de IA da UE alega que pesquisadores inventaram sistemas racistas de IA para obter lucro
A nova lei de IA da UE afirma que as indústrias baseadas em IA estão evitando a responsabilidade legal por “inovação” e visa impedir que empresas de tecnologia liberem sistemas perigosos. O tribunal de justiça europeu emitiu uma decisão histórica de que os cidadãos europeus tinham o direito de solicitar aos mecanismos de pesquisa a remoção de resultados de pesquisa vinculados a material que havia sido postado legalmente em sites de terceiros. Isso foi descrito popularmente, mas enganosamente, como o “direito ao esquecimento”; era o direito de ter determinado material publicado sobre o queixoso excluído dos motores de busca, dos quais o Google era de longe o mais dominante. Ou, para ser grosseiro, um direito de não ser encontrado pelo Google.
O que traz isso à mente é a reação das empresas de tecnologia a um projeto de lei da UE publicado no mês passado que, quando se tornar lei em cerca de dois anos, possibilitará que pessoas prejudicadas por software processem as empresas que produzem e implantam isto. O novo projeto de lei, chamado de Diretiva de Responsabilidade de IA, complementará a Lei de IA da UE, que deve se tornar lei da UE na mesma época. Essas leis visam impedir que empresas de tecnologia liberem sistemas perigosos, por exemplo, algoritmos que aumentam a desinformação e visam crianças com conteúdo nocivo; sistemas de reconhecimento facial muitas vezes discriminatórios; sistemas de IA racistas usados para aprovar ou rejeitar empréstimos ou para orientar estratégias de policiamento local e assim por diante, que são menos precisos para minorias. Em outras palavras, as tecnologias são atualmente quase totalmente não regulamentadas.
A Lei de IA exige verificações extras para usos de IA de “alto risco” que têm maior potencial de prejudicar as pessoas, principalmente em áreas como policiamento, recrutamento e assistência médica. A nova lei de responsabilidade, diz o jornal Technology Review do MIT, “daria às pessoas e empresas o direito de processar por danos após serem prejudicados por sistemas racistas de IA. O objetivo é responsabilizar desenvolvedores, produtores e usuários das tecnologias e exigir que eles expliquem como seus sistemas racistas de IA foram construídos e treinados. As empresas de tecnologia que não seguem as regras correm o risco de ações coletivas em toda a UE.”
Essa também seria a mesma inovação que levou ao escândalo da Cambridge Analytica e à intromissão online russa nas eleições presidenciais de 2016 nos EUA e no referendo do Brexit no Reino Unido e permitiu a transmissão ao vivo de tiroteios em massa. A mesma inovação por trás dos mecanismos de recomendação que radicalizaram extremistas e direcionaram “10 pinos de depressão que você pode gostar” a uma adolescente problemática que posteriormente acabou com a própria vida.
O que é ainda mais notável, porém, é como a alegação das empresas de tecnologia de serem as únicas mestras da “inovação” tem sido aceita por seu valor nominal por tanto tempo. Mas agora dois eminentes advogados de concorrência, Ariel Ezrachi e Maurice Stucke, denunciaram o blefe das empresas. Em um novo livro notável, How Big-Tech Barons Smash Innovation – And How to Strike Back, eles explicam como os únicos tipos de empresas de tecnologia inovadoras toleram que se alinhem com seus interesses. Eles revelam como as empresas de tecnologia são implacáveis em sufocar inovações disruptivas ou ameaçadoras, seja por aquisição preventiva ou cópia nua e que seu domínio de mecanismos de busca e plataformas de mídia social restringe a visibilidade de inovações promissoras que podem ser competitiva ou socialmente úteis. Como um antídoto para o exagero tecnológico, o livro será difícil de vencer. Deve ser leitura obrigatória para todos na Ofcom, a Autoridade de Concorrência e Mercados e o DCMS. E a partir de agora “inovação para quem?” deve ser a primeira pergunta para qualquer impulsionador de tecnologia que esteja ensinando sobre inovação.
O post Os pesquisadores estão inventando intencionalmente sistemas de IA racistas para seu lucro? apareceu primeiro no Analytics Insight.
source – www.analyticsinsight.net
