Em um vídeo promocional, a Amazon.com afirma que sua câmera de segurança doméstica Cloud Cam oferece “tudo que você precisa para monitorar sua casa, dia ou noite”. Na verdade, o dispositivo artificialmente inteligente requer a ajuda de um esquadrão de funcionários invisíveis.
Dezenas de funcionários da Amazon baseados na Índia e na Romênia analisam clipes selecionados capturados pelo Cloud Cam, de acordo com cinco pessoas que trabalharam no programa ou têm conhecimento direto dele. Esses trechos de vídeo são então usados para treinar os algoritmos de IA para fazer um trabalho melhor na distinção entre uma ameaça real (um invasor doméstico) e um alarme falso (o gato pulando no sofá).
Uma equipe da Amazon também transcreve e anota comandos gravados nas casas dos clientes pela assistente digital Alexa da empresa, informou a Bloomberg em abril.
A IA tornou possível falar com o seu telefone. Está ajudando os investidores a prever mudanças no sentimento do mercado. Mas a tecnologia está longe de ser infalível. Cloud Cam envia alertas quando há apenas papel farfalhando com a brisa. A Siri da Apple e a Alexa da Amazon ainda ocasionalmente ouvem comandos mal. Um dia, os engenheiros poderão superar essas deficiências, mas por enquanto a IA precisa de assistência humana. Muito disso.
A certa altura, em um dia normal, alguns auditores da Amazon anotavam, cada um, cerca de 150 gravações de vídeo, que duravam normalmente de 20 a 30 segundos, segundo as pessoas, que pediram anonimato para falar sobre um programa interno.
Os clipes enviados para análise vêm de funcionários testadores, disse uma porta-voz da Amazon, bem como de proprietários de Cloud Cam que enviam clipes para solucionar problemas como notificações imprecisas e qualidade de vídeo. “Levamos a privacidade a sério e colocamos os clientes da Cloud Cam no controle de seus videoclipes”, disse ela, acrescentando que, a menos que os clipes sejam enviados para fins de solução de problemas, “somente os clientes podem ver seus clipes”.
Em nenhum lugar dos termos e condições do usuário do Cloud Cam a Amazon diz explicitamente aos clientes que seres humanos estão treinando os algoritmos por trás de seu software de detecção de movimento.
E apesar da insistência da Amazon para que todos os clipes sejam fornecidos voluntariamente, de acordo com duas pessoas, as equipes detectaram atividades que os proprietários provavelmente não gostariam de compartilhar, incluindo raros casos de pessoas fazendo sexo.
Clipes contendo conteúdo impróprio são sinalizados como tal e depois descartados para que não sejam usados acidentalmente para treinar a IA, disseram as pessoas. A porta-voz da Amazon disse que tais clipes são descartados para melhorar a experiência dos revisores humanos da empresa, mas não disse por que atividades inadequadas apareceriam em videoclipes enviados voluntariamente.
Os trabalhadores disseram que a Amazon impôs segurança rígida à operação de anotação Cloud Cam. Na Índia, dezenas de revisores trabalham em um andar restrito, onde os funcionários não têm permissão para usar seus celulares, segundo duas pessoas. Mas isso não impediu que outros funcionários passassem as imagens para pessoas que não eram da equipe, disse outra pessoa.
A Cloud Cam foi lançada em 2017 e, junto com a linha de alto-falantes Echo com tecnologia Alexa, é um dos vários dispositivos que a Amazon espera que lhe proporcionem uma vantagem no emergente mercado de casas inteligentes.
O dispositivo de US$ 120 (cerca de Rs. 8.500) detecta e alerta as pessoas sobre atividades acontecendo em suas casas e oferece acesso gratuito às imagens por 24 horas. Os usuários dispostos a pagar cerca de US$ 7 a US$ 20 por uma assinatura mensal podem estender esse acesso por até um mês e receber alertas personalizados – por exemplo, sobre um bebê chorando ou um alarme de fumaça. A Amazon não revela quantas Cloud Cams vende, mas o dispositivo é apenas uma das muitas câmeras de segurança doméstica no mercado, desde a Nest do Google até a Ring, de propriedade da Amazon.
Embora os algoritmos de IA estejam cada vez melhores em aprender sozinhos, a Amazon, como muitas empresas, implanta treinadores humanos em seus negócios; eles ajudam Alexa a entender comandos de voz, ensinam as lojas de conveniência automatizadas Amazon Go da empresa a distinguir um comprador de outro e estão até trabalhando em um software de voz experimental projetado para detectar emoções humanas.
O uso de humanos para treinar a inteligência artificial dentro de produtos de consumo é controverso entre os defensores da privacidade devido às preocupações de que seu uso possa expor informações pessoais. A revelação de que uma equipe da Amazon ouve comandos de voz Alexa e divulgações subsequentes sobre programas de revisão semelhantes no Google e na Apple chamaram a atenção de reguladores e legisladores europeus e americanos. O alvoroço até estimulou alguns proprietários de Echo a desconectar seus dispositivos.
Em meio à reação negativa, tanto a Apple quanto o Google interromperam seus próprios programas de revisão humana. Por sua vez, a Amazon começou a permitir que os usuários do Alexa excluíssem suas gravações de voz da revisão manual e mudou suas políticas de privacidade para incluir uma explicação de que humanos podem ouvir suas gravações.
Relatórios dos sites de tecnologia Information e Intercept do ano passado examinaram o papel humano no treinamento do software por trás das câmeras de segurança construídas pela Ring. Os sites relataram que os funcionários usaram clipes que os clientes compartilharam por meio de um aplicativo Ring para treinar algoritmos de visão computacional e, em alguns casos, compartilharam vídeos não criptografados de clientes entre si.
A Amazon não informa muito aos clientes sobre seu processo de solução de problemas para Cloud Cam. Nos seus termos e condições, a empresa reserva-se o direito de processar imagens, áudio e vídeo captados pelos dispositivos para melhorar os seus produtos e serviços.
Em uma sessão de perguntas e respostas sobre o Cloud Cam em seu site, a Amazon diz que “somente você ou as pessoas com quem você compartilhou as informações da sua conta podem visualizar seus clipes, a menos que você opte por nos enviar um clipe diretamente para solução de problemas. Os clientes também podem optar por compartilhar clipes via e-mail ou mídia social.”
As equipes do Cloud Cam na Índia e na Romênia não sabem como a empresa seleciona os clipes a serem anotados, de acordo com três pessoas, mas disseram que não houve falhas técnicas óbvias nas imagens que exigiriam o envio para fins de solução de problemas.
Em um evento do setor esta semana, David Limp, que dirige o Alexa da Amazon e as equipes de hardware, reconheceu que a empresa poderia ter sido mais aberta sobre o uso de pessoas para auditar IA. “Se eu pudesse voltar no tempo, isso seria o que eu faria melhor”, disse ele. “Eu teria sido mais transparente sobre por que e quando usamos a anotação humana.”
© 2019 Bloomberg LP
Acompanhe as novidades do Consumer Electronics Show no Gadgets 360, em nosso hub CES 2025.
source – www.gadgets360.com
