A decisão do Google de bloquear o lançamento do aplicativo Truth Social na Play Store devido a problemas de moderação de conteúdo levanta a questão de por que a Apple não tomou medidas semelhantes sobre a versão iOS do aplicativo que está disponível na App Store desde fevereiro. De acordo com um relatório da Axios, o Google encontrou várias postagens que violavam suas políticas de conteúdo da Play Store, bloqueando o caminho do aplicativo para ser lançado em sua plataforma. Mas alguns desses mesmos tipos de postagens parecem estar disponíveis no aplicativo iOS, descobriu o TechCrunch.
Isso pode desencadear uma nova revisão do aplicativo iOS da Truth Social em algum momento, já que as políticas da Apple e do Google estão amplamente alinhadas em termos de como os aplicativos com conteúdo gerado pelo usuário devem moderar seu conteúdo.
A Axios relatou esta semana pela primeira vez a decisão do Google de bloquear a distribuição do aplicativo Truth Social em sua plataforma, após uma entrevista dada pelo CEO do aplicativo, Devin Nunes. O ex-congressista e membro da equipe de transição de Trump, agora CEO de mídia social, sugeriu que o atraso com o lançamento do aplicativo para Android estava do lado do Google, dizendo: “Estamos esperando que eles nos aprovem, e não sei o que está acontecendo. tanto tempo.”
Mas essa foi uma caracterização equivocada da situação, disse o Google. Depois que o Google revisou o último envio da Truth Social para a Play Store, encontrou várias violações de política, sobre as quais informou a Truth Social em 19 de agosto. O Google também informou a Truth Social sobre como esses problemas poderiam ser resolvidos para entrar na Play Store , observou a empresa.
“Na semana passada, a Truth Social escreveu de volta reconhecendo nosso feedback e dizendo que está trabalhando para resolver esses problemas”, compartilhou um porta-voz do Google em comunicado. Essa comunicação entre as partes ocorreu uma semana antes da entrevista de Nunes, onde ele insinuou que a bola estava agora no tribunal do Google. (O subtexto de seus comentários, é claro, era que a mídia conservadora estava sendo censurada pela Big Tech mais uma vez.)
O problema aqui decorre da política do Google para aplicativos que apresentam conteúdo gerado pelo usuário, ou UGC. De acordo com essa política, aplicativos dessa natureza devem implementar “moderação de UGC robusta, eficaz e contínua, conforme razoável e consistente com o tipo de UGC hospedado pelo aplicativo”. A moderação da Truth Social, no entanto, não é robusta. A empresa disse publicamente que conta com um sistema automatizado de moderação de IA, Hive, que é usado para detectar e censurar conteúdo que viola suas próprias políticas. Em seu site, a Truth Social observa que os moderadores humanos “supervisionam” o processo de moderação, sugerindo que ele usa uma mistura padrão do setor de IA e moderação humana. (É importante notar que a Apptopia, empresa de inteligência da loja de aplicativos, disse ao TechCrunch que o aplicativo móvel Truth Social não está usando o Hive AI. Mas diz que a implementação pode ser do lado do servidor, o que estaria além do escopo do que pode ver.)
O uso de moderação com tecnologia de IA pelo Truth Social não significa necessariamente que o sistema seja suficiente para colocá-lo em conformidade com as próprias políticas do Google. A qualidade dos sistemas de detecção de IA varia e, em última análise, esses sistemas impõem um conjunto de regras que a própria empresa decide implementar. De acordo com o Google, várias postagens do Truth Social encontradas continham ameaças físicas e incitações à violência – áreas que a política da Play Store proíbe.
Créditos da imagem: Listagem da Play Store da Truth Social
Entendemos que o Google apontou especificamente para o idioma em sua política de conteúdo gerado pelo usuário e política de conteúdo impróprio ao fazer sua determinação sobre o Truth Social. Essas políticas incluem os seguintes requisitos:
Os aplicativos que contêm ou apresentam UGC devem:
Exija que os usuários aceitem os termos de uso e/ou a política do usuário do aplicativo antes que os usuários possam criar ou fazer upload de UGC.
Defina conteúdo e comportamentos censuráveis (de acordo com as Políticas do programa para desenvolvedores do Google Play) e proíba-os nos termos de uso do app ou nas políticas do usuário.
Implemente moderação de UGC robusta, eficaz e contínua, conforme razoável e consistente com o tipo de UGC hospedado pelo aplicativo.
E:
Discurso de ódio — Não permitimos aplicativos que promovam violência ou incitem ódio contra indivíduos ou grupos com base em raça ou origem étnica, religião, deficiência, idade, nacionalidade, status de veterano, orientação sexual, gênero, identidade de gênero, casta, status de imigração , ou qualquer outra característica que esteja associada à discriminação ou marginalização sistêmica.
Violência — Não permitimos apps que retratam ou facilitam violência gratuita ou outras atividades perigosas.
Conteúdo terrorista — Não permitimos apps com conteúdo relacionado ao terrorismo, como conteúdo que promova atos terroristas, incite à violência ou celebre ataques terroristas.
E embora os usuários possam postar inicialmente esse conteúdo – nenhum sistema é perfeito – um aplicativo com conteúdo gerado pelo usuário como o Truth Social (ou Facebook ou Twitter, nesse caso) precisaria remover essas postagens em tempo hábil moda a fim de ser considerado em conformidade.
Nesse ínterim, o aplicativo Truth Social não está tecnicamente “banido” do Google Play – na verdade, o Truth Social ainda está listado para pré-venda hoje, como Nunes também apontou. Ele ainda pode fazer alterações para entrar em conformidade ou pode escolher outro meio de distribuição.
Ao contrário dos dispositivos iOS, os aplicativos Android podem ser carregados ou enviados para lojas de aplicativos de terceiros, como as executadas pela Amazon, Samsung e outras. Ou o Truth Social pode optar por fazer o que o aplicativo conservador de mídia social Parler fez após sua suspensão das lojas de aplicativos no ano passado. Embora a Parler tenha optado por fazer ajustes para retornar à App Store da Apple, agora distribui a versão Android de seu aplicativo diretamente de seu site – não da Play Store.
Enquanto o Truth Social decide seu curso para o Android, um exame de postagens na versão iOS do Truth Social revelou uma variedade de conteúdo antissemita, incluindo negação do Holocausto, bem como postagens promovendo o enforcamento de funcionários públicos e outros (incluindo aqueles na comunidade LGBTQ + ), postagens defendendo a guerra civil, postagens em apoio à supremacia branca e muitas outras categorias que parecem violar as próprias políticas da Apple sobre conteúdo censurável e aplicativos UGC. Poucos estavam atrás de uma tela de moderação.
Não está claro por que a Apple não tomou medidas contra o Truth Social, já que a empresa não comentou. Uma possibilidade é que, no momento do envio original do Truth Social para a App Store da Apple, o novo aplicativo tinha muito pouco conteúdo para uma equipe de App Review analisar, então não tinha nenhum conteúdo violador para sinalizar. O Truth Social usa telas de filtragem de conteúdo no iOS para ocultar algumas postagens atrás de um aviso de clique, mas o TechCrunch considerou o uso dessas telas aleatório. Enquanto as telas de conteúdo obscureceram algumas postagens que pareciam violar as regras do aplicativo, as telas também obscureceram muitas postagens que não continham conteúdo censurável.
Supondo que a Apple não tome nenhuma ação, o Truth Social não seria o primeiro aplicativo a sair do ecossistema online pró-Trump e encontrar um lar na App Store. Vários outros aplicativos projetados para atrair a direita política com promessas grandiosas sobre a ausência de censura também receberam luz verde da Apple.
As redes sociais Gettr e Parler e o aplicativo de compartilhamento de vídeo Rumble todos têm aproximadamente o mesmo público com reivindicações semelhantes de moderação “hands-off” e estão disponíveis para download na App Store. Gettr e Rumble estão disponíveis na Google Play Store, mas o Google removeu Parler em janeiro de 2021 por incitar a violência relacionada ao ataque ao Capitólio e não o restabeleceu desde então.
Todos os três aplicativos têm ligações com Trump. A Gettr foi criada pelo ex-assessor de Trump Jason Miller, enquanto a Parler foi lançada com a bênção financeira da grande doadora de Trump Rebekah Mercer, que assumiu um papel mais ativo na direção da empresa após o ataque de 6 de janeiro ao Capitólio dos EUA. No final do ano passado, Rumble fechou um acordo de conteúdo com a empresa de mídia do ex-presidente Trump, Trump Media & Technology Group (TMTG), para fornecer conteúdo de vídeo para o Truth Social.
Muitas redes sociais foram implicadas no ataque de 6 de janeiro – tanto as redes sociais convencionais quanto os aplicativos que atendem explicitamente aos apoiadores de Trump. No Facebook, os teóricos da conspiração eleitoral reuniram-se em grupos populares e se organizaram abertamente em torno de hashtags como #RiggedElection e #ElectionFraud. Os usuários do Parler apareceram com destaque entre os manifestantes que correram para o Capitólio dos EUA, e o Gizmodo identificou alguns desses usuários por meio de metadados de GPS anexados a suas postagens de vídeo.
Hoje, o Truth Social é um refúgio para grupos políticos e indivíduos que foram expulsos das principais plataformas por preocupações de que possam incitar a violência. O ex-presidente Trump, que fundou o aplicativo, é o mais proeminente entre as figuras desplataformadas que se estabeleceram lá, mas o Truth Social também oferece um refúgio para o QAnon, uma teoria da conspiração política de culto que foi explicitamente barrada das principais redes sociais como Twitter, YouTube e Facebook devido à sua associação com atos de violência.
Somente nos últimos anos, isso inclui um pai da Califórnia que disse que atirou em seus dois filhos com um arpão devido à sua crença em delírios de QAnon, um homem de Nova York que matou um chefe da máfia e apareceu com um “Q” escrito na palma da mão no tribunal e vários incidentes de terrorismo doméstico que precederam o ataque ao Capitólio. No final de 2020, o Facebook e o YouTube apertaram suas regras de plataforma para limpar o conteúdo do QAnon depois de anos permitindo que ele florescesse. Em janeiro de 2021, apenas o Twitter reprimiu uma rede de mais de 70.000 contas que compartilhavam conteúdo relacionado ao QAnon, com outras redes sociais seguindo o exemplo e levando a ameaça a sério à luz do ataque ao Capitólio.
Um relatório divulgado esta semana pela agência de notícias NewsGuard detalha como o movimento QAnon está vivo e bem no Truth Social, onde várias contas verificadas continuam a promover a teoria da conspiração. O ex-presidente Trump, o CEO da Truth Social e o ex-representante da Câmara Devin Nunes, e Patrick Orlando, CEO da Digital World Acquisition Corporation (DWAC), patrocinadora financeira da Truth Social, promoveram o conteúdo QAnon nos últimos meses.
No início desta semana, o ex-presidente Trump lançou uma série de postagens promovendo explicitamente o QAnon, citando abertamente a teoria da conspiração ligada à violência e ao terrorismo doméstico, em vez de confiar em linguagem codificada para falar com seus apoiadores, como fez no passado. Essa escalada combinada com a investigação federal em andamento sobre o suposto manuseio incorreto de informações confidenciais de alto risco por Trump – uma situação que já inspirou violência no mundo real – aumenta as apostas em um aplicativo social em que o ex-presidente é capaz de se comunicar abertamente com seus seguidores em tempo real. Tempo.
Que o Google tome uma ação preventiva para manter a Truth Social da Play Store enquanto a Apple está, até agora, permitindo que ela opere é uma mudança interessante nas políticas das duas gigantes da tecnologia sobre moderação e policiamento da loja de aplicativos. Historicamente, a Apple tomou uma mão mais pesada na moderação da App Store – selecionando aplicativos que não estavam de acordo com os padrões, mal projetados, muito adultos, muito spam ou mesmo operando em uma área cinzenta que a Apple mais tarde decide que agora precisa de fiscalização. O motivo pelo qual a Apple está desinteressada nesse caso específico não está claro, mas a empresa está sob intenso escrutínio federal nos últimos meses por causa de sua abordagem intervencionista ao lucrativo mercado de aplicativos.
source – techcrunch.com
