Por que as big techs não censuraram os vídeos de Charlie Kirk?

Há cerca de vinte dias foi morto nos Estados Unidos o ativista de ultra-direita Charlie Kirk. Conhecido por suas declarações racistas e supremacistas, Kirk participava de um evento conservador na Universidade de Utah quando levou um tiro no pescoço em frente a milhares de pessoas. Se você tem uma conta em alguma rede social, provavelmente você deve ter visto a cena.

E esse é o ponto.

Os mecanismos de controle de conteúdo impróprio se baseiam, no geral, em duas etapas. A primeira delas é a avaliação automatizada, no momento da postagem. Baseados em padrões, visão computacional e inteligência artificial, os servidores das big techs são capazes de reconhecer esse tipo de conteúdo e aplicar sanções que vão desde o impedimento da postagem, restrições de alcance, alerta de conteúdo sensível ou banimento da conta. Essa etapa é responsável por quase todo o controle.

Em um segundo momento, em casos mais específicos, o conteúdo passa por revisão humana (leia-se, trabalho precarizado na periferia do capitalismo em que pessoas recebem frações de centavos para serem expostas diariamente à violência gráfica).

Como o grosso desse processo é feito por máquinas, o processo acaba sendo opaco e cheio de falhas. Mães têm contas restringidas por cenas de amamentação, pessoas da comunidade trans arbitrariamente censuradas ou o fatídico caso do jornal norueguês Aftenposten que teve uma postagem enquadrada como pornografia infantil ao publicar a histórica foto da “menina do Napalm”.

Jornal norueguês sofre restrições por foto marcada como conteúdo explícito. E não era a invasão do Vietnã.

Mas enquanto pagar peitinho parece ser a grande preocupação das big techs, a pergunta que fica é: o que faltou para derrubarem as cenas do assassinato de Charlie Kirk? Será que a imagem não cumpriu todos os critérios para ser enquadrada como violência explícita? Quem ganha com isso?

Há um problema aqui: levantar a suspeita sem mostrar as evidências é o terreno fértil para teorias da conspiração ­– e o caso Kirk está cercado delas – como bem pontuou Cheyenne Hunt em seu perfil no Instagram. Cheyenne, que é advogada e atua ativamente pela regulamentação das big techs, lembra ainda que após o massacre em uma igreja transmitido ao vivo pelo Facebook, foi criado o Global Internet Forum to Counter Terrorism (Fórum Global da Internet para combate ao terrorismo, em uma tradução livre). Parte dos compromissos assumidos pelos signatários do Fórum é que o conteúdo marcado como violento ou explícito em uma plataforma deve ser também restrito em outras pelo compartilhamento de dados.

Não que devêssemos depositar alguma esperança nisso tudo. Muitos setores progressistas respondem a essas “falhas” exigindo mais regulamentação, mas não levam em conta que o Estado capitalista é controlado pelos mesmos interesses de quem sustenta as big techs e seus acionistas. Regulamentação em uma economia capitalista é importante, como um primeiro passo, mas não avançar para além de uma medida paliativa. Se ela não for acompanhada da luta pela expropriação dessas empresas e pelo controle democrático da comunicação pela classe trabalhadora, seguirá sendo apenas um verniz para legitimar o mesmo sistema que lucra com a violência, o ódio e a polarização.

Mas de volta ao fato: será que em nenhuma plataforma, nenhum dos mecanismos automáticos de detecção, em nada, o vídeo do pescoço de Kirk jorrando não foi enquadrado? Se pensarmos que esse setor não é um intermediário neuto, que acumulam capital com isso e que polarização política não é apenas efeito colateral, mas uma forma de financeirização, é difícil pensar em uma mera “falha.”

O portal The Verge entrou em contato com todas elas para questionar esse ponto e as respostas foram todas genéricas evasivas. É difícil saber.  Mas o que sabemos, com certeza, é que esse não é um caso isolado. Existem inúmeros relatos de arbitrariedade ou simplesmente vista grossa. Para citar um caso recente que provocou um abalo na opinião pública, temos no Brasil as denúncias feitas pelo influenciador Felca sobre as redes de pedofilia e como as plataformas de mídias sociais são coniventes com isso.

A verdade é que as plataformas lucram com isso. Retenção de usuários, engajamento e tempo de tela são métricas de lucro para as big techs e o punhado de bilionários por trás delas. Não é exagero imaginar quanto engajamento a polarização sobre o caso gerou para essas empresas.

E mais, é inegável o fato de que o assassinato de Kirk está sendo usado a exaustão pela extrema direita global para alavancar uma série de ações como a criminalização do movimento antifascista, os ataques ao ensino universitário e à liberdade de expressão. É muito conveniente que esse vídeo tenha sido visto por milhões e milhões de pessoas sem sofrer sequer um tipo de restrição.

Longe de mim sugerir qualquer teoria mirabolante e conspiratória. Mas, para fins práticos, esse efeito está dado na realidade, independentemente se foi intencional ou apenas conivência das big techs que, nunca é demais lembrar, lucram com isso e estão sempre do lado de quem é contra a regulamentação.