Fake News no WhatsApp: uma estratégia para combatê-las

 Fake News no WhatsApp: uma estratégia para combatê-las

Esta matéria foi publicada originalmente no site O Iceberg. O Iceberg (http://oiceberg.com.br/) é uma produção institucional com o objetivo de apoiar o jornalismo destemido e combativo e a pesquisa em gestão pública, formado por um grupo de servidores públicos de carreira, espalhados por diversos órgãos e governos.


Pelo esgoto das “redes sociais” circula todo tipo de conteúdo tóxico: desde calúnias, difamações e ameaças, até movimentos antivacina e teorias conspiratórias absolutamente inacreditáveis. São as tais fake news. É preciso pensar em alguma estratégia possível de ser colocada em prática para conter-se a disseminação das fake news no WhatsApp. Caso nada efetivo seja feito, não apenas as democracias correm risco de entrar em colapso, mas a própria humanidade corre o risco de entrar em extinção. Pode parecer exagero, mas não é! 

A disseminação de fake news no WhatsApp e nas outras “redes sociais” deve ser compreendida da mesma forma que se compreende — e se lida com — um vírus de computador: deve-se identificá-lo a partir de um sistema de busca e eliminá-lo. 

Posto isso, é importante compreender que as possíveis formas de se tratar este problema variam entre redes abertas (Twitter, Facebook e Instagram) X redes fechadas (WhatsApp e Telegram). No caso das redes abertas a principal dificuldade é menos identificar as mensagens (que são públicas) e mais identificar e isolar os usuários disseminadores. Já nas redes fechadas, a identificação das mensagens é o principal problema, pois sua arquitetura é criptografada de ponta a ponta e as mensagens são privadas (e isso é algo bom, que não deve ser mudado, pois garante alguma privacidade para os usuários não serem bisbilhotados por governos nem empresas).

O texto a seguir apresenta uma estratégia concreta e factível para combater a disseminação de fake news no WhatsApp e toda a variedade de bizarrices que circulam nessa rede social fechada. Serão considerados aspectos técnicos específicos dessa plataforma e soluções concretas que podem ser desenvolvidas pela empresa (se houver boa vontade ou se ela for obrigada a fazê-lo).

Fake News no WhatsApp e antivírus: qual a relação?

Existem basicamente 5 tipos de mensagens que podem ser enviadas pelo WhatsApp: (1) texto, (2) áudio, (3) foto, (4) vídeo e (5) documento. Toda mensagem pode ser convertida num pequeno código único por meio de uma Função Hash.

Existem dezenas de diferentes formas de chegar-se ao hash de uma mensagem, e não há muita complexidade nisso. Por exemplo, o hash (sha1) da mensagem “Bom Dia!” é: 59fdfd65de06a9c4654071f58c847b23e308bb14 (faça você mesmo/a).

A mensagem “Bom Dia!” possui esse mesmo hash no celular de qualquer usuário. Um determinado vídeo contendo uma teoria da conspiração, ou um texto fake sobre cloroquina, um áudio falando sobre a mamadeira de piroca ou uma imagem “denunciando” a existência de um “kit gay“, cada um deles, tem um hash único!

As mensagens bizarras que circulam como fake news no WhatsApp podem ser compreendidas a partir da mesma lógica dos famosos antivírus (Norton, McAffee, AVG etc.). Um vírus de computador contido em um arquivo infectado está para o Windows assim como uma fake news contida em uma mensagem bizarra está para o WhatsApp.

Os antivírus possuem um banco de dados com os vírus já identificados. Eles ficam verificando se algum arquivo do computador possui o código de algum dos vírus catalogados em suas base de dados. Basicamente, a lógica é a mesma: temos que construir uma base de dados de bizarrices que circularam como fake news no WhatsApp e criar um mecanismo que verifique quais dessas mensagens infectadas está nos aplicativos dos usuários sem comprometer sua privacidade.

E como fazer isso respeitando a privacidade dos usuários?

A troca de mensagens entre os usuários do WhatsApp é criptografada de ponta a ponta e usa o Protocolo Signal, que é o estado da arte no assunto. Contudo, dentro dos aparelhos dos usuários as mensagens armazenadas podem ser verificadas pelo próprio aplicativo sem comprometer a privacidade dos usuários. Como? Por meio do cruzamento de hashes.

Do lado da plataforma, no servidor armazenado pela empresa, seria criado um banco de dados de todas as mensagens identificadas como bizarras (e seus respectivos hashes). Do lado do usuário seria criado um banco de dados local com os hashes de todas as mensagens contidas no aplicativo. Uma vez por dia o aplicativo WhatsApp faz o backup das mensagens lá pelas 02h00 da madrugada. Pode fazer também uma checagem de hashes “contaminados” às 03h00.

E se tiver hashes de mensagens “contaminadas” no celular do usuário, o que deve ser feito?

Muitas possibilidades. Pode ser criado no aplicativo um canal de notificações exclusivo para informar o usuário que ele recebeu uma mensagem bizarra, dizer qual é, quando recebeu, quem enviou etc. E tudo isso sem a empresa ter conhecimento. Podem informar qual é a bizarrice, desmentir, informar qual é o problema de cada uma das mensagens classificadas como bizarras, e por aí vai. Todos os usuários que receberam uma mensagem bizarra serão informados sem que a plataforma sequer saiba quem são esses usuários. Existem inúmeras maneiras de desenvolver isso sem comprometer a privacidade dos usuários: broadcastrepositório etc.

Mas como diminuir a disseminação de fake news no WhatsApp?

Bom, até aqui a solução apresentada foi apenas de natureza informativa. É como um antivírus que envia um alerta para o usuário que recebeu um arquivo com vírus informando que ele foi contaminado e pergunta o que deve ser feito: nada, colocar em quarentena, excluir o arquivo etc. No caso do WhatsApp as opções poderiam ser algo como: não fazer nada, apagar a mensagem, enviar uma resposta para quem enviou a mensagem contaminada pedindo para tomar mais cuidado, se foi em um grupo pode ser sair do grupo etc.

E se quisermos frear ativamente a disseminação?

Nesse caso, é possível que além do sistema de alertas (informando que a pessoa recebeu bizarrices), seja construído um sistema de pontuação ativado quando o usuário envia mensagens bizarras. Hoje já existe alguma coisa nesse sentido, que é só poder encaminhar uma mensagem para 5 contatos e, depois, só para 1 contato por vez. É melhor do que nada, mas bem insuficiente.

Um sistema de pontos para frear a disseminação pode funcionar assim:

  • Até 5 alertas enviados à pessoa informando que ela encaminhou mensagens bizarras, nada acontece.
  • De 6 a 10 o tempo para conseguir encaminhar mensagens aumenta para uma hora.
  • Se enviar de 11 a 15 fica impedido de encaminhar mensagens por 24 horas.
  • De 16 a 20 aumenta para uma semana essa suspensão para encaminhamento de mensagens.
  • Enviando de 20 a 25 a suspensão vai para um mês.
  • De 26 a 30, dois meses.
  • Se enviar de 31 a 35 mensagens bizarras, é suspenso da plataforma por uma semana.
  • Se enviar 36, o usuário é banido por um ano. E por aí vai.

Tudo isso transparente, bem claro para que todos os usuários entendam as regras de uso da plataforma. Regras aplicadas por CPF e não por número de telefone, obviamente, para evitar malandragem.

O que mais pode ser feito para diminuir focos de disseminação tais como os grupos?

Um sistema de pontuação deve ser aplicado também a grupos. Grupos em que circulam muitas mensagens bizarras também devem sofrer sanções visando diminuir a velocidade de disseminação. Assim, tanto os usuários que são disseminadores ativos de mensagens bizarras como grupos usados para essa finalidade seriam freados. E tudo isso pode ser feito preservando a privacidade dos usuários e as mensagens trocadas, pois todo esse processamento de pontuações — e consequentes sanções — seria feito localmente no aplicativo do usuário, e não remotamente no servidor da empresa. Nessa implementação a empresa só saberia a pontuação dos usuários, mas não quais as mensagens bizarras que eles enviaram para atingi-la.

Mas também poderia ser informado ao servidor central do WhatsApp contas que são vetores de altíssima disseminação (por exemplo, 10 mensagens bizarras encaminhadas num único dia) e essas pessoas poderiam ser imediatamente suspensas por um mês, para ficarem espertas. Mensagens identificadas como calúnias e difamações (que são crimes tipificados em lei) poderiam ter seus vetores primários, aqueles que enviaram pela primeira vez a mensagem, identificados e entregues às autoridades policiais para as providências judiciais adequadas.

Como é que as fake news no WhatsApp seriam analisadas se a plataforma não tem acesso às mensagens?

Nas redes abertas esse mecanismo de sinalização já existe. No Twitter o usuário clica sobre a mensagem e aparece o “Report Tweet“. Já no Facebook tem o “Find support or report post“. No Instagram tem o “Report…“.

Nas redes fechadas pode ser criada uma solução semelhante, clicando sobre a mensagem e aparecendo alguma opção do tipo “Denuncie essa mensagem”. Outra solução é criar um canal oficial do WhatsApp no aplicativo para o qual o usuário possa encaminhar qualquer mensagem que ele queira denunciar para ser verificada. Chegou lá, a mensagem (e seu respectivo hash) passa a ser conhecida pela plataforma.

E isso é importante: foi algum usuário que enviou, e não oWhatsApp que quebrou a privacidade para garimpar as mensagens. Daí em diante, como as mensagens serão analisadas, existe um universo infinito de possibilidades, uma melhor do que a outra.

Mas quem é que vai definir o que é fake news ou não?

Pode ser que o WhatsApp crie um departamento interno de análise. Essa solução é ruim, as redes abertas já fazem isso e o resultado é péssimo. Pode ser um órgão público que siga regulamentações para fazer essa análise (solução média). Pode ser estabelecido um consórcio com agências de checagem de notícias para que profissionais independentes (sem vínculo empregatício com o WhatsApp nem subordinados a algum governo) façam essas análises, identifiquem as bizarrices e produzam os desmentidos, as correções.

Essa última é a melhor solução, a nosso ver. Esse consórcio poderia ser financiado de diversas maneiras pensadas para garantir a independência e a autonomia desses profissionais.

E se esse canal de denúncias for bombardeado de mensagens?

O sistema de pontos pode ser ajustado também para esse tipo de problema. Usuários que inundem (flooding) o canal na tentativa de atrapalhar o processo de checagem devem ser classificados como “trolls” e suas mensagens ignoradas; após serem informados, caso mantida a conduta, suspensos ou até banidos. Usuários que denunciam mensagens realmente bizarras devem ser classificados com maior credibilidade e as mensagens enviadas por eles podem ser melhor classificadas na fila de análise.

O banco de dados com todas as mensagens denunciadas, analisadas e classificadas como bizarras deve ser público, acompanhadas dos respectivos desmentidos, para que qualquer um possa verificar o processo de checagem e informar-se.

Não existe o risco de haver uma censura prévia?

É claro que uma solução poderia ser simplesmente impedir que as mensagens classificadas como fake news trafeguem pelo aplicativo. Entretanto, isso invadiria a fronteira da censura e deve ser evitado. É melhor que o aplicativo analise os hashes das mensagens localmente e, caso identifique hashes de fake news, informe o usuário que recebeu a mensagem.

Assim, mesmo as fake news continuariam circulando sem o risco de censura à livre circulação de ideias. Contudo, os usuários teriam acesso ao contraditório e o direito de saber que um órgão mais sério e íntegro do que o “tio do pavê” ou o “grupo da família” identificou aquela mensagem como conteúdo mentiroso, ou algo do tipo.

Depois disso, as pessoas pelo menos terão informação suficiente para conseguirem não acreditar em tudo que recebem. Afinal, sejamos francos, demorará muitos anos ainda até que a humanidade aprenda a lidar com essa tecnologia sem ser tão facilmente manipulada.

Considerações Finais

No fundo, é isso: as mensagens bizarras devem ser tratadas como vírus de computador. Os usuários que recebem essas mensagens passivamente devem ser informados sobre as mensagens bizarras que eles receberam. E os usuários que são disseminadores ativos, não importa se por má-fé deliberada ou por pura idiotice, teriam a velocidade de disseminação cada vez mais diminuída, até o ponto de, caso não parem, serem suspensos e até banidos da plataforma após serem repetidamente informados.

Esperamos que esse breve artigo sirva para que as autoridades, os coletivos, os jornalistas, os políticos e a sociedade como um todo compreendam que as dificuldades técnicas para resolver o problema da disseminação de fake news no WhatsApp não exigem tecnologia alienígena para serem superadas. =)

Esperamos também que todos possam fazer bom uso e que sirva como insumo para serem construídas outras soluções, argumentos e pressão para que a empresa desenvolva logo as soluções técnicas para frear a contaminação da esfera pública causada pelo compartilhamento irrestrito de fake news no WhatsApp.

Ou é isso, ou vamos acabar implodindo as bases que sustentam a democracia capitalista (ao invés de superá-la) e levando a espécie humana à extinção nos próximos anos se não pararmos de acreditar em todas as imbecilidades que circulam secretamente no WhatsApp.

Hoje é 06 de agosto de 2020. Quanto tempo demorará para o WhatsApp desenvolver essa solução ou uma melhor?

Equipe NUJOC