“O pássaro está livre”. Este foi o primeiro tweet de Elon Musk, CEO da Tesla Inc., após a aquisição do Twitter no dia 27 de outubro de 2022 por 44 bilhões de dólares. Atualmente no posto de homem mais rico do mundo, um de seus primeiros atos como dono da rede social do passarinho azul foi demitir diversos executivos do alto escalão do Twitter, incluindo o presidente executivo Parag Agrawal. Este é mais um sinal dos possíveis caminhos que a mídia social deve tomar com seu novo proprietário. Mas quais seriam eles? Vejamos alguns pontos.

A defesa da liberdade de expressão absoluta

Musk se auto intitula “absolutista da liberdade de expressão”. O posicionamento dialoga com a Primeira Emenda à Constituição dos Estados Unidos, a qual afirma que o congresso não pode fazer leis que impeçam, entre várias liberdades protegidas, a liberdade de expressão. Juristas absolutistas levavam essa leitura ao pé da letra. 

Agora a intenção é trazer essa perspectiva para o campo digital. Em um dos tweets publicados após a aquisição, estava a informação de que o novo conselho de moderação de conteúdo seria formado por pessoas de “pontos de vista muito diversos”. Enquanto absolutista, todo tipo de expressão é válida, seja ela dentro do campo democrático ou não. Por isso, Musk já afirmou publicamente defender a reversão do banimento de Donald Trump do Twitter, ação tomada pela empresa após a invasão do Capitólio em janeiro de 2021.

A forma como a liberdade de expressão é utilizada de forma a possibilitar com que discursos de ódio sejam proferidos não é nova. No caso Village of Skokie v. National Socialist Party of America, 373 N. E. 2d 21 (Ill. 1978), o partido neonazista utilizou-se da Primeira Emenda para que sua demonstração pública fosse realizada na cidade de Skokie. Ainda que no final não tenha sido realizada no local inicialmente escolhido, a cidade foi intencionalmente apontada pelo grupo para a realização do ato público por ser lar de milhares de judeus, inclusive sobreviventes do holocausto. 

Hoje a situação não é muito diferente. Após realizar postagem anti semita, acarretando em sua suspensão no Instagram e Twitter, o rapper Kanye West (Ye) iniciou o processo de aquisição da plataforma Parler. No comunicado, o perfil da rede social informou que o processo de compra indica um passo na criação de um ecossistema digital “incancelável”, no qual “todas as vozes são bem vindas” – em referência a um tweet do artista. No cenário brasileiro, ainda que em um contexto jurídico e cultural diferente, o presidente Jair Bolsonaro e seus apoiadores utilizam da mesma defesa da liberdade de expressão para proferir e disseminar desinformação a fim de evitar sanções das plataformas digitais.

À luz disso, neste aspecto o cenário aparenta estar posto em dois pontos. Um deles se refere aos grupos que tradicionalmente se apoiam no direito à liberdade de expressão para ocupar espaços online. Estes já se sentem “empoderados” com a aquisição do Twitter pelo Elon Musk. Monark, um dos nomes brasileiros ávidos na defesa dessa abordagem irrestrita, comemorou dizendo que o Twitter pertence à “gangue da liberdade de expressão”. Com isso, grupos conservadores, de extrema-direita e direita alternativa (alt-right) poderão ter caminhos mais fáceis para crescerem e compartilhar discursos de ódio, teorias conspiratórias e desinformação na plataforma do pássaro azul, agora que ele foi “libertado”. 

O debate sobre regulação das plataformas e obrigações na moderação de conteúdo

Outra temática, fruto desse possível crescimento, pode vir a ganhar proeminência no debate: a moderação de conteúdo e regulação de plataformas.

A regulação das plataformas de Internet vem se mostrando como uma das agendas prioritárias para a proteção dos direitos humanos na era digital. O modelo de negócio dessas empresas, calcado desde o início no capitalismo de vigilância, definido por Shoshana Zuboff, provocou uma enorme assimetria de poder entre as empresas e seus usuários, na medida que o compartilhamento de dados e informações dos usuários de forma massiva fez crescer os cofres das empresas, gerando lucros na casa dos bilhões, o que provocou, por consequência, o surgimento de verdadeiros monopólios informacionais.

Por este motivo, tais empresas detém, também, o poder de regular o discurso dos seus usuários por meio dos algoritmos. Aqui podemos resgatar a clássica obra do professor Lawrence Lessig como fundamento: código é lei. As modulações algorítmicas são capazes de determinar quais discursos são prioritários e merecem maior destaque, o famoso engajamento, e, claro, isso é feito conforme os interesses corporativos.

Ocorre que esses interesses corporativos não podem se sobrepor aos direitos dos usuários, de forma que faz-se necessária uma regulação protetiva da parte mais fraca dessa relação, que não detém o controle dos algoritmos e, consequentemente, do discurso predominante da plataforma.

Isso se conecta diretamente com a falta de transparência nos processos de moderação de conteúdos e contas. Frequentemente, as redes sociais apagam conteúdos ou sancionam contas sem uma explicação plausível ao usuário, ou mesmo a chance de se defender ou de explicar o que ocorreu. Sob a justificativa da infração a políticas da plataforma, sequer explicam que política foi ferida, deixando o usuário sem qualquer possibilidade de reação contra a medida. 

Com esse novo direcionamento do Twitter, de acordo com posicionamentos de seu novo detentor, é possível que seja aplicada essa defesa à liberdade de expressão irrestrita, o que impediria a moderação de conteúdos que contenham desinformação ou discurso de ódio, por exemplo, fazendo com que os propagadores dessas mensagens tenham um local seguro para destilar mentiras e ódio a minorias sociais. Ou seja, para que isso não ocorra é preciso que a regulação venha do Estado, em contraposição à regulação pelo código, que estabeleça uma defesa enfática dos direitos humanos nas plataformas, no caso em tela no Twitter, para que minorias sociais tenham sua segurança garantida no uso da referida rede.

Como defensor da mesma orientação política, o presidente Jair Bolsonaro chegou a publicar, em 2021, uma Medida Provisória que proibia a atividade de moderação de conteúdo das plataformas no Brasil. Referida medida modificava sobremaneira o Marco Civil da Internet, mas, como afirmamos no comentário publicado à época, era “uma forma de cercear a liberdade de provedores de estabelecerem regras em suas plataformas, especialmente para impedir a disseminação de notícias falsas e discursos de ódio na Internet”. 

Nesse sentido, vários modelos de regulação vêm sendo discutidos ao redor do mundo. Na lei europeia recém aprovada, o DSA (Digital Services Act), há regras claras de responsabilidade e prestação de contas para os provedores de aplicação, mas, ao mesmo tempo, promove a inovação, o crescimento e a competitividade deste segmento econômico. As obrigações, por sua vez, variam de acordo com o tamanho, a função e o impacto da plataforma, além do risco criado por cada uma delas ao que destacamos aqui: disseminação de conteúdo ilegal e prejudicial, como desinformação, discurso de ódio, pornografia ou discursos antidemocráticos.

Entretanto, todas as plataformas devem cumprir as regras estabelecidas nos artigos 10 a 13 do DSA, que tratam de due diligence e transparência. Entre essas regras estão a indicação de um representante legal no país, a prestação de informações sobre moderação de conteúdo e tomada de decisões por algoritmo, que devem constar dos termos e condições da plataforma, e a publicação de relatórios de transparência anuais.

O DSA estabelece, ainda, um mecanismo de notificação e reparação, ou seja, passa a ser obrigação das empresas a adoção de mecanismos de informação ao usuário sobre os motivos pelos quais o conteúdo foi removido ou bloqueado.

Aqui no Brasil a proposta do PL 2630/2020 ia no mesmo sentido, com todas as obrigações de transparência, motivação e reparação previstas no DSA. Mas o projeto se encontra parado na Câmara dos Deputados sem previsão de quando será retomada sua discussão.

Parece-nos que este modelo é capaz de oferecer aos usuários de plataformas na internet um bom arcabouço legal protetivo de direitos, havendo, por consequência, uma limitação na ação das plataformas sobre os discursos.  

Criptografia ponta-a-ponta no Twitter: uma realidade?

Além desses pontos, outro assunto altamente relacionado é o uso de criptografia ponta-a-ponta. A utilização deste tipo de técnica possibilita a garantia de segurança informacional, privacidade de informações e comunicações, garantindo uma gama de Direitos Humanos. Justamente motivado pela ênfase na privacidade, Musk endossou anteriormente o uso do aplicativo Signal, o qual desenvolveu o protocolo criptográfico também utilizado pelo WhatsApp. 

O uso de criptografia ponta-a-ponta entre conversas privadas no Twitter já é um projeto antigo. Em 2013, frente aos escândalos de programas de vigilância do governo estadunidense revelados por Edward Snowden, o Twitter projetava criptografar as mensagens privadas. Entretanto, tal projeto veio a ser arquivado um ano depois.  Em 2018, foi reportado que a rede social ainda mantinha os planos, realizando testes com um pequeno número de usuários. A função, contudo, não seria aplicada por padrão, como WhatsApp e Signal, mas sim ativada pelos participantes da conversa. 

O tema reacendeu em 2020, quando o Twitter foi alvo de um ataque hacker, atingindo contas de “alto perfil”, entre empresários, perfis de empresas e funcionários governamentais. Diversas informações foram acessadas, entre elas as mensagens privadas das contas invadidas. Por ser onde informações mais sensíveis estão localizadas, em virtude de serem trocadas em segredo entre os participantes da conversa por esperarem ter um canal seguro de comunicação, a Electronic Frontier Foundation (EFF) clamou na época para que as mensagens privadas no Twitter fossem criptografadas por padrão.

Entre as vítimas do ataque estava o próprio Elon Musk. Relacionado ou não com o fato, Musk afirmou após o início das negociações para a aquisição do Twitter que desejava que a rede social tivesse mensagens privadas criptografadas de ponta-a-ponta, para que ninguém pudesse “espionar ou hackear suas mensagens”. Assim que houve o anúncio das negociações entre o Twitter e Elon Musk, a EFF reforçou os pedidos de 2020 para que a aplicação de protocolos de criptografia para proteção dos usuários e de seus conteúdos transmitidos fossem aplicados, de forma a garantir a privacidade e segurança dessas pessoas.

A adoção de criptografia ponta-a-ponta viria em um momento crítico para a defesa de minorias sociais. Isto se dá, em parte, pela influência que o debate estadunidense, por ser ponto focal do Norte Global, tem em diversas partes do mundo. A revogação do caso Roe v Wade em 24 de junho de 2022, que legislava sobre direitos sexuais e reprodutivos das mulheres, marca um ponto de inflexão sobre como a privacidade é entendida também no âmbito online. A razão de tal fato se dá, como foi demonstrado no Observatório da Criptografia (ObCrypto), porque a decisão Roe v Wade foi fundamentada na Décima-quarta emenda à Constituição dos Estados Unidos, que aborda a privacidade dos cidadãos.  

Qualquer tipo de vazamento ou entrega de dados de comunicações para investigações que abordam relação entre mulheres e clínicas que realizam processos de aborto passam a ser considerados ilegais, colocando em risco todas as partes envolvidas – como é destacado na análise do ObCrypto. Este foi exatamente o caso em Nebraska, no qual uma investigação levou uma mãe e sua filha de 17 anos a serem processadas judicialmente. Para isso, as forças investigativas solicitaram à Meta dados entre as conversas de mãe e filha, que foram entregues em razão da falta de criptografia ponta-a-ponta nas mensagens privadas do Messenger e do Instagram. Caso tivessem, a Meta não teria capacidade técnica de acessar as conversas e seria impossibilitada de entregar os dados para investigação. Ainda que afirme não haver relação com o caso, a própria Meta anunciou na época que pretendia expandir os testes de criptografia por padrão nos seus outros serviços de mensagens. 

Dessa forma, a adoção de criptografia ponta-a-ponta no Twitter poderia ser considerada uma vitória. Daria aos usuários maior privacidade e segurança na troca de mensagens privadas, garantindo que não houvesse risco de que suas mensagens fossem espionadas por funcionários do Twitter ou entregues para investigações, caso solicitadas.

O cruzamento entre a criptografia ponta-a-ponta e a moderação de conteúdo

Na intersecção entre criptografia e moderação de conteúdo, novos desafios serão postos caso a proposta de Musk vá para frente. Como moderar num espaço no qual a plataforma não tem acesso aos materiais trocados em nível privado? É este desafio que o WhatsApp enfrenta para combater a desinformação na plataforma. Primeiramente, é necessário rechaçar qualquer proposta que vise implementar mecanismos para identificar autoria de mensagem, o que ficou conhecido como rastreabilidade, em âmbito de conversas de grupos públicos ou privados. Igualmente, precisamos negar qualquer opção de sistema de escaneamento de mensagens e conteúdos transmitidos, conhecido como client-side scanning. Ambos os casos não só enfraquecem a criptografia ponta-a-ponta, como quebram a promessa criptográfica de garantir comunicações privadas e seguras entre os usuários. 

No relatório Olhando de fora para dentro: Abordagens para a moderação de conteúdo em Sistemas com Criptografia de Ponta a Ponta, produzido pelo Center for Democracy & Technology, a organização entendeu que denúncia por usuários e análise de metadados podem ser as formas mais eficazes de combater conteúdo em sistemas criptografados de ponta-a-ponta. Estes dois são exemplos de como tentar manter um ambiente criptográfico forte e moderar conteúdos considerados indesejáveis pela plataforma digital. Não é a intenção deste texto oferecer soluções para esse problema tão complexo, mas a questão é que com o avanço da criptografia nos serviços da Meta, e caso venha se concretizar as promessas de Musk para o Twitter, é provável que este debate tenha ainda mais tração.

É esse o cenário que o passarinho azul voa. De um lado temos o avanço de grupos que irão utilizar de sua “liberdade de expressão” para mobilizar discursos desinformativos e de ódio na rede social, podendo desencadear debates sobre moderação de conteúdo e regulação de plataformas. Do outro, temos no horizonte a possibilidade de um avanço da criptografia ponta-a-ponta na plataforma e garantia de maior privacidade e segurança para os usuários. Sobre qual dos dois o pássaro fará seu ninho, são cenas dos próximos capítulos.

Marcos Cesar M. Pereira

Mestrando no Programa de Pós-Graduação em Antropologia pela Universidade Federal de Pernambuco. Graduado em Ciências Sociais pela Universidade Federal de Pernambuco. Entre 2018 e 2021 foi bolsista do Programa de Educação Tutorial – Ciências Sociais (MeC/SeSu) da UFPE. Participante do Programa Youth 2022 (NIC.br/CGI.br). No IP.rec atua na área de Privacidade e Vigilância, com ênfase em criptografia, possuindo interesse também em Antropologia Digital.

---

Raquel Saraiva

Presidenta e fundadora do IP.rec, é também graduada em Direito pela Universidade Católica de Pernambuco e mestra e doutoranda em Ciência da Computação pela Universidade Federal de Pernambuco. Alumni da Escola de Governança da Internet do CGI.br (2017). No IP.rec, atua principalmente nas áreas de Algoritmos e Inteligência Artificial, Privacidade e Vigilância e Tecnologias de Realidade Virtual e Aumentada, mas também se interessa pelas discussões sobre gênero e tecnologia.