Publicado em: 1 de agosto de 2024

O início de julho trouxe uma notícia que surpreendeu o Brasil. A Autoridade Nacional de Proteção de Dados (ANPD) determinou uma suspensão cautelar envolvendo o tratamento de dados pessoais de usuários dos serviços da Meta para treinamento de inteligência artificial da empresa, pouco tempo depois da atualização dos termos de privacidade. 

Como reação, viralizaram nas próprias plataformas da Meta publicações de usuários ensinando como desativar a opção que autorizava essa utilização. Para finalizar essa tarefa, eram necessários sete passos para que o usuário conseguisse revogar o consentimento do treinamento dos dados, uma quantidade significativamente alta. 

O caso foi emblemático por diversas razões, colocando a ANPD no holofote da mídia. Primeiro, demonstrou a importância de uma autoridade nacional na garantia do direito à proteção de dados pessoais dos cidadãos brasileiros. Também, foi uma decisão que deu ainda mais insumo para o debate de regulação de inteligência artificial no país e a relação entre inovação e privacidade. Neste texto pretendo oferecer uma contribuição diferente: apresentar a relação entre design e a decisão da ANPD.

Sobre o voto 

No voto da diretora Miriam Wimmer, são expostas as razões para a suspensão cautelar. A decisão foi embasada pela Nota Técnica nº 27/2024/FIS/CGF/ANPD (SEI nº 0129769). Entre os diversos pontos apresentados na análise do caso, gostaria enfatizar um trecho em específico, no qual se afirma:

“a opção de opt-out fornecida aos usuários, que permitiria aos titulares se oporem ao tratamento de seus dados pessoais, não é disposta de maneira evidente, e a complexidade para exercício dessa opção assemelha-se a um padrão obscuro de mascaramento de informações. Observa-se, na verdade, que os usuários precisam realizar diversas ações para que possam, se este for o seu interesse, informar à empresa quanto a sua oposição na utilização de seus dados (Nota Técnica nº 27/2024/FIS/CGF/ANPD, SEI nº 0129769).” (Voto nº 11/2024/DIR-MW/CD. Grifos nosso)

A votação traz uma importante menção à utilização de padrões obscuros (dark patterns)[1]. Estes, também conhecidos como padrões enganosos (deceptive patterns), são técnicas de design manipulativo que visam fazer com que o usuário realize uma ação que ele não faria em plena consciência. O termo foi cunhado pelo designer Harry Brignull em 2010, quando seu projeto identificou 16 tipos de padrões obscuros presentes em serviços e plataformas digitais.

A lista de padrões apresentada pelo designer não é exaustiva, com outros tipos sendo apresentados e propostos conforme o avanço tecnológico. Ainda assim, a leitura da ANPD enquadra o caso da Meta como próximo de um padrão obscuro de “dificuldade para cancelar”, quando o usuário tem seu direito limitado para cancelamento, tornando o processo complexo e cansativo, ainda que optem por não definir categoricamente assim. Mas qual o impacto que isso tem para designers de experiência do usuário (UX designers) e seu ofício?

A importância do design para o direito digital

Recentemente, no Colabora 2024, evento de design do Recife, no qual eu estava na mesa junto com Rhaiana Valois e Pedro Lourenço do IP.rec,  além de contar com a participação do prof. George Valença da Universidade Federal Rural de Pernambuco (UFRPE), fomos indagados acerca de como designers podem lutar contra esse cenário de manipulação sendo empregados de empresas que no final de tudo buscam lucro.

Tal pergunta apontou, indiretamente, para a contradição de um campo que se vende como porta-voz dos interesses dos usuários, mas que no final do dia essa voz e suas demandas precisam estar alinhadas aos objetivos estratégicos da empresa. Aponta, também, para uma espécie de impotência de uma pessoa que é funcionária da empresa e que no final do dia precisa do emprego para pagar contas para sobreviver. Para além de pequenas estratégias, como estudando sobre ética em design, advocacy interno na empresa contra tais práticas, demonstrar o impacto negativo de padrões obscuros para o negócio (o que, infelizmente, pesa mais) e para os usuários, como alcançar uma mudança macro?

Na minha reflexão no evento, afirmei que acreditava que as empresas iriam aprender “pela dor”, isto é, tomando sanções administrativas por violar direitos dos cidadãos. Em outras palavras, seria necessário uma coerção externa, seja como a citada anteriormente ou uma regulação, que poderia provocar um cenário de mudança nas políticas internas de empresas, visto que dificilmente a mudança iria vir delas mesmas – vide o que observamos com os limites da auto regulação.

Por tal razão, acredito que a decisão da ANPD representou um grande momento na atuação da autoridade, que UX Designers e de produtos digitais deveriam estar atentos. Antes de serem usuários, esses profissionais estão projetando experiências para cidadãos que são protegidos por lei e o caso da Meta coloca em primeiro plano o impacto que esses profissionais têm na garantia de direitos.

Esse cerceamento aos padrões obscuros não é algo novo. Em um texto anterior aqui no blog do IP.rec, apontei que Digital Service Act (DSA) havia banido práticas de padrões obscuros. Mais recentemente, a Índia também realizou banimento desse tipo de medida, por meio do Guidelines on Prevention and Regulation of Dark Patterns (Índia). Como o caso da Meta demonstra, há um risco acentuado de que serviços utilizem estratégias manipulatórias no design para coletar excessivamente dados pessoais, os quais os titulares originalmente não fariam em plena consciência. Assim, não apenas o direito à privacidade é ferido, como a própria liberdade que usuários têm enquanto sujeitos de direito.

A decisão pode trazer mudanças significativas no dia a dia de empresas e seus serviços digitais, principalmente por ter sido aplicada contra uma das maiores empresas de tecnologia do mundo que serve de referência para tantas outras. Infelizmente, por outro lado, creio que o alcance seja limitado ao time jurídico de tais empresas. Apesar de todo relacionamento com o fazer do UX Designer, há um distanciamento dos designers do mundo do direito, sobretudo pelo caráter hermético e cheios de “juridiquês” do último. 

O caso, apesar de significativo, não informa o que em nível prático deve ser modificado para aqueles que estão na ponta projetando as soluções e tecnologias. Creio que há uma oportunidade imensa para aproximar designers dos valores da proteção dos dados pessoais a partir deste caso, por meio da construção de guias orientativos para tais profissionais, prática que a ANPD vem fazendo com outros temas-chave. 

A solução não é nova. O Age Appropriate Design Code, ou Children’s Code, do Reino Unido, é um exemplo no cenário da proteção de crianças e adolescentes. Criado como forma de garantir a conformidade de serviços e plataformas digitais direcionadas ou de provável acesso por crianças com a General Data Protection Rule inglesa, o Código oferece quinze princípios que serviços abarcados pelo escopo do código devem seguir para não sofrer sanções administrativas. Além disso, o Código oferece um guia prático para designers no desenvolvimento de soluções digitais sobre como eles podem garantir o princípio da transparência ao criarem experiências para crianças e adolescentes. 

Esse foi um dos objetivos no nosso projeto Termômetro do Acesso Adequado, que buscou entender como crianças e adolescentes podem acessar plataformas e serviços digitais de forma que seja adequada à idade delas. No relatório, buscamos apresentar diretrizes sobre como serviços e plataformas digitais poderiam garantir às crianças e adolescentes a participação no processo de criação de tais soluções, além de promover aspectos como transparência, privacidade e segurança por design e letramento digital.

Essa solução pode não somente aproximar UX Designers do campo do direito, como também difundir valores significativos da proteção de dados pessoais e de uma construção da experiência do usuário que seja garantidora de direitos. Experiências recentes em outros locais e um debate multissetorial também podem fornecer insumos ricos e importantes para tal fim.

[1] Ao longo do texto, irei seguir com a utilização de padrões obscuros (dark patterns), visto que o cenário jurídico europeu, indiano e agora brasileiro utilizam tal termo para tais práticas de design manipulativo.

Marcos Cesar M. Pereira

Mestrando no Programa de Pós-Graduação em Antropologia pela Universidade Federal de Pernambuco Pós-graduando em Design de Interação para Artefatos Digitais na Cesar School. Graduado em Ciências Sociais pela Universidade Federal de Pernambuco. Bolsista do Programa Youth 2022 (NIC.br/CGI.br). Participante do Programa Líderes 2.0 (LACNIC). No IP.rec atua na área de Privacidade e Vigilância, com ênfase em criptografia, também possuindo interesse no campo de inovação e design de interação.