Serviços públicos vêm sendo digitalizados no Brasil e no mundo por meio de, principalmente, amplas articulações do poder público com o setor privado de desenvolvimento tecnológico. A tendência se aplica a programas de segurança nas cidades e obedece à lógica e ao discurso da inovação, da praticidade e da modernidade. No entanto, como amplamente explorado por uma diversidade de instituições de pesquisa governamentais e não-governamentais, acadêmicos e especialistas, certas políticas não devem avançar sem amplo escrutínio da população, transparência e políticas maduras de mitigação de eventuais riscos aos direitos humanos, sob pena de perpetuar desigualdades estruturais pré-existentes.

Recentemente, a Secretaria de Defesa Social do Estado de Pernambuco (SDS/PE) divulgou nota técnica noticiando a intenção de adotar tecnologia de “reconhecimento facial por videomonitoramento” para fins de segurança pública. O Instituto de Pesquisa em Direito e Tecnologia do Recife – IP.rec, organização especializada em pesquisas que envolvam impactos sociais gerados por novas tecnologias, vem se debruçando sobre o tema há pelo menos um ano e enxerga a medida com sérias preocupações. Ainda que reflita uma tendência internacional, como sustenta a SDS-PE, e que, aparentemente, possibilitaria trazer maior eficácia às políticas implementadas pela pasta, atualmente a tecnologia de reconhecimento facial é vista com suspeição por inúmeros setores em escala global, do público ao privado, do social ao científico. Menos que uma tendência unívoca, os debates sobre as tecnologias de reconhecimento facial automatizadas constituem um campo em aberto. As razões por trás das discordâncias devem ser consideradas pela sociedade pernambucana e pelo governo do Estado antes da decisão pela adoção ou não dessas tecnologias.

Portanto, o IP.rec vem, por meio desta, responder à nota da SDS/PE, ao afirmar que:

1. Como amplamente divulgado, as tecnologias biométricas se baseiam em modelos estatísticos e processos de probabilidade que implicam em possíveis desequilíbrios e taxas de erro. Dessa maneira, os algoritmos de reconhecimento facial não garantem a acurácia necessária a tornar segura sua implementação sem riscos de falsos positivos. Assim, há alta probabilidade de um indivíduo ser acusado sem que seja um suspeito procurado, como já foi constatado em diversos casos ao redor do país e em âmbito internacional;

2. É necessário que seja amplamente escrutinado o sistema específico de reconhecimento facial que será implementado. Historicamente, os softwares desse gênero carregam profundas falhas no em seu “treinamento”, o que dá margem para preconceitos. Por isso, rostos de pessoas negras e de mulheres são, com grande frequência, menos reconhecidos pelos sistemas de reconhecimento facial mais sofisticados. Os riscos de uma mulher negra, por exemplo, ser identificada como suspeita sem ser é, portanto, maior do que em se tratando de um homem branco, o que reafirma preconceitos estruturais;

3. Um maduro programa de proteção de dados deve ser previamente construído – e com a colaboração da sociedade civil. Processos de coleta, tratamento, exclusão e compartilhamento de dados com outros setores da administração pública e empresas privadas devem ser estritamente delineados em respeito às garantias fundamentais da coletividade e à Lei Geral de Proteção de Dados, cujo prazo de vacatio legis se encerra em agosto de 2020, iniciando sua plena vigência;

4. Rotinas de segurança da informação precisam ser explicitadas à sociedade, bem como os processos de resposta rápida relativos à vazamentos de dados. Os dados pessoais coletados são de grande sensibilidade e, caso caiam em posse de terceiros não autorizados, vulnerabilizam seus titulares, dando margem a fraudes, golpes, comercialização em mercados clandestinos, desvantagens econômicas e sociais e outra série de prejuízos de difícil mensuração;   

5. Os riscos aos direitos políticos dos cidadãos diante da implementação de sistemas de reconhecimento facial também são bastante consideráveis e podem agravar aparatos de vigilância em massa. Diversos episódios de uso da tecnologia para monitoramento e supressão de atividades relacionadas ao exercício político, como o direito à reunião e à manifestação, foram amplamente divulgados em mídias nacionais e internacionais. Sendo assim, o reconhecimento pode vir a constranger o cidadão, tolhendo sua privacidade na experiência com a cidade e, portanto, sua liberdade de expressão.

6. Apesar da SDS/PE se referir a essas ferramentas como uma tendência mundial, no panorama internacional, reguladores norte-americanos decidiram pelo banimento da tecnologia em diversas cidades do estado de Massachusetts e no estado da Califórnia, enquanto membros da Comissão Europeia consideram uma moratória de 5 anos a respeito da implementação da tecnologia em espaços públicos. Com o intuito de investigar maneiras de diminuir os riscos de falsos positivos e desenvolver uma metodologia sólida para avaliar os seus impactos, países desenvolvidos optam por uma postura mais cautelosa. Assim, é temerário que Pernambuco escolha seguir em direção oposta.

7. Sabe-se que, no Brasil, o governo não apenas assume uma composição (modelo de segurança) híbrida, com forte participação do setor privado, mas também adota programas de ação idealizados por atores que oferecem dispositivos sociotécnicos projetados a partir de uma lógica de eficiência empresarial. Assim, como já mencionado pelo IP.rec em momento anterior, é preocupante que cada vez mais a maquinaria da formulação de políticas públicas seja moldada em torno de um imaginário puramente “tecnocentrado” – ou seja, uma ótica solucionista através da tecnologia – enquanto questões sociais e éticas são deixadas de lado.

8. A implementação da tecnologia em espaços públicos sem um debate legislativo aberto e transparente que inclua a voz dos cidadãos e cidadãs pernambucanos e as preocupações e considerações de especialistas também é um ponto preocupante que cabe ser mencionado. Segurança pública é um assunto sensível para qualquer sociedade. Diversas organizações da sociedade civil vêm demandando maior participação na construção de políticas da área, como evidenciado pelo Fórum Popular de Segurança Pública. Alertamos à Secretaria de Defesa Social de Pernambuco e à sociedade civil para a necessidade de reflexão sobre os ganhos e custos da implantação dessas ferramentas. Mesmo que a decisão democrática seja a favor da adoção das tecnologias de reconhecimento facial, é necessário averiguar a eficácia e construir mecanismos legais e técnicos para mitigar as falhas e proteger cidadãos e cidadãs. Por isso, sugerimos à SDS/PE a realização de audiências públicas e debates sobre o tema, bem como a apresentação de estudos e relatórios de impacto em relação às consequências sociais da adoção das referidas ferramentas enquanto política de Estado, para que os diversos pontos de vista sejam considerados antes que seja tomada uma decisão de tamanha importância.

Por meio desta nota, o Instituto de Pesquisa em Direito e Tecnologia do Recife – IP.rec deixa claro que não é a sua intenção impedir ou desencorajar o crescimento tecnológico e inovador no estado de Pernambuco. O propósito é, sobretudo, convidar governantes, empresários, desenvolvedores e cidadãos a uma maior participação e reflexão a respeito da forma de utilização de novas tecnologias nos dias atuais, para que essas venham não só a melhorar a qualidade de vida nos centros urbanos mas também a priorizar direitos e garantias de cidadãos e cidadãs pernambucanos.

Institucional