A produção legislativa sobre tecnologia no Brasil é consideravelmente recente em comparação com países do norte global, onde leis de proteção de dados remontam à década de 70. Desde então, diversos países europeus iniciaram a introdução do conceito de proteção de dados em seus contextos jurídicos, acompanhados da Convenção 108 do Conselho da Europa de 1981 e a Diretiva de Proteção de Dados de 1995, que fizeram parte dos primeiros passos na regulamentação da temática. Nos Estados Unidos, as primeiras leis federais de proteção de dados pessoais remontam à década de 90, com a Lei de Proteção de Dados de Saúde (HIPAA), seguida da Lei de Proteção de Dados Pessoais (COPPA). Em comparação, na América Latina o processo legislativo sobre proteção de dados só foi iniciado em 2000, de maneira ainda muito tímida, com a Ley N° 25.326 da Argentina, seguida da Ley Federal de Protección de Datos Personales en Posesión de los Particulares, sancionada em 2010, no México.

No Brasil, apesar de não abordarem diretamente o tema da tecnologia, a Lei de Acesso à Informação, a Lei de Livre Concorrência e a Lei de Direitos Autorais podem ser consideradas como um início para a produção legislativa relacionada a esse tema. Contudo, foi apenas em 2014 que realmente iniciou-se o debate focado na regulação da internet no Brasil, firmado pelo importantíssimo Marco Civil da Internet. Ele estabeleceu as regras para o uso da internet no país, incluindo a garantia da liberdade de expressão, privacidade dos usuários, neutralidade da rede e responsabilidades dos provedores de serviços. Em 2020, demos mais um passo a partir da implementação da Lei Geral de Proteção de Dados, que estabeleceu regras para coleta, armazenamento e utilização de dados pessoais no país. 

Com base nessa conjuntura, fica fácil perceber que o cenário regulatório é bastante recente, o que repercute em um debate escasso para grande parte da população brasileira, fomentando um cenário de profunda vulnerabilidade digital. Enquanto países do norte global têm regulamentações mais antigas e bem estabelecidas sobre proteção de dados, e consequentemente debatem há mais tempo sobre o tema, o Brasil ainda está em processo de regulamentação neste aspecto, refletindo não só na falta de regulamentação adequada que pode tornar o país mais vulnerável a abusos, mas principalmente na falta de conscientização pública. Ademais, é importante considerar que a falta de recursos financeiros, humanos e tecnológicos pode limitar a capacidade do Brasil de implementar medidas de segurança adequadas para proteger os cidadãos dos possíveis abusos de direitos face ao avanço tecnológico exponencial. 

Nesse contexto, o sistema normativo desempenha incumbência fundamental na cultura e conscientização de um povo. Para além da função coercitiva, do controle dos comportamentos e ações dos indivíduos, a norma também é impulsionadora de debates e cumpre papel informativo sobre direitos e deveres. De acordo com Miranda Rosa:

Outras funções de importância exercidas pelo direito devem ser referidas, entretanto, especialmente as funções educativa, conservadora e transformadora. A respeito da primeira dessas funções, existem trabalhos curiosos que demonstram que a simples existência de uma regra de direito resulta, geralmente, na convicção por parte de quem a conhece, de que a conduta recomendada na referida norma é a mais conveniente.

Esse fato revela a influência educativa da norma jurídica, moldando as opiniões sociais e, portanto, o comportamento grupal por meio de um processo de aprendizado e de convencimento de que é socialmente útil ou bom agir de certo modo.

Portanto, ao estabelecer padrões claros e obrigatórios para regulamentação, a produção legislativa possibilita a criação de uma cultura de responsabilidade e proteção de direitos. E, logicamente, quando as leis são claras e acessíveis, os cidadãos têm maior capacidade de tomar decisões informadas sobre o uso de seus dados e são mais propensos a exigir proteção de sua privacidade, por exemplo. 

Além disso, a produção legislativa pode ser uma ferramenta importante para combater a discriminação e garantir a igualdade de direitos, incluindo a proteção dos dados pessoais. Isso é especialmente importante em contextos onde grupos vulneráveis, como minorias étnicas ou de gênero, podem estar em risco de violações de seus direitos, a partir da discriminação de corpos marginalizados por circunstâncias sociais ao serem analisados e categorizados por um sistema que não possui categorias para classificá-los.

Dentro deste quadro, a observância da vulnerabilidade é fundamental nas relações jurídicas, o que é demonstrado por meio do princípio da vulnerabilidade, amplamente utilizado no contexto consumerista do Brasil. Incorporado na ordem jurídica como um princípio fundamental da justiça social, ele está resguardado sob o prisma do princípio da igualdade, instaurado na Constituição Federal no caput do art. 5º, que assegura: “Todos são iguais perante a lei, sem distinção de qualquer natureza, garantindo-se (…) a inviolabilidade do direito à vida, à liberdade, à igualdade, à segurança e à propriedade”. Nas palavras de Bonavides:

O princípio da igualdade deve ser compreendido […] no seu sentido material, ou melhor, substancial, em que garante um tratamento desigual para uma parte “enfraquecida”, a fim de que a igualdade seja concretizada. Desta forma, “o princípio da igualdade determina que seja dado tratamento igual aos que se encontram em situação equivalente e que sejam tratados de maneira desigual os desiguais, na medida de suas desigualdades.

No entanto, é na área do Direito do Consumidor em que esse princípio é claramente estabelecido, surgindo para nivelar as relações de consumo que favorecem a desigualdade entre o fornecedor e o consumidor. Desse modo, a vulnerabilidade está expressa no Código de Defesa do Consumidor, no art. 4º, I:

Política Nacional das Relações de Consumo tem por objetivo o atendimento das necessidades dos consumidores, (…) bem como a transparência e harmonia das relações de consumo, atendidos os seguintes princípios: I – reconhecimento da vulnerabilidade do consumidor no mercado de consumo.

Com a seguinte afirmação, Almeida discorre sobre o princípio da vulnerabilidade:

Os que não dispõem de controle sobre bens de produção e, por conseguinte, devem se submeter ao poder dos titulares destes. Isto quer dizer, que a definição de consumidor já descreve essa vulnerabilidade, essa relação de hipossuficiência que pode ocorrer por desinformação, por fraude ou quando o produtor não dê ou não honre a garantia ao bem produzido.

Dessa maneira, é importante destacar que muitos consumidores não têm o conhecimento necessário para avaliar a qualidade e a segurança dos produtos que adquirem. Além disso, a falta de informações claras e precisas sobre os produtos pode levar a decisões equivocadas, que podem resultar em prejuízos financeiros ou mesmo à saúde do consumidor. Nesse mesmo sentido, Moraes expõe:

Vulnerabilidade, sob o enfoque jurídico, é, então, o princípio pelo qual o sistema jurídico positivado brasileiro reconhece a qualidade ou condição daqueles sujeitos mais fracos na relação de consumo, tendo em vista a possibilidade de que venham a ser ofendidos ou feridos na sua incolumidade física ou psíquica, bem como no âmbito econômico, por parte dos sujeitos mais potentes da mesma relação.

A partir dessa perspectiva, é crucial que entendamos a relevância da aplicação desse princípio na regulamentação da Inteligência Artificial, visto que os usuários IA devem ser considerados vulneráveis, uma vez que preenchem os requisitos técnicos para tal situação. Assim como os consumidores, na relação entre  os usuários e os produtores e detentores das IAs, há também uma clara assimetria de poder na qual o elo mais poderoso frequentemente possui informações privilegiadas e recursos para influenciar o modo como a IA é utilizada.

Na mesma linha de raciocínio, é importante destacar que muitos usuários não possuem conhecimento técnico suficiente para compreender plenamente o funcionamento da IA e suas implicações. Adicionalmente, a IA pode ser desenvolvida de forma complexa e opaca, o que dificulta a compreensão das decisões tomadas pela tecnologia e seus limites. Portanto, ignorar esses fatos e não regulamentar adequadamente a IA, utilizando como base o princípio da vulnerabilidade, seria expor os cidadãos aos riscos decorrentes do uso inadequado da tecnologia, o que vai de encontro aos princípios de justiça e igualdade que são fundamentais para a ordem constitucional brasileira.

Não obstante, não podemos deixar de observar que a legislação consumerista, apesar de sua relevância, não consegue abarcar todas as situações em que a vulnerabilidade estará presente diante da utilização de IAs. Com o aumento da utilização de Inteligência Artificial em diversas áreas, é comum pensar que os usuários dessa tecnologia são sempre considerados consumidores. No entanto, em alguns casos, os usuários podem não saber que estão interagindo com uma IA, o que dificulta a identificação do seu papel na relação. 

Um exemplo disso é a implementação de IA no Sistema Nacional de Emprego (SINE) brasileiro, no qual os usuários podem ser direcionados para vagas de emprego de forma automatizada, sem que saibam que estão interagindo com um sistema de IA. É válido informar que foram identificadas algumas ressalvas nessa implementação do Novo SINE, como a dificuldade que os trabalhadores enfrentam para compreender e questionar os resultados das intermediações e das perfilizações. Além disso, embora a Lei de Acesso à Informação permita o acesso a algumas informações sobre o sistema, a sociedade civil precisa ter conhecimento de códigos e processos específicos para exercer seus direitos, o que pode ser um obstáculo para muitos brasileiros comuns. Outra limitação do Novo SINE é que, ao utilizar os padrões de processos seletivos anteriores e as projeções de probabilidade de contratação como critérios principais para a recomendação de vagas, o sistema pode repetir e reforçar seus próprios históricos. Como resultado, os grupos mais vulneráveis ​​no mercado de trabalho, como jovens, mulheres e negros com baixa escolaridade, falta de experiência e pouca qualificação, podem ser prejudicados pela lógica de exibição de vagas do sistema.

Da mesma forma, sistemas de reconhecimento facial também podem ser implementados sem que os usuários saibam que estão sendo monitorados por uma IA, que é o caso da cidade de Recife, que passou a utilizar relógios eletrônicos com capacidade de reconhecimento facial espalhados pela cidade, o que pode também fortalecer o racismo algorítmico, bem como trazer riscos à privacidade, à liberdade de expressão e ao direito de associação dos cidadãos recifenses.

Nesses casos, é importante considerar que os usuários podem não ser considerados consumidores, já que não há relação consumerista clara estabelecida nessas situações, e eles sequer estão conscientes de que estão interagindo com uma IA. Tudo isso demonstra o fundamental papel do princípio da vulnerabilidade como norteador na regulamentação de novas tecnologias no contexto brasileiro, porque assim como no contexto consumerista, ele permite equilibrar as relações entre as empresas de tecnologia e os usuários, protegendo os interesses dos mais frágeis. Isso é particularmente importante no contexto da IA, onde as grandes empresas de tecnologia possuem acesso a quantidades massivas de dados e poder de processamento, colocando-os em uma posição de vantagem sobre os usuários.

Em suma, a regulamentação da Inteligência Artificial representa um assunto de extrema importância para o Brasil, tendo em vista que o país ainda não está em um estágio avançado de produção de legislação e discussão sobre a temática. A falta de conhecimento público acerca desse tema pode levar a uma grande vulnerabilidade digital por parte dos usuários e por isso, a normatização pode ter uma função pedagógica crucial, ajudando a conscientizar a sociedade sobre a vulnerabilidade dos usuários diante das diversas tecnologias emergentes, especialmente a Inteligência Artificial. Com isso em mente, o princípio da vulnerabilidade é indispensável na regulamentação da IA, a fim de garantir a proteção dos usuários e a segurança de seus dados pessoais. É a partir de uma legislação adequada e da conscientização da sociedade que será possível assegurar a proteção dos usuários e promover a utilização ética e responsável dessa tecnologia.

Referências: 

BONATTO, Cláudio. Questões Controvertidas no Código de Defesa do Consumidor: principiologia, conceitos, contratos. 3. ed. Porto Alegre: Livraria do Advogado, 2001, p.46.

BORGES, Luiz Roberto. A vulnerabilidade do consumidor e os contratos de relação de consumo. Dissertação (Mestrado em Direito) – Faculdade de Direito, Universidade de Marília. Marília, 2010.

BRASIL. Constituição (1988). Constituição: República Federativa do Brasil. Brasília: Senado Federal, 1988.

BRUNO, Fernanda. CARDOSO, Paula. FALTAY, Paulo.  Sistema Nacional de Emprego e gestão auomatizada do desemprego. Derechos Digitales [online]. 2018. Disponível em: https://ia.derechosdigitales.org/wp-content/uploads/2021/03/CPC_informe_BRASIL.pdf Acesso em: 07/04/2023

DÍAZ, Marianne. El Cuerpo como Dato. Derechos Digitales [online]. 2018. Disponível em: https://www.derechosdigitales.org/wp-content/uploads/cuerpo_DATO.pdf. Acesso em: 05/04/2023

FERNANDES, André Lucas. PEREIRA, Marcos César M. VALOIS, Rhaiana. NA “ROTA DO FUTURO”?: Discursos narrativos e riscos na aplicação de programas de inovação tecnológica da prefeitura da cidade do Recife. Lacnic [online]. 2022. Disponível em: https://descargas.lacnic.net/lideres/2022/lacnic-lideres_fernandes.pdf?fbclid=IwAR2i1aPKpYzjH5dnARS48Be6UPZx3Ij0DOKtu4WOiYiuy9ELB6-oaVLEvb8 Acesso em: 15/04/2023.

LEI Nº 8.078, DE 11 DE SETEMBRO DE 1990. Código de Defesa do Consumidor.

MIRANDA ROSA, Felipe Augusto de. Sociologia Do Direito: O Fenômeno Jurídico Como Fato Social. 1970. 13a edição ed., Rio de Janeiro, Jorge Zahar Editor, 1996.

VASCONCELOS, Vanessa Lopes. et al. O Princípio da Vulnerabilidade no CDC à luz do Príncipio da Igualdade Constitucional. Cadernos de Graduação da FLF [online]. 2014. Disponível em: http://www.faculdade.flucianofeijao.com.br/site_novo/cadernos_graduacao/servico/Cad_Grad2014/O_PRINCIPIO_DA_VULNERABILIDADE_NO_CDC.pdf Acesso em: 15/04/2023.

Carolina Branco

Graduanda em Direito pela Universidade Federal de Pernambuco (UFPE). No IP.rec, atua nas áreas de Tecnologias de Realidade Virtual e Aumentada e Inteligência Artificial.