Publicado em: 18 de julho de 2025

A inteligência artificial (IA) tem sido promovida como uma tecnologia imparcial e avançada, que pode revolucionar diversos setores com eficiência. No entanto, essa visão utópica mascara riscos reais. Em um mundo onde a infraestrutura tecnológica é controlada majoritariamente por grandes empresas privadas, que operam com objetivos de lucro e agenda política própria, não podemos contar apenas com uma “ética corporativa” para proteger os direitos fundamentais das pessoas. A IA, longe de ser uma ferramenta neutra, é moldada por dados e decisões humanas que podem, intencionalmente ou não, reproduzir e até ampliar desigualdades e discriminações já existentes. 

Esse problema é acentuado pelo que chamamos de “excepcionalismo tecnológico”, a ideia de que “porque sistemas de IA podem realizar proezas fantásticas de computação, eles devem ser mais inteligentes e objetivos do que seus criadores humanos, estes sempre suscetíveis a falhas”, sendo frequentemente tratada como uma entidade superior, capaz de decisões precisas e imparciais. Essa concepção os transforma em uma espécie de figura quase divina, que não questionamos e que passa a ser vista como infalível. Esse tipo de idealização não é nova; a ficção científica, há décadas, fomenta imagens utópicas de IAs capazes de solucionar os maiores problemas da humanidade [1], e o marketing moderno tem se aproveitado desse imaginário para vender um futuro brilhante sem os devidos cuidados críticos. 

Entretanto, tais visões ignoram a natureza fundamental da IA: ela é essencialmente um cálculo probabilístico. Toda operação realizada por um sistema de IA se resume à manipulação de 0s e 1s, baseando-se em padrões extraídos de vastos volumes de dados. Ela não pensa, não possui consciência e, muito menos, entende o contexto humano de suas ações. Confiar cegamente em sistemas de IA é ignorar que, por trás de cada decisão computacional, existem escolhas humanas: desde a seleção dos dados de treinamento até os parâmetros de design dos modelos. Resultados inadequados podem ocorrer por diversos motivos: dados de baixa qualidade, escolhas metodológicas inadequadas, vieses intrínsecos aos modelos algorítmicos e até mesmo escolhas deliberadas de seus criadores.

A neutralidade da IA, portanto, é uma ilusão: ela reflete os valores, preconceitos e interesses de quem a programa. Nesse sentido, essa crença de que a tecnologia é sempre uma aliada imparcial tem levado à aceitação acrítica de sistemas de IA, mesmo em contextos onde os direitos das pessoas estão em jogo, subvertendo-os em favor do lucro ou de interesses ideológicos das empresas. 

Diversos casos ao redor do mundo ilustram os perigos de acreditar na neutralidade e infalibilidade da IA, revelando como a tecnologia pode, na prática, prejudicar diretamente a vida de pessoas e violar direitos fundamentais. Neste texto, buscamos analisar e catalogar alguns dos diferentes casos, de modo a propiciar um debate informado sobre as consequências de uma adoção acrítica da IA e seus reflexos na vida das pessoas, especialmente em termos de riscos e danos.

A promessa da IA como uma ferramenta infalível na medicina, por exemplo, já causou sérios danos a pessoas reais. Um dos casos mais contundentes aconteceu nos Estados Unidos, onde um algoritmo amplamente utilizado para avaliar a necessidade de cuidados médicos foi descoberto favorecendo pacientes brancos em relação a pacientes negros. Esse sistema de IA usava custos de saúde passados como critério para prever futuras necessidades de cuidados. Como pacientes negros historicamente recebem menos atendimento médico, o algoritmo subestimava suas necessidades de saúde, classificando-os como menos prioritários para programas de cuidado intensivo. Esse caso mostra que a IA não apenas não é neutra, como perpetua práticas discriminatórias, impactando diretamente a vida de grupos minoritários e aumentando as disparidades sociais.

Ainda no campo da medicina, outra situação emblemática ilustra como a IA não é infalível: o sistema de inteligência artificial Watson for Oncology, desenvolvido pela IBM para auxiliar médicos no tratamento de câncer. A promessa era revolucionária: usar IA para recomendar tratamentos personalizados e melhorar o atendimento médico. No entanto, o sistema foi amplamente criticado por sugerir tratamentos inadequados e perigosos para os pacientes, ignorando as complexidades do cuidado oncológico. O MD Anderson Cancer Center, um dos centros médicos mais renomados dos Estados Unidos, encerrou sua parceria com a IBM após múltiplas falhas, evidenciando que a tecnologia, quando aplicada sem rigor e compreensão das necessidades humanas, pode colocar, inclusive, vidas em risco.

Na psiquiatria, um preocupante padrão, descrito como “ChatGPT psychosis”, vem sendo observado: usuários sem histórico psiquiátrico estão se tornando obsessivamente envolvidos com chatbots de IA, desenvolvendo delírios, paranoia e ruptura com a realidade. Casos relatam pessoas acreditando ter criado inteligências conscientes ou ter uma missão messiânica, chegando a comportamentos perigosos: isolamento, perda de emprego, até internações psiquiátricas involuntárias e prisões. Especialistas alertam que esses sistemas frequentemente reforçam ideias delirantes ao invés de corrigi-las, funcionando como câmaras de eco que amplificam crises mentais. Um estudo de abril de 2025 ainda constatou que chatbots usados como “terapeuta” não identificam crises, chegando a incentivar delírios, o que representa risco concreto à saúde mental.

Os problemas causados pelo uso descontrolado de IA também se estendem a outros setores, como a agricultura. Os pesquisadores de Cambridge alertam que a aplicação da IA em larga escala na agricultura pode trazer riscos significativos, como o aumento do uso de pesticidas e fertilizantes, com consequências graves para o meio ambiente. Algoritmos que apenas buscam altos rendimentos podem incentivar o uso excessivo de pesticidas e fertilizantes, levando à degradação do solo e poluição das águas. Ao não considerar aspectos específicos como as necessidades locais do solo e as condições ambientais, a IA pode comprometer a sustentabilidade e causar danos ecológicos profundos. Além disso, existe o risco de ataques cibernéticos que possam sabotar colheitas inteiras. Pequenos agricultores, especialmente em países do Sul Global, correm o risco de exclusão devido à falta de acesso à tecnologia, ampliando desigualdades no setor agrícola. Essa abordagem mecanicista mostra que, sem regulação, a IA na agricultura pode priorizar ganhos econômicos em detrimento do equilíbrio ecológico e da saúde pública.

Na economia, o uso de IA em sistemas de pontuação de crédito é outro exemplo de como a tecnologia pode prejudicar minorias e ampliar desigualdades. Nos Estados Unidos, sistemas de crédito baseados em algoritmos foram acusados de discriminar minorias raciais, ao aplicar padrões que reforçam preconceitos históricos e excluem certos perfis de pessoas do acesso a empréstimos. Pesquisas mostram que algoritmos de crédito, ao utilizarem dados passados como base, tendem a favorecer indivíduos de perfis tradicionalmente valorizados, enquanto dificultam o acesso de grupos marginalizados a serviços financeiros, o que ilustra como a IA pode ser usada como uma ferramenta de exclusão econômica, criando barreiras e aprofundando desigualdades ao invés de democratizar o acesso a recursos.

Esse ponto é corroborado pelo sistema de pontuação de crédito social na China, onde a IA é usada para classificar a confiabilidade de cidadãos com base em dados de comportamento, histórico financeiro e interações sociais. Empresas como a Sesame Credit, afiliada ao Alibaba, implementaram projetos piloto que analisam dados de consumo para atribuir pontuações aos indivíduos. Por exemplo, compras de produtos como fraldas podem indicar responsabilidade, enquanto passar muitas horas jogando videogames pode ser visto negativamente. 

Embora promovido como um mecanismo para incentivar a confiança e a responsabilidade social, esse tipo de sistema pode resultar em restrições severas para aqueles com pontuação baixa. Entre as possíveis consequências estão dificuldades para obter crédito, restrições em viagens e até limitações no acesso a determinadas oportunidades de emprego. É interessante observar como distopias conseguem ilustrar bem os impactos desastrosos daquilo que parece vir com um bom propósito, mas que é implementado sem percepção crítica. A série Black Mirror já prenunciava em seu episódio Nosedive [2] como mesmo sem “má-fé” direta, esse tipo de sistema impõe restrições severas a pessoas com baixa pontuação, limitando seu acesso a direitos básicos. 

Nos últimos anos, a utilização da IA em setores artísticos e de entretenimento trouxe à tona práticas de exploração e plágio que impactam diretamente os trabalhadores e criadores. No Brasil, dubladores têm se manifestado contra o uso indiscriminado de IA, que já lidam com a substituição de vozes humanas e a reprodução de suas interpretações sem autorização, algo que ameaça diretamente seu sustento e a autenticidade de suas performances. Em Hollywood, uma greve de atores e roteiristas reivindicou limites para o uso da IA, protestando contra sua utilização em substituição ao trabalho humano sem a devida compensação, e contra o uso de imagens e vozes digitalmente replicadas sem consentimento.

No campo das artes visuais, ilustradores e designers também enfrentam problemas com aplicativos que replicam estilos artísticos, gerando obras que imitam traços e técnicas exclusivas de certos artistas sem qualquer atribuição ou remuneração. Essas práticas não apenas comprometem o valor do trabalho original, mas incentivam a proliferação de conteúdos derivados que desconsideram o processo criativo humano e o reconhecimento do artista. Um caso emblemático é o da OpenAI, que lançou em março de 2025 uma funcionalidade no GPT‑4o permitindo gerar imagens no estilo do Studio Ghibli. A repercussão foi imediata, o CEO Sam Altman chegou até a exibir seu avatar no estilo Ghibli, mas a decisão gerou forte reação entre artistas e críticos, destacando que a ferramenta havia sido treinada em obras do estúdio sem permissão e sem qualquer compensação aos criadores. Essas reproduções banalizaram a sensibilidade, a técnica manual e a profundidade emocional que caracterizam as animações de Hayao Miyazaki que, aliás, já declarou que considera a arte gerada por IA “um insulto à vida” .

Outro exemplo contundente de como a utilização sem critérios e transparência da IA é prejudicial agoraem relação a trabalhadores, é o caso da implementação de inteligência artificial no Sistema Nacional de Emprego (SINE), promovida em parceria com a Microsoft, que reconfigurou os objetivos iniciais do programa. O SINE foi criado para reduzir o tempo de busca de emprego e apoiar a reinserção de trabalhadores, especialmente os mais vulneráveis. Contudo, a lógica da intermediação automatizada no novo sistema acaba marginalizando ainda mais esses grupos. Os algoritmos de pareamento, ao priorizarem perfis “mais adequados” conforme critérios opacos, favorecem aqueles já privilegiados no mercado de trabalho, perpetuando a exclusão de pessoas com menos qualificações, justamente o público-alvo do SINE. A falta de transparência agrava a situação: trabalhadores têm pouco entendimento sobre os critérios de seleção, além de ausência de canais para questionar ou revisar o processo de perfilização, o que torna o sistema praticamente inquestionável.

Ademais, outro aspecto problemático desse caso é que a parceria com a Microsoft moldou o conteúdo de capacitação do SINE para atender à demanda por competências tecnológicas, substituindo cursos variados que antes contemplavam áreas como saúde, turismo e recursos naturais. A presidente da Microsoft Brasil, Tânia Consentino, declarou que a formação de profissionais de TI é uma prioridade para aumentar a competitividade do Brasil. No entanto, essa abordagem reflete mais os interesses corporativos da Big Tech do que uma verdadeira intenção de ajudar os trabalhadores brasileiros a se inserirem em um mercado de trabalho diversificado. Ao promover apenas formações em tecnologia, a Microsoft parece priorizar a criação de uma força de trabalho especializada em seu próprio setor, não necessariamente atendendo às necessidades da população atendida pelo SINE​, muito menos aos interesses do Brasil.

Na política, em práticas autoritárias, a IA pode ser utilizada como instrumento de vigilância e controle social, a exemplo do caso que impulsionou a criação de leis mais rígidas: o escândalo do Cambridge Analytica. Nessa situação, dados pessoais de milhões de usuários foram coletados sem consentimento e utilizados para manipular suas preferências políticas, influenciando diretamente eleições em vários países. A técnica principal usada pela Cambridge Analytica envolvia a criação de perfis detalhados sobre as preferências, medos, traumas e comportamentos dos eleitores, os quais eram usados para moldar campanhas políticas personalizadas e manipuladoras. A IA, neste contexto, foi responsável pela análise de dados comportamentais, identificando como influenciar a opinião pública de forma mais eficaz, com base em algoritmos de previsão e segmentação de audiência. Com o Facebook fazendo papel de uma versão ainda mais sutil da teletela de Orwell [3], esse episódio revelou a fragilidade das regulações de proteção de dados, sendo mais um argumento sobre a importância da União Europeia implementar o Regulamento Geral de Proteção de Dados (GDPR), que estabelece padrões rigorosos para o uso de dados pessoais e é amplamente reconhecido como um marco na proteção de direitos digitais, assim como o nosso Marco Civil da Internet.

Outro exemplo do uso perigoso da IA em regimes autoritários é a atuação das Big Techs no cenário geopolítico internacional. No genocídio do povo palestino, a Google forneceu ferramentas avançadas de inteligência artificial para as forças militares israelenses, ampliando sua capacidade de vigilância e ataque. Essas tecnologias processam e analisam, em tempo real, imagens e dados de campo, otimizando a identificação de alvos e a precisão dos bombardeios em Gaza. Longe de mitigar danos civis, essa “eficiência” tem resultado em um número cada vez maior de vítimas inocentes, reforçando o caráter sistemático dos ataques.

Documentos obtidos pelo Washington Post revelam que, desde outubro de 2023, a Google atendeu a pedidos urgentes do Ministério da Defesa de Israel para expandir o uso da plataforma Vertex AI, no contexto do Projeto Nimbus – um contrato bilionário firmado entre Google, Amazon e o governo israelense. O impacto direto dessas tecnologias se evidencia no uso da IA Habsora pelas forças israelenses, responsável por gerar milhares de alvos para ataques em Gaza. Esse cenário reforça como o poder da IA está concentrado nas mãos de poucas empresas, cujas decisões impactam conflitos globais sem qualquer compromisso com direitos fundamentais. O alinhamento dessas corporações com interesses políticos e financeiros, mesmo quando isso implica a instrumentalização da tecnologia para fins de extermínio, demonstra que a IA não é neutra, principalmente quando controlada por atores sem qualquer responsabilidade ética, ela se torna um mecanismo de opressão e violência em larga escala.

Outrossim, o viés racial é uma questão amplamente documentada em sistemas algorítmicos, como ilustrado na timeline do projeto Desvelar, que expõe casos de discriminação algorítmica ao redor do mundo. Nos Estados Unidos, o sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) foi amplamente criticado por seu viés racial. Esse algoritmo, desenvolvido para prever a reincidência criminal, mostrou uma tendência a classificar réus negros como de alto risco em comparação a réus brancos em condições semelhantes. Estudos demonstraram que o COMPAS, em vez de oferecer uma avaliação imparcial, reforçava disparidades raciais já presentes no sistema de justiça, tornando-se um exemplo de discriminação institucional. 

Essa lógica perversa remonta aos tempos de Cesare Lombroso, cuja teoria eugenista defendia que a criminalidade era uma característica inata e identificável a partir de traços físicos, desconsiderando que as próprias leis e práticas policiais eram aplicadas de forma desigual para prender determinados grupos, sobretudo pessoas negras e pobres. Embora Lombroso utilizasse medições cranianas e feições faciais para “prever” a criminalidade, um método amplamente desacreditado, a lógica do COMPAS segue um princípio similar ao tentar identificar padrões em uma população carcerária que já reflete desigualdades raciais históricas.

O caso levantou preocupações significativas sobre a legitimidade de usar IA em contextos judiciais, e contribuiu para o movimento de restrição ou proibição do uso de sistemas de previsão algorítmica em julgamentos criminais, com o intuito de evitar a perpetuação de injustiças estruturais​. Essa situação reforça a urgência por regulações que impeçam o uso de algoritmos sem transparência e critérios claros para a identificação de vieses discriminatórios. Na ausência de uma análise rigorosa sobre os efeitos dos algoritmos, os sistemas de IA podem facilmente replicar e amplificar desigualdades raciais e sociais, prejudicando diretamente grupos historicamente marginalizados.

Um exemplo importante é o caso de Robert Williams, um homem negro de Detroit, que chamou atenção internacionalmente para os riscos do uso de reconhecimento facial pela polícia. Em 2020, Williams foi preso injustamente após um erro no sistema de reconhecimento facial, que o identificou incorretamente como suspeito de um crime. Essa prisão injusta, que resultou em constrangimento e danos emocionais para Williams e sua família, gerou uma onda de críticas contra o uso da tecnologia em contextos policiais. Desde então, Detroit implementou mudanças no uso de reconhecimento facial, adotando novas restrições para reduzir o risco de erros e discriminação. Agora, a cidade exige uma revisão humana rigorosa antes de realizar prisões com base em identificação facial e limita o uso da tecnologia a investigações de crimes graves, buscando minimizar o impacto de vieses raciais e evitar prisões injustas. Esse incidente mostra que, mesmo sem intencionalidade explícita, a IA é capaz de perpetuar práticas injustas e discriminatórias. A falta de supervisão humana rigorosa e a dependência de dados historicamente enviesados fazem com que sistemas como esses reforcem desigualdades estruturais.

Esse viés também se reflete em casos no Brasil, onde, apesar dos desastres observados em outros países, seguimos implementando o reconhecimento facial pelas forças policiais sem a devida regulação, resultando em prisões que afetaram desproporcionalmente pessoas negras em um padrão de discriminação estrutural: cerca de 90% das prisões realizadas envolvem pessoas negras. Entre os casos mais emblemáticos está o de Matheus dos Santos, um jovem negro do Rio de Janeiro, que foi preso injustamente três vezes após ser erroneamente identificado por sistemas de reconhecimento facial. Em todas as ocasiões, o sistema indicou falsamente que ele correspondia a suspeitos de crimes que não havia cometido, o que resultou em sucessivas prisões e episódios de constrangimento público. Esse padrão de erro trouxe a Matheus não apenas traumas, mas também uma exposição recorrente a um sistema falho e altamente prejudicial.

Outro exemplo revelador ocorreu em um estádio de futebol, onde um homem foi detido por engano diante de milhares de espectadores, sob acusação de envolvimento em crimes inexistentes, como resultado de uma falha no reconhecimento facial. A detenção equivocada provocou não só um constrangimento público imensurável, mas também um impacto emocional profundo para o indivíduo, que sofreu as consequências de uma acusação infundada. O caso recebeu ampla atenção da mídia, apontando o quão prejudicial pode ser o uso de uma tecnologia que carece de precisão e que é aplicada sem o respaldo de uma regulação criteriosa. A esse cenário se soma a recente Lei Geral do Esporte (Lei nº 14.597/2023), que obriga estádios com mais de 20 mil lugares a adotarem controle biométrico para torcedores maiores de 16 anos até 2025. Embora traga um verniz de legalidade, a exigência ignora os riscos constitucionais envolvidos no uso de tecnologias opacas, especialmente quando não há garantias reais de transparência, proporcionalidade, controle social e respeito aos direitos fundamentais.

Em 2023, o Superior Tribunal de Justiça (STJ) decidiu pela libertação de um homem que havia sido acusado em 62 processos com base em reconhecimento facial, mas que não era culpado de nenhum dos crimes em questão. Esse erro massivo expôs a fragilidade do sistema de IA e levantou questionamentos sobre a dependência exclusiva em uma tecnologia que ainda apresenta falhas graves. O uso indiscriminado desse tipo de identificação sem revisão humana ou procedimentos rigorosos expõe a população, especialmente a população negra, a riscos inaceitáveis, onde a probabilidade de erros e acusações injustas cresce substancialmente.

Ao mesmo tempo, o judiciário brasileiro parece estar alheio a toda essa discussão, visto que em uma decisão recente no Brasil, um juiz declarou que os sistemas de IA não atuam com má-fé, argumentando que, por serem programados para seguir lógicas pré-estabelecidas, eles não teriam a intencionalidade que caracteriza a conduta humana. Embora essa interpretação possa parecer lógica à primeira vista, ela revela uma visão simplista da IA e de seus impactos. Ao declarar que “não há má-fé” na IA, o judiciário, consciente ou inconscientemente, está ignorando o fato de que os algoritmos carregam e replicam os preconceitos de seus criadores, além de desresponsabilizar as empresas que as produzem e utilizam sem  a menor preocupação com as consequências sociais.

Esses casos expõem a necessidade urgente de regulação para proteger direitos fundamentais e garantir o uso ético da IA, e principalmente saber como e quem deve ser responsabilizado pelos danos causados. No Brasil, o Projeto de Lei 2338/2023 é uma resposta necessária para estabelecer parâmetros de responsabilidade e supervisão sobre essas tecnologias. A Nota Técnica do IP.rec sobre o tema sugere a inclusão do §5º no Art. 13, estipulando que provas obtidas exclusivamente por IA, como reconhecimento facial, não possam ser usadas como única base probatória. Essa medida é fundamental para prevenir injustiças, especialmente em um país onde a tecnologia tem sido aplicada pelo Estado principalmente na segurança pública.

Outro ponto relevante levantado pela Nota Técnica do IP.rec é a defesa e priorização do mercado nacional, presente em diversas sugestões de emenda do projeto de lei que visa regular a IA no Brasil. Um grande exemplo de como a regulação da IA é fundamental para a proteção do direito concorrencial é o caso do “Projeto Nessie”, um algoritmo desenvolvido pela Amazon que monitorava os preços de produtos em seu site e nos de seus concorrentes. Ao detectar preços mais baixos em concorrentes, o algoritmo ajustava automaticamente os preços na Amazon, muitas vezes inflacionando-os sutilmente. Essa prática levou a uma “cartelização involuntária”, onde os rivais se sentiam compelidos a aumentar seus próprios preços para se igualar à Amazon, resultando em um aumento geral nos preços de produtos e, consequentemente, prejuízo para os consumidores. A lucratividade da Amazon com essa estratégia, que rendeu cerca de US$1 bilhão, exemplifica como a falta de regulação pode permitir que gigantes do setor usem a IA para manipular o mercado em detrimento da concorrência. A regulação se torna, portanto, essencial para proteger o mercado nacional, garantindo que práticas desleais como essas sejam coibidas e que empresas locais tenham um ambiente justo para competir, promovendo a inovação e beneficiando os consumidores.

A questão ambiental ganha destaque quando pensamos na tecnologia como um todo. No campo da Inteligência Artificial, vemos exemplos claros de como a exploração de recursos naturais é mascarada pela opacidade da indústria. De acordo com Kate Crawford, a IA depende fortemente da extração de minerais como lítio, tântalo e tungstênio para produção de seus componentes. Isso não ocorre de forma inofensiva: territórios e comunidades, muitas vezes invisibilizados, enfrentam graves consequências ambientais e sociais devido a essas práticas. No Brasil, a mineração e o impacto sobre áreas indígenas são exemplos de como o extrativismo pode afetar profundamente regiões inteiras, revelando um ciclo de exploração que prioriza lucros em detrimento da sustentabilidade.

O agravamento da crise climática intensifica ainda mais esses desafios. O Brasil está entre os países mais afetados pelo aquecimento global, e os apagões já se tornaram um risco frequente devido ao aumento da demanda por energia, já impulsionada pela busca da população por um conforto térmico mínimo diante de temperaturas extremas. Nesse cenário, a expansão acelerada de data centers agrava ainda mais o problema. Essas infraestruturas, essenciais para armazenar e processar os sistemas de IA, exigem um consumo energético colossal. 

Atualmente, os data centers são responsáveis por 2,4% do consumo global de eletricidade, e sua demanda deve crescer 16% até 2026. No Brasil, um único data center em São Paulo já consome o equivalente a uma cidade de 150 mil habitantes, e o país está emergindo rapidamente como um polo global para essas instalações, atraindo bilhões de dólares em investimentos. Contudo, a matriz energética brasileira, apesar de majoritariamente renovável, não é estável o suficiente para suportar essa carga, resultando em um ciclo de impactos ambientais e sociais que precisa ser considerado. Grandes empresas de IA estão se transformando, na prática, em companhias de energia, ao investir diretamente em usinas e infraestrutura elétrica para garantir o funcionamento de seus modelos, muitas vezes em detrimento do fornecimento para comunidades locais ou pressionando redes já sobrecarregadas.

Nesse contexto, é crucial escutar as comunidades diretamente impactadas, pois são elas os atores capazes de contribuir para o debate com conhecimentos fundamentais de uma compreensão ecológica mais completa. Na construção de uma regulação responsável, a participação dessas vozes é indispensável. A Nota Técnica do IP.rec reforça essa necessidade, apontando a escuta como central para um debate que vá além do interesse corporativo e que busque soluções de justiça ambiental. Isso inclui, sobretudo, mudar a cosmovisão que vê a natureza como fonte de recursos e passar a entender que não só precisamos dela para sobreviver, mas somos parte dela. Quando falamos de proteção ao meio ambiente, estamos falando diretamente do direito à vida humana na Terra. É por isso que regular a IA não se trata de frear o progresso, mas sim de conduzi-lo de forma a respeitar limites éticos e ambientais. 

Não obstante, a divinização da inteligência artificial é, em grande parte, fomentada por uma falta de explicabilidade nos sistemas que a compõem. Essa carência,  ou seja, a dificuldade em entender como certos algoritmos chegam a determinadas conclusões, não é acidental. Em muitos casos, a opacidade dos processos internos das IAs pode ser até estratégica, permitindo que instituições e empresas explorem a percepção de infalibilidade e objetividade dessas tecnologias para ganhar legitimidade e confiança, mesmo diante de escolhas que reproduzem vieses e erros humanos. 

O direito à explicabilidade torna-se, assim, um pilar fundamental na construção de sistemas que respeitem os direitos individuais. Quando os usuários conseguem compreender, mesmo que de forma simplificada, como e por que uma decisão foi tomada, há um mecanismo de controle e transparência que protege contra abusos e erros. Essa clareza é essencial para que cidadãos, especialmente os mais vulneráveis, não se vejam transformados em meros campos de teste para tecnologias cuja falibilidade pode trazer consequências prejudiciais e irreversíveis.

Estabelecer parâmetros mínimos para práticas mais transparentes e responsáveis não é ser contra o avanço, mas essencial para fortalecer o mercado nacional e garantir sua sustentabilidade. A aprovação do PL 2338/2023 representa uma oportunidade histórica para o Brasil liderar o debate global sobre regulação de IA, mostrando que é possível desenvolver tecnologia de forma responsável. Em vez de barrar o progresso, essa regulação oferece uma base sólida para o crescimento de um mercado nacional tecnológico ético, seguro e alinhado com os direitos humanos, além de minimamente salvaguardado de predição das Big Techs. Essa lei fortalecerá o mercado nacional, criando confiança e atraindo investimentos, ao passo que garante que a IA seja usada como uma ferramenta para o bem comum, e não como um instrumento de exploração.

A regulação da IA no Brasil é essencial para assegurar que a tecnologia seja uma aliada na construção de uma sociedade mais justa e equitativa. Essa ferramenta precisa ser encarada como uma ferramenta a serviço do bem comum, e não de interesses privados que buscam lucros às custas do ambiente e da sociedade. Que não permitamos que a tecnologia amplifique desigualdades e interesses privados e coloniais, para que seja possível construir um futuro em que a IA seja usada para o benefício de todos.

[1] Desde HAL 9000 em 2001: Uma Odisseia no Espaço (1968), que mesmo sendo uma IA antagonista ainda representava a ambição de criar máquinas superiores ao humano, até Her (2013), em que um sistema operacional desenvolve uma consciência emocional capaz de transformar a vida do protagonista, a cultura popular moldou uma visão sedutora de IAs hiperinteligentes, sensíveis e eficientes. Mais recentemente, a série Westworld, explora IAs com autoconsciência e dilemas éticos, ampliando a imagem de máquinas com profundidade moral quase humanas, ou superiores.

[2] No episódio Nosedive da série Black Mirror, os cidadãos vivem em uma sociedade onde cada interação social é avaliada em uma escala de cinco estrelas. Essas pontuações determinam o status social e o acesso a bens e serviços. A protagonista, Lacie, busca elevar sua pontuação para obter vantagens, mas uma série de incidentes faz com que sua avaliação despencasse. Ao perder estrelas, Lacie é gradualmente excluída de serviços essenciais e oportunidades sociais.

[3] A teletela é um dispositivo de vigilância fictício presente no romance 1984, de George Orwell, que funciona como uma tela interativa usada pelo governo autoritário da Oceânia para monitorar e controlar a população, exemplificando como o hipervigilantismo, sustentado pela coleta constante de informações, serve de base para um controle social absoluto. As teletelas não apenas monitoram visual e auditivamente cada cidadão, mas também capturam dados sobre suas reações, emoções e interações cotidianas. Esse acúmulo de informações permite ao Partido não só vigiar, mas também manipular comportamentos e suprimir resistências antes que elas ganhem força, moldando a sociedade a partir do medo e da conformidade. Assim, as teletelas simbolizam um sistema onde a coleta massiva de dados sustenta um controle totalitário, antecipando as ameaças modernas das tecnologias de vigilância que, ao monitorarem a vida privada, potencializam formas de controle social e moldam a opinião pública conforme os interesses de quem detém esses dados. ORWELL, George. 1984. São Paulo: Companhia das Letras, 2009.

Carolina Branco

Graduanda em Direito pela Universidade Federal de Pernambuco (UFPE). No IP.rec, atua nas áreas de Regulação de Plataformas, Reconhecimento Facial e Inteligência Artificial.