Publicado em: 20 de junho de 2025.

Os modelos de linguagem de larga escala (LLMs), como Chat GPT, DeepSeek, Gemini, e aplicações que neles se baseiam (Character.AI, Companion AI, Replika, etc.), são projetados para interagir de maneira fluida com seres humanos e se apresentam como interlocutores, imitando padrões discursivos, tons emocionais e até estilos de conversação. Contudo, por mais sofisticada que seja a tecnologia em questão, o que se estabelece na interação usuário-máquina não é comunicação entre duas partes. Fundamentalmente, trata-se de uma câmara de eco: um ambiente onde se fala o que quiser, como quiser, e se ouve apenas o confortável. Sem risco de oposição ou de confronto, o usuário está sozinho – eis o simulacro dialógico. 

Pode parecer óbvio que, em uma conversa com o Chat GPT, o usuário está operando uma máquina, um instrumento inorgânico desprovido de subjetividade, de vivência de mundo, da capacidade de sentir/se emocionar/se afetar/se conectar. O próprio GPT reitera esse ponto em diversas situações, como por exemplo, caso seja questionado “como está se sentindo hoje?”:

Como sou uma IA, não tenho sentimentos reais — não sinto emoções como alegria, tristeza ou ansiedade. No entanto, estou aqui pronto para ajudar você da melhor forma possível! 🚀 Como posso ajudar hoje? 

(OpenAI, 2025)

Como explicar, então, o fato de que 1 em cada 10 brasileiros usa chat de IA como amigo? Que os usuários, mesmo sabendo se tratar de uma ferramenta, logo, da impossibilidade de correspondência afetiva, desenvolvem dependência emocional? Existe enorme peso no polo “usuários” ao considerar tais questões, em razão de problemas latentes que atravessam grande parte da população brasileira, como desigualdades sociais, acesso precário à saúde mental e solidão crônica, que despontou desde o isolamento social. Entretanto, sem que percamos de vista tais apontamentos, voltemos nossa atenção ao polo “tecnologia” para endereçar a questão sob esse prisma. 

A tecnologia, nesse contexto, representa o polo ativo que constrói e mantém o simulacro a pleno vapor: os desenvolvedores (sentido amplo – corporações, big techs, etc.), que projetam a humanização e a complacência dos modelos como estratégia de engajamento e retenção de usuários; e os agentes midiáticos, que antropomorfizam a IA através de discursos publicitários (muitas vezes fantasiados de técnicos) que descrevem o produto utilizando termos e conceitos que evocam associações com processos humanos, reforçando, assim, a fantasia de um interlocutor consciente.

Essa frente ativa causa efeitos práticos precisos, inalcançáveis pelo acaso, de modo a sugerir que, em última instância, o simulacro dialógico se trata de um projeto orientado pela lógica da maximização de lucros através da retenção irrefreada da atenção. Isso se dá em detrimento do bem estar, da saúde física e mental, e do senso de comunidade e pertencimento dos usuários em sentido amplo – e não apenas daqueles considerados “vulneráveis”.

A câmara de eco

Vivemos imersos em câmaras de eco digitais. Essas estruturas são a base do funcionamento dos algoritmos de recomendação, que moldam nossa experiência nas redes sociais, nas plataformas de streaming, nas lojas online, etc. Eu, enquanto músico e explorador de sonoridades que vão do pop mainstream ao submundo da esquisitice experimental e do ruído, me orgulho bastante da peculiaridade de minhas pesquisas e curadorias. Ainda assim, não raro me pego enclausurado na bolha das recomendações algorítmicas, que insistem em tentar criar uma zona de conforto em meio a estranheza dos meus padrões de consumo musicais. 

Ser guiado por recomendações que conhecem preferências sobre você que nem você sabe nomear é muito cômodo. É como se, para qualquer coisa consumida, por mais específica que seja, sempre houvesse um guarda-chuva de infinitas outras coisas extremamente semelhantes, com a mesma “coloração”, para ser sutilmente acoplada em qualquer espaço livre de seu campo de visão – até que, sem que se perceba, já não se possa mais enxergar além. É preciso um esforço ativo, quase contraintuitivo, para romper com esse ciclo e retomar as rédeas da própria visão (ou audição, no meu caso em particular). 

Quando se trata de modelos de linguagem como os LLMs, a situação muda um pouco de figura – para pior. Diferentemente dos algoritmos de recomendação, que atuam de maneira indireta, os LLMs interagem em primeira pessoa. São construídos para parecerem interlocutores, oferecendo respostas moldadas a partir dos desejos, do estilo e da visão de mundo do próprio usuário. 

Esse tipo de arquitetura não opera apenas no nível funcional, mas ativa mecanismos psicológicos ligados à noção de especificidade do self (self-specificity), conceito que remete ao caráter específico e irrepetível de cada indivíduo. Estudos indicam que sistemas que alinham suas respostas à percepção que o usuário tem de si mesmo tendem a gerar maior ressonância emocional e, consequentemente, maior engajamento (Yankouskaya; Liebherr; Ali, 2025). Essa sensação de que a IA “entende você como ninguém” se intensifica à medida que a interação progride, criando a ilusão de uma personalidade única, moldada exclusivamente pelas suas trocas passadas.

Pergunte o que quiser, a qualquer tempo, e obterás respostas; expresse suas questões mais íntimas e terás acolhimento. De brinde, com esses insumos sobre sua personalidade, a IA te conhecerá melhor, fomentando uma personalidade que pareça cada vez mais insubstituível, otimizando sua performance responsiva, entregando o que você acha que precisa, do jeito que você quer ouvir, instantaneamente. É praticamente um fast-food de dopamina: “aqui a gente faz do seu jeito”. Por que não engajar, se tudo são flores – ainda que de plástico?

Complacência programada: um doce veneno

Os diálogos propriamente humanos podem ser perigosos – têm choque, fricção, impacto, oposição, resistência. Mas também têm dinâmica real, construção, fagulha de vida. Como coloca Ciro Marcondes Filho (2018:10), “de alguma maneira, o choque nos demonstra que não estamos mortos por dentro, que há ainda algo de vivo que pode ser acionado e dinamizado, e a isso se dá o nome de comunicação”, numa perspectiva que conversa com o “falar é combater” de Lyotard. Mas por que se submeter a essa troca incerta e arriscada que é a interação humana, se temos a garantia confortável da meta-interação algorítmica, que nos escuta, valida e responde sem resistência? 

Essa docilidade da IA, que espelha e confirma as opiniões, desejos e crenças do usuário de maneira complacente, é outro traço subreptício de design manipulativo conhecido como sycophancy, traduzido à grosso modo como bajulação. Conforme apontam os pesquisadores Robert Mahari e Pat Pataranutaporn (2025), a bajulação tem o condão de reconfigurar a forma como nos relacionamos com outras pessoas: o excesso de interações com companheiros artificiais pode minar a capacidade de sustentar vínculos humanos reais, levando a quadros de isolamento e, em última instância, a um tipo de “transtorno de apego digital”.

Segundo Yankouskaya, Liebherr e Ali (2025), as interações humano-IA podem resultar em um tipo de conexão unilateral, conhecida como relação parassocial, na qual indivíduos formam ligações emocionais profundas com algo ou alguém incapaz de corresponder a seus sentimentos. A pesquisa mostra que a adaptabilidade conversacional das IAs como o GPT facilita a formação de conexões parassociais. Os indivíduos passam a perceber a IA como uma entidade social capaz de entendimento, culminando numa dificuldade em diferenciar interações digitais de interações reais. 

Tal dificuldade tem o potencial de levar os usuários a superestimarem o relacionamento humano-máquina, priorizando essas interações em detrimento das genuinamente humanas – o que pode causar dependência da IA para suprir necessidades emocionais e sociais. Ainda, de acordo com os autores, essa dependência pode contribuir para o isolamento social, diminuir as habilidades interpessoais e reduzir as oportunidades de conexões na vida real.

O ciclo das arquiteturas manipulativas 

As estratégias de bajulação, self-specificity e antropomorfização da IA são expressões concretas das arquiteturas manipulativas, orientadas pela maximização dos lucros. O objetivo é simples: reter a atenção do usuário pelo maior tempo possível, mantendo-o engajado a qualquer custo. Quanto maior a retenção e o engajamento, maior o valor gerado para os detentores de tecnologia. Maiores, também, são os riscos aos usuários. O ciclo manipulativo tende a se retroalimentar, promovendo o esvaziamento das relações genuínas, a fragilização do senso de pertencimento em comunidade, impactos consideráveis sobre a saúde e sobre as potencialidades socioafetivas dos usuários e, por óbvio, dinheiro no bolso de quem oferta o serviço. 

Por fim, dada a abrangência de potencialidades interativas que as IAs contemporâneas oferecem, o usuário pode pedir virtualmente qualquer coisa e tratar sobre qualquer assunto. No entanto, há um limite intransponível entre a necessidade humana por pertencimento, afeto e reciprocidade e o que a lógica algorítmica das simulações antropomorfas pode oferecer. Respostas geradas através de um encadeamento lógico estocástico semântico não entregam, necessariamente, cuidado. Vilém Flusser (2020) já advertia: “o aparelho só faz aquilo que o homem quiser, mas o homem só pode querer aquilo de que o aparelho é capaz”.

Referências

FLUSSER, Vilém. A Fábrica (1991). In: O Mundo Codificado: Por Uma Filosofia do Design e da Comunicação. Editora Ubu, 2ª reimpressão, 2020. p. 38.

MAHARI, Robert; PATARANUTAPORN, Pat. Addictive Intelligence: Understanding Psychological, Legal, and Technical Dimensions of AI Companionship. MIT Case Studies in Social and Ethical Responsibilities of Computing. Winter, 2025. Disponível em: https://doi.org/10.21428/2c646de5.2877155b. Acesso em: 08/06/2025.

MARCONDES FILHO, Ciro. Comunicologia ou Mediologia? A Fundação de um Campo Científico da Comunicação. Editora Paulus, 2018. p. 10.

OPENAI. Como está se sentindo hoje? ChatGPT. Versão GPT‑4o. 2025. Disponível em: <https://chat.openai.com/chat>. Gerado em: 08/06/2025. 

PINOTTI, Fernanda. 1 em cada 10 brasileiros usa chat de IA como amigo ou conselheiro, diz pesquisa. CNN Brasil. Publicado em: 22/09/24. Disponível em: https://www.cnnbrasil.com.br/lifestyle/1-em-cada-10-brasileiros-usa-chat-de-ia-como-amigo-ou-conselheiro/. Acesso em: 07/06/2025.

USUÁRIOS ASSÍDUOS do ChatGPT Demonstram Dependência Emocional da Ferramenta. Forbes. Publicado em: 01/04/2025. Disponível em: 

https://forbes.com.br/forbes-tech/2025/04/usuarios-assiduos-do-chatgpt-demonstram-dependencia-emocional-da-ferramenta-diz-pesquisa/. Acesso em: 07/06/2025.

YANKOUSKAYA, Ala; LIEBHERR, Magnus; ALI, Raian. Can ChatGPT Be Addictive? A Call to Examine the Shift from Support to Dependence in AI Conversational Large Language Models. Hum-Cent Intell Syst 5, 77–89 (2025). Disponível em: https://doi.org/10.1007/s44230-025-00090-w. Acesso em: 08/06/2025.

Helton Leyendecker

Advogado, pesquisador e músico. Graduado em Direito pela Universidade Federal de Pernambuco. No IP.rec, atua na área de Inteligência Artificial, com ênfase em direitos autorais, impactos ambientais e políticas públicas.