Publicado em: 5 de outubro de 2023.

Ética e moral, dois pilares fundamentais da conduta humana, entrelaçam-se em nossa experiência diária, moldando nossas interações sociais e definindo nossos valores. A moral refere-se ao estudo da escolha humana livre, isto é, daquelas ações que dependem de nós e são da nossa responsabilidade (ARISTÓTELES, 1987), enquanto a ética representa o ramo da filosofia que lida com os princípios que governam o comportamento moral (KANT, 2003). Em conjunto, esses conceitos estabelecem a base para uma sociedade civilizada, promovendo a confiança, o respeito mútuo e a justiça.

Além de serem guias para a conduta pessoal, ética e moral são essenciais para o funcionamento harmonioso da sociedade como um todo. Quando indivíduos e comunidades compartilham valores éticos e morais, isso cria um ambiente propício para a colaboração, o entendimento e o progresso coletivo. Estes princípios são incorporados nas leis e sistemas jurídicos, refletindo os valores fundamentais de uma sociedade e fornecendo estrutura para resolver conflitos de maneira justa e equitativa, por exemplo.

No mundo científico, a ética transcende além do reino filosófico: é um campo de estudo em constante evolução. Dilemas éticos são explorados em diversas áreas, contribuindo para o desenvolvimento de políticas e regulamentações que promovem a integridade científica, a transparência e a responsabilidade. Os códigos de ética, especialmente na ciência e outras profissões, estabelecem normas de conduta profissional, assegurando que as práticas sejam realizadas com integridade, respeito pelos direitos dos outros e um profundo senso de responsabilidade para com a sociedade. Neste contexto, ética e moral não são meras abstrações, mas sim diretrizes vitais que informam nossas escolhas, ações e interações sociais. Em um mundo onde as inovações tecnológicas e científicas moldam nosso futuro, entender e aplicar princípios éticos e morais é essencial para garantir que nosso progresso seja sustentável, justo e, acima de tudo, humano.

Na era atual, na qual a tecnologia está em constante evolução e integra cada vez mais aspectos de nossas vidas, é fascinante observar como essas inovações têm o poder de moldar profundamente nossa cultura e nossas experiências. Um exemplo impressionante desse fenômeno pode ser encontrado na perspectiva do músico Juliano Holanda, que, no documentário musical “Mostra Reverbo”, faz uma reflexão profunda sobre como os fones de ouvido e a tecnologia de áudio revolucionaram a música e, por extensão, a forma como nos conectamos com a arte.

Juliano Holanda aponta uma mudança fundamental que ocorreu com a disseminação dos fones de ouvido: a capacidade de falar diretamente aos ouvidos dos ouvintes. Essa inovação tecnológica aproximou os artistas de seus públicos de maneira sem precedentes. Antes, a música era frequentemente ouvida em alto-falantes, preenchendo espaços físicos inteiros. No entanto, com a chegada dos fones de ouvido, a música se tornou uma experiência mais íntima e pessoal, como se o artista estivesse sussurrando diretamente aos ouvidos de cada ouvinte. Esse aspecto íntimo da audição através de fones de ouvido não apenas transformou a forma como consumimos música, mas também teve um profundo impacto nas letras das canções (HOLANDA, 2023). Com a música mais próxima e envolvente, as palavras e os significados por trás delas ganharam uma importância ainda maior, e não é coincidência que o surgimento do rap, por exemplo, ganhou impulso ao mesmo tempo em que os fones ganharam popularidade. A capacidade de ouvir cada palavra, cada nuance vocal, trouxe à tona a riqueza das histórias e emoções transmitidas pelas canções.

O que torna esse exemplo tão relevante é a maneira como ele ilustra o poder da tecnologia para influenciar toda uma cultura. A revolução dos fones de ouvido não apenas mudou a música, mas também a maneira como nos relacionamos com a arte e como entendemos a narrativa humana. É uma demonstração vívida de como a tecnologia pode desencadear uma revolução cultural, moldando nossos valores, nossas prioridades e nossas formas de expressão. Dessa maneira, torna-se evidente que a tecnologia não é apenas uma ferramenta neutra; ela tem o potencial de moldar e até mesmo redefinir aspectos fundamentais da sociedade. À medida que a tecnologia continua a evoluir e a influenciar nossa cultura, é imperativo que consideremos não apenas os benefícios, mas também as implicações éticas e as mudanças sociais que essas inovações trazem consigo. Afinal, assim como os fones de ouvido alteraram a forma como ouvimos música e a importância que atribuímos às palavras das canções, outras tecnologias têm o poder de impactar profundamente outras esferas de nossa vida cultural e social. 

É nesse sentido que Karl Popper argumenta sobre a relevância da responsabilidade social no desenvolvimento científico. De acordo com o filósofo, cientistas não podem ignorar as implicações éticas de suas descobertas, pois devem ter consciência das possíveis aplicações e consequências além do ambiente acadêmico. A ética no desenvolvimento científico impõe uma obrigação moral aos cientistas para com a humanidade e, dessa forma, eles devem antecipar e prevenir perigos ou usos indevidos de suas pesquisas, mesmo que não desejem esses resultados. Esta previsão é uma responsabilidade ética e social, garantindo que o progresso não venha às custas do sofrimento humano ou do desequilíbrio social, e se traduz no conceito do “mal evitável”, que reforça a responsabilidade dos cientistas em antecipar e mitigar possíveis danos de suas descobertas, adotando uma abordagem cautelosa para garantir que o desenvolvimento científico seja ético, sustentável e orientado para o bem comum (DIAS, 2021).

Nas salas de aula dos cursos de tecnologia, considerando especialmente o contexto brasileiro, há um vácuo quando se trata de ética. Enquanto os avanços tecnológicos continuam a moldar o nosso mundo, a formação dos profissionais que impulsionam essas mudanças parece estar congelada no tempo. O tecnossolucionismo (MOROZOV, 2018) eclipsou qualquer discussão sobre ética ou reflexão sobre o impacto social das inovações. Este vazio ético não é apenas um lapso na educação tecnológica e sim uma falha sistêmica que ameaça a integridade das ciências da tecnologia. A insuficiência desse diálogo nas salas de aula cria uma geração de profissionais que, enquanto habilidosos na criação de soluções tecnológicas, carecem profundamente de uma compreensão ética sólida.

O Brasil, por sua vez, encontra-se em uma posição paradoxal: é um consumidor ávido de tecnologia, mas raramente um desenvolvedor ético. A falta de uma base ética robusta entre os profissionais tecnológicos resulta em uma aceitação acrítica de inovações importadas, muitas vezes inadequadas para os contextos sociais e culturais locais. Essa ausência na formação dos desenvolvedores de tecnologia não apenas compromete a integridade das inovações, mas também perpetua um ciclo prejudicial de consumismo tecnológico. 

Nesse contexto, diante de uma área que exerce evidente influência tão poderosa sobre nossas vidas, é surpreendente e, de certa forma, alarmante, que um setor tão vital como o de desenvolvimento de tecnologias não tenha uma base ética definida. Por que profissionais da ciência da tecnologia não possuem um conselho ou código de ética? Por que sua formação acadêmica é tão carente do tema ao mesmo passo que tem como pilar o tecnossolucionismo? Afinal, como podemos esperar uma tecnologia ética quando os próprios criadores dessas tecnologias não são educados sob uma ótica ética? Como podemos preencher esse vazio nas salas de aula e nos laboratórios tecnológicos? Como podemos criar uma geração de profissionais que não apenas inove, mas também o faça com uma consciência ética profunda? É hora de enfrentar o silêncio ético e iniciar um diálogo crucial na tecnologia, moldando não apenas o desenvolvimento tecnológico, mas também o futuro de nossa sociedade. 

À vista disso, é crucial recordar que o progresso não deve ser medido apenas pelos avanços tecnológicos, mas também pelo impacto positivo nas vidas humanas e nas relações sociais. As tecnologias, quando utilizadas com ética e sensibilidade, podem melhorar o bem-estar humano de maneiras inimagináveis. No entanto, esse potencial só será totalmente realizado se colocarmos as relações humanas e as condições humanas no centro de nossos esforços. A máxima de que tudo pode ser resolvido por meio de novas tecnologias é perigosa. Ela pode obscurecer as necessidades reais das pessoas, especialmente daqueles que são marginalizados ou desfavorecidos. Quando o foco é apenas na inovação tecnológica, as questões fundamentais de justiça social, igualdade e dignidade humana podem ser – e frequentemente são – negligenciadas. Nas palavras de Morozov:

Por que nos dar ao trabalho de ter um Estado, se o Vale do Silício pode magicamente prover sozinho os serviços básicos, desde a educação até a saúde? Ainda mais premente: por que continuar a pagar impostos e financiar serviços públicos inexistentes, que poderiam ser fornecidos – com base num modelo muito diverso – pelas empresas de tecnologia? Essa é uma questão que nem o Estado nem o Vale do Silício estão prontos para responder. O que se nota é que o Estado moderno não se incomodaria se as empresas tecnológicas assumissem o protagonismo, contanto que permitissem que ele se concentrasse na tarefa que mais aprecia: o combate ao terrorismo. Os cidadãos, que ainda não estão plenamente conscientes desses dilemas, poderiam talvez perceber que a escolha efetiva que se tem hoje não é entre o mercado e o Estado, e sim entre a política e a não política. (MOROZOV, 2018)

A lógica capitalista, constantemente impulsionada por um desejo implacável por lucro, pode levar a uma exploração predatória dos recursos humanos e naturais. Nesse cenário, são os detentores de lucros que prosperam, enquanto a sociedade como um todo pode ficar desprotegida. A retórica do marketing das empresas da área muitas vezes pinta um quadro otimista, mas a realidade pode ser muito diferente, especialmente para aqueles nas margens da sociedade. O bem-estar humano deveria ser o critério pelo qual avaliamos o sucesso de qualquer inovação ou desenvolvimento. Isso significa não apenas considerar o impacto econômico, mas também o impacto social, ambiental, emocional, e psicológico nas vidas das pessoas, considerando principalmente a imensa diversidade de contextos sociais, corpos e crenças. Significa garantir que a tecnologia seja um veículo para melhorar a qualidade de vida para todos, não apenas para alguns privilegiados. 

Isso posto, é fundamental considerarmos a teoria de Hans Jonas como farol ético em meio à escuridão do materialismo desenfreado, que alerta-nos para os perigos dessa mentalidade predatória. Em seu Princípio Responsabilidade, ele nos chama à responsabilidade ética, ressaltando que não somos apenas senhores da tecnologia, mas também seus servos e, mais crucialmente, seus guardiões. A razão, a liberdade e a autonomia desempenham um papel crítico na moldagem de nosso comportamento em relação à tecnologia e ao meio ambiente.

A razão nos recorda que a tomada de decisões deve ser baseada em princípios éticos sólidos, não apenas no desejo de lucro. A ética deve ser intrínseca à nossa abordagem em relação à tecnologia e ao progresso. A liberdade nos lembra que somos seres autônomos capazes de fazer escolhas conscientes. Devemos escolher agir de maneira responsável e considerar as consequências de nossas ações em um contexto mais amplo, incluindo o impacto ambiental e social. A autonomia nos incentiva a pensar em termos de longo prazo, considerando não apenas o presente, mas também o futuro das gerações vindouras (BALBINOT, 2015). A tecnologia não deve ser usada de forma predatória, mas sim integrada a um horizonte ético que leve em conta a sustentabilidade e a preservação do meio ambiente:

O futuro da humanidade é o primeiro dever do comportamento coletivo humano na idade da civilização técnica, que se tornou “todopoderosa” no que tange ao seu potencial de destruição. Esse futuro da humanidade inclui, obviamente, o futuro da natureza como sua condição sine qua non. (JONAS, 2006)

Quando nos comprometemos com a ética no desenvolvimento, estamos construindo um legado de inovação que é construído sobre princípios sólidos, uma narrativa de progresso que é marcada pela equidade e uma sociedade que, no seu cerne, valoriza a dignidade e os direitos de todos os seus membros. Dessa forma, a ética, que frequentemente é mal interpretada como um obstáculo ao desenvolvimento, se torna ainda mais importante. Ela é, na verdade, o alicerce sobre o qual um progresso verdadeiramente significativo é construído. Em vez de ser um entrave, trata-se de uma força motriz que impulsiona avanços não apenas materiais, mas também estruturais em uma sociedade. Ela não apenas estimula a inovação, mas também molda um progresso que é duradouro, sólido e consistente. 

A partir dessa perspectiva, é importante ressaltar que a solução não vem apenas da regulamentação das tecnologias, pois a criação de novas legislações não é suficiente para garantir a moralidade das inovações. Não basta apenas que o direito se imponha sobre a área, até porque, como bem explicado por Dunker:

Existem atos éticos que vão contra a lei, assim como existem atos legais que vão contra a ética. Isso acontece porque a lei olha para o passado e a ética para o futuro, ao passo que nossa ação só pode ser dividida porque ela se dá no presente. A lei jurídica é formada pelo depósito de decisões, de normas e de consensos sobre o que já aconteceu. Ela é como um dicionário que especifica os significados das palavras tal qual tem sido seu uso até hoje. A ética, ao contrário, é o campo onde se formam novas palavras (neologismos), onde se recuperam usos prescritos e onde se criam novas demandas e problemas, que um dia serão integrados à lei. – ((DUNKER, 2018. Grifos acrescidos)

Logo, a lei jurídica não é o bastante, pois é necessário uma dinâmica e olhar para o futuro que avança apressadamente, ao mesmo passo da tecnologia. É imperativo, assim, o estabelecimento de um conselho de ética composto por especialistas e representantes multissetoriais. Esse conselho teria a responsabilidade de criar e implementar diretrizes éticas, assegurando que a inovação tecnológica não comprometa valores éticos e morais fundamentais. 

No entanto, a criação de um conselho de ética não é uma tarefa simples. É necessária uma ação colaborativa entre instituições educacionais, empresas, governos e a sociedade civil para estabelecer e manter um órgão de supervisão ética eficaz. É crucial que esse conselho tenha autonomia para tomar decisões independentes, livre de influências corporativas ou políticas, garantindo assim a integridade de suas avaliações éticas.

Além disso, a eficácia de um conselho de ética não depende apenas de sua criação, mas também de sua independência e autoridade. Ele deve ser livre para formular suas próprias diretrizes éticas, sem influência indevida de interesses corporativos ou políticos. Além disso, o conselho deve ter a capacidade de aplicar essas diretrizes de forma significativa, monitorando o cumprimento ético das empresas e indivíduos no campo tecnológico. Num contexto capitalista, onde o lucro muitas vezes tende a ser o principal motivador, um conselho de ética independente se torna ainda mais crucial. A busca incessante por lucro pode levar a práticas questionáveis, e um conselho de ética forte tem o poder de equilibrar essas tendências, garantindo que o desenvolvimento tecnológico ocorra dentro de limites éticos definidos, priorizando o bem-estar humano sobre o lucro corporativo.

A conscientização pública também desempenha um papel vital. À medida que a sociedade compreende a importância de tecnologias éticas, há uma pressão natural sobre os desenvolvedores e as empresas para aderirem a padrões éticos. A transparência e o engajamento público nas decisões éticas relacionadas à tecnologia são essenciais para garantir que as preocupações e valores da sociedade sejam levados em consideração.

Contudo, apesar de décadas de avanços tecnológicos, o esforço para estabelecer um conselho de ética ou qualquer estrutura semelhante para os desenvolvedores têm sido notavelmente insuficiente. A falta de regulamentação e orientação ética formal deixa um vácuo, permitindo que tecnologias avancem rapidamente, por vezes, sem consideração suficiente pelas implicações éticas e sociais. Esse vazio é particularmente alarmante, considerando o poder que as tecnologias modernas têm de moldar comportamentos, influenciar sociedades e até mesmo redefinir a noção de privacidade e identidade.

A ausência de um foco ético não é apenas uma falha no desenvolvimento tecnológico, e sim uma falha moral que coloca em risco o tecido da nossa sociedade. Se estamos passando por esse processo de transformação para uma sociedade digital há tanto tempo e até hoje os profissionais que impulsionam essa transformação ainda não possuem base ética, isso não é mera coincidência. Nos questionamos: afinal, a quem interessa que o desenvolvimento tecnológico não se submeta a ordens éticas?

Referências

ARISTÓTELES. Ética a Nicômaco. Coleção: Os pensadores. São Paulo: Nova Cultural, 1987.

BALBINOT, Eliana Silvia. Hans Jonas: fundamentos éticos do princípio responsabilidade. 2015. 61. Dissertação de mestrado – Universidade de Caxias do Sul, Caixas do Sul/RS, 2015. 

DIAS, E. A. Ciência e ética em Popper: a ética da responsabilidade dos cientistas. Trans/Form/Ação[online]. 2021, vol. 44, no. 3, pp. 81-100. Disponível em: https://doi.org/10.1590/0101-3173.2021.v44n3.06.p81. Acesso em: 26 set. 2023.

DUNKER, Christian Ingo Lenz. O Dilema dos 10. Blog da Boitempo, 6 de agosto de 2018. Disponível em: https://blogdaboitempo.com.br/2018/08/06/o-dilema-dos-10/. Acesso em: 29 set. 2023.

HOLANDA, Juliano. Mostra Reverbo. Direção de Mário de Almeida. 2023.

JONAS, Hans. O Princípio Responsabilidade: Ensaio de uma ética para a civilização tecnológica. Rio de Janeiro: Contraponto; Ed. da PUC-Rio, 2006. 

KANT, I. Crítica da razão prática. Tradução Valério Rohden. São Paulo: Martins Fontes, 2003. Ed. Bilingue.

MOROZOV, E. Big Tech: a ascensão dos dados e a morte da política. São Paulo: Ubu, 2018.

Carolina Branco

Graduanda em Direito pela Universidade Federal de Pernambuco (UFPE). No IP.rec, atua nas áreas de Tecnologias de Realidade Virtual e Aumentada e Inteligência Artificial.