A grande inovação científica do período da Segunda Guerra Mundial foi o uso militar da radiação como arma. Após o primeiro teste nuclear bem-sucedido, em 1945, conta-se que o físico Julius Robert Oppenheimer — sim, aquele do filme — teria repetido um trecho do Bhagavad Gita, texto sagrado hindu: “Agora me tornei a Morte, o destruidor de mundos.” Hoje, estamos em outro limiar da ciência: o da Inteligência Artificial e do deepfake.
Antes do uso bélico, a radiação foi amplamente estudada e utilizada em áreas como a medicina (para tratar câncer), na indústria (com tintas luminescentes para relógios) e em pesquisas científicas fundamentais para desvendar a estrutura do átomo. O que se via como avanço para o entendimento da vida e para salvar vidas adquiriu um lado sombrio e assustador, com poder de aniquilar a vida no planeta.
Agora, mal ingressamos no novo mundo da Inteligência Artificial, e já nos vemos diante do lado sombrio do mau uso dela. Refiro-me à manipulação da informação, da imagem e da voz de terceiros para satisfazer desejos obscuros, tirar vantagem ou destruir a reputação de alguém — distorcendo a realidade diante do mundo. E a internet não tem fronteiras.
O nome dessa técnica é deepfake: uso de Inteligência Artificial para alterar ou criar vídeos, fotos e áudios que replicam rostos e vozes humanas. Simplificando, é uma falsificação, um recurso de ilusão, um abracadabra tecnológico que se apropria de características da pessoa para produzir uma realidade paralela — que pode ser usada como arte, com objetivos altruístas ou de forma criminosa.
Sim, amigos. Chegamos ao ponto da história em que pessoas sem escrúpulos podem falsificar gente. E não é exagero dizer isso, porque, fora as pessoas com quem temos interação constante no mundo real, hoje a maioria das nossas interações com o mundo se dá por meio de telas. A gente convive diariamente com gente que não conhece em carne e osso, mas troca ideias no WhatsApp, no Instagram, no YouTube, no TikTok…
E vemos barbaridades sendo cometidas: os deepfakes de teor sexual em ataque, sobretudo, a mulheres e meninas — crianças em idade escolar. E, não raro, crianças são responsáveis pela agressão. Os deepfakes na área da saúde, usados para vender falsos produtos ou procedimentos milagrosos. E, especialmente agora, no período eleitoral, com certeza veremos o deepfake aplicado à destruição de reputações.
O Tribunal Superior Eleitoral proíbe expressamente o uso de conteúdos falsificados de candidatos para simular fatos irreais ou enganar o eleitor. Mas como controlar isso, especialmente em um ambiente de acirramento político generalizado como o que vivemos? Ainda que candidatos, equipes e militâncias não caiam na tentação, há sempre os que estão dispostos a semear o caos — seja para tirar vantagem, seja por prazer doentio.
Quem acha que isso é problema apenas dos candidatos atacados está muito enganado. A pessoa que tem sua imagem e reputação atacadas sofre, em algumas situações de forma excruciante — ao ponto de considerar o autoextermínio, o que é um horror. Mas quem é exposto à falsificação — ou seja, qualquer um de nós — também é vitimizado: é manipulado, humilhado, levado a cometer injustiças e a ter uma visão distorcida da realidade – isso é corrupção do caráter! Isso é a dissonância cognitiva: o desconforto mental de ter simultaneamente duas ideias conflitantes, ou de tomar atitudes contra os próprios valores e princípios, induzido por uma apresentação distorcida, porém convincente, da realidade.
A tecnologia em si não é boa nem má. Ela é um espelho. E o que ela reflete é o que nós, humanos, escolhemos fazer com ela. Se o deepfake for usado para enganar, manipular e desinformar, não é a ferramenta que falhou — é a humanidade que escolheu o pior caminho. Mas se for usado para alertar, esclarecer e proteger, o espelho reflete o melhor de nós. A questão não é a máquina. É o que fazemos com ela.
A IA é uma ferramenta de amplificação sem bússola moral própria. O que ela amplifica é o que um ser humano coloca diante dela. Por isso, o deepfake é tão perigoso — porque amplifica a mentira com a mesma eficiência com que poderia amplificar a verdade. A tecnologia não escolhe. Nós escolhemos. E a responsabilidade é toda nossa — tanto de quem produz a falsificação da realidade, quanto de quem se apropria da mentira sem exercer o senso crítico, um dos maiores dons que nos foram dados por Deus.