Você com certeza já viu algum vídeo engraçado com o rosto de um famoso em outro corpo, não é? Mas você já parou para pensar sobre o que são Deepfakes e a tecnologia por trás da mágica? Pois bem, essa técnica, que usa inteligência artificial, está ficando cada vez mais realista e acessível para todos.

Apesar de inicialmente popular em memes, essa tecnologia agora começa a transformar o universo do entretenimento. Isso porque, com a capacidade de criar ou alterar vídeos e sons de forma convincente, os deepfakes estão abalando o mundo digital.

Por isso, neste artigo, vamos explorar o impacto dessa ferramenta. Então, continue a leitura para entender como ela funciona e por que se tornou uma parte tão comum do nosso dia a dia online.

O que são Deepfakes?

Afinal, o que são Deepfakes? O nome já dá uma boa pista! Ele vem da junção de “deep learning” (aprendizagem profunda) com “fake” (falso). Ou seja, são vídeos e imagens falsas, mas que parecem incrivelmente reais, criados por uma inteligência artificial.

A mágica funciona assim: a IA “estuda” centenas de fotos e vídeos de uma pessoa. Ela aprende seus gestos, expressões e até a voz. Depois de aprender tudo isso, ela consegue criar cenas completamente novas, mas super convincentes.

A tecnologia, que nasceu no meio acadêmico, explodiu em popularidade por volta de 2017. Foi aí que vídeos virais começaram a circular, fazendo todo mundo se perguntar: mas o que são Deepfakes de verdade?

Hoje, eles estão por toda parte, de memes a paródias em programas de TV. Essa tecnologia pode ser usada para o entretenimento, mas também nos desafia a questionar o que é real. No fim das contas, entender o que são Deepfakes se tornou essencial para navegar no mundo digital.

Os criadores de South Park usaram a tecnologia para a pura comédia. Eles criaram uma série chamada “Sassy Justice”, escalando “atores” como Donald Trump e Mark Zuckerberg em deepfake para satirizar o noticiário. Isso mostra como a mesma ferramenta pode ser usada tanto para uma crítica social séria quanto para o entretenimento.

Qual a sua relação com a IA?

Basicamente, a IA funciona como uma editora superavançada e automática. Ela estuda o rosto de uma pessoa a partir de fotos e vídeos. Em seguida, ela consegue “colar” esse rosto no corpo de outra pessoa em um vídeo diferente. 

O mais impressionante é que a IA sincroniza os movimentos dos lábios e as expressões faciais.

Antigamente, criar algo parecido exigia um trabalho manual e demorado. Agora, graças à IA, qualquer pessoa pode usar aplicativos para criar um deepfake em minutos. 

É a automação da Inteligência Artificial que torna essa tecnologia tão poderosa e, ao mesmo tempo, preocupante.

Como são feitos?

A criação de deepfakes é um processo sofisticado, fundamentado em “deep learning” ou aprendizagem profunda. Basicamente, essa metodologia de Inteligência Artificial utiliza algoritmos em múltiplas camadas para aprender progressivamente a partir de dados brutos e não estruturados, como as características de um rosto humano.

Um dos métodos mais conhecidos para isso é o uso de Redes Adversárias Generativas, ou GANs. Nesse sistema, duas redes neurais competem entre si. A primeira, chamada de “geradora”, tem a tarefa de criar o conteúdo falso, como uma nova imagem do rosto.

Enquanto isso, a segunda, a “discriminadora”, atua como uma detetive, comparando a imagem falsa com um banco de dados de imagens reais para tentar identificar a farsa. Como resultado, essa competição constante força a rede geradora a aprimorar suas criações, resultando em deepfakes cada vez mais convincentes e realistas.

Outra técnica igualmente comum emprega uma arquitetura de “autoencoder“. Nesse caso, uma rede neural primeiro codifica uma imagem, comprimindo-a em uma representação matemática de suas características essenciais. Em seguida, ela reconstrói a imagem a partir dessa representação.

A grande vantagem é que esse processo é excelente para eliminar ruídos visuais, como sombras ou baixa qualidade, e capturar apenas os traços fundamentais de um rosto. Assim, com esses dados “essenciais”, a IA consegue aplicar o rosto aprendido em um vídeo “molde” de forma muito mais versátil e precisa, sincronizando movimentos e expressões.

Como os deepfakes são usados?

A tecnologia deepfake, impulsionada por inteligência artificial, possui uma gama de aplicações que vai muito além dos memes virais. Isso porque sua capacidade de criar conteúdo falso e realista abriu portas para usos tanto criativos quanto maliciosos.

A seguir, as principais formas de utilização da tecnologia incluem:

• Substituição de Rostos (Face Swap): Este é o uso mais popular. A técnica consiste em trocar o rosto de uma pessoa em um vídeo pelo de outra. Embora seja usada para entretenimento, como o vídeo do ator Bill Hader se transformando em Tom Cruise, também é uma ferramenta poderosa para criar desinformação política.
• Clonagem e Síntese de Voz: A IA pode aprender e replicar a voz de uma pessoa com alta fidelidade. Essa técnica é usada para criar áudios falsos, como discursos de figuras públicas dizendo coisas que nunca disseram, ou em golpes de phishing para enganar familiares e colegas.
• Fraudes e Extorsão: De forma mais direta, os deepfakes são usados em crimes. Criminosos podem criar vídeos comprometedores falsos para chantagear vítimas ou usar a tecnologia para cometer roubo de identidade e fraudes financeiras, enganando sistemas de reconhecimento facial.
• Manipulação de Cenas e Fotos: A tecnologia não se limita a rostos e vozes. Ela pode adicionar ou remover objetos e pessoas de vídeos e imagens. Isso permite a criação de evidências falsas, como alterar fotos para colocar alguém em um lugar onde nunca esteve.
• Criação de Personagens Digitais: No campo do entretenimento, os deepfakes são usados para criar personagens ultrarrealistas para filmes e videogames. Atores podem ser rejuvenescidos digitalmente ou personagens fictícios podem ser criados com base em pessoas reais, expandindo as possibilidades criativas.

Como detectar e prevenir?

Na era da inteligência artificial, saber diferenciar conteúdo real de manipulações tornou-se uma habilidade crucial. 

Embora a tecnologia dos deepfakes avance rapidamente, existem abordagens eficazes para identificar e se prevenir contra esse tipo de conteúdo falso. A detecção combina tanto a observação humana atenta quanto o uso de ferramentas tecnológicas especializadas.

Para se proteger, é importante adotar uma postura crítica e utilizar as seguintes estratégias:

• Faça uma análise visual cuidadosa: O olho humano ainda pode notar falhas. Em fotos, procure por bordas desfocadas ao redor do rosto, iluminação inconsistente ou sombras que não parecem naturais. Em vídeos, fique atento a piscadas de olho estranhas, expressões faciais rígidas ou uma leve tremulação na imagem, especialmente ao redor do cabelo e da cabeça.
• Utilize ferramentas de detecção por IA: Já existem softwares criados para combater os deepfakes. Essas ferramentas usam inteligência artificial para analisar o conteúdo em busca de inconsistências que o olho humano não percebe. Algumas analisam microexpressões faciais, enquanto outras detectam sinais biológicos sutis, como o fluxo sanguíneo no rosto, para verificar a autenticidade.
• Aposte em tecnologias de prevenção: A prevenção é uma frente importante nessa batalha. Novas tecnologias estão sendo desenvolvidas para autenticar mídias no momento de sua criação. Isso inclui a inserção de marcas d’água digitais invisíveis, que marcam a origem do conteúdo, e a verificação criptográfica, que funciona como um selo de autenticidade.
• Verifique as informações com fontes confiáveis: Em caso de dúvida, a melhor estratégia é sempre a checagem de fatos. Não compartilhe conteúdo suspeito. Em vez disso, consulte portais de verificação de informações, como o “Projeto Foco” no Brasil e outras iniciativas globais, para confirmar a veracidade do que você está vendo.

Outras iniciativas de combate aos deepfakes:

Snopes: Iniciado em 1994, é um dos portais pioneiros na checagem de fatos na web. A entidade se dedica a apurar a veracidade de informações sobre diversos temas, como política e saúde.

FactCheck.org: Lançada em 2003 pela Universidade da Pensilvânia, trata-se de uma entidade autônoma de checagem de fatos. Seu foco principal é a apuração de notícias políticas, mas sua cobertura se estende a outras áreas, como saúde e ciência.

PolitiFact: Estabelecida em 2007, é uma entidade de checagem de fatos especializada no cenário político. Seu trabalho consiste em analisar a exatidão das declarações feitas por políticos, partidos e grupos de interesse.

Verificado: Um projeto das Nações Unidas (ONU) com o objetivo de combater a propaganda e a desinformação na internet. A iniciativa proporciona checagem de fatos em tempo real, além de promover campanhas de conscientização.

Deepfake Detection Challenge: Um projeto da Darpa (Agência de Projetos de Pesquisa Avançada de Defesa dos EUA) que tem como meta impulsionar o desenvolvimento de novas tecnologias capazes de identificar deepfakes.

Exemplos de Softwares de combate aos deepfakes:

Google SynthID: Funciona de forma preventiva, inserindo uma marca d’água digital e invisível em imagens geradas por IA para marcar sua origem.

Truepic: Autentica fotos e vídeos no momento da captura usando criptografia, criando um registro seguro que comprova a veracidade do arquivo.

DuckDuckGoose: É uma ferramenta de detecção que foca na análise de inconsistências e artefatos faciais para identificar manipulações.

Intel FakeCatcher: Utiliza uma tecnologia inovadora que detecta o fluxo sanguíneo no rosto de uma pessoa, identificando os sinais biológicos que faltam nos deepfakes.

Reality Defender: Uma plataforma robusta voltada para empresas, que usa múltiplos modelos de IA para detectar fraudes em vídeos, áudios e imagens.

Sensity AI: Focada em inteligência de ameaças, detecta e monitora a disseminação de deepfakes maliciosos na web para proteger marcas e pessoas.

Deepware Scanner: Uma ferramenta mais simples e acessível, projetada para que o público geral possa escanear rapidamente arquivos em busca de manipulações.

Os deepfakes no entretenimento: Filmes e jogos

A tecnologia deepfake se apresenta como uma faca de dois gumes para a indústria do entretenimento. Por um lado, ela abre um universo de possibilidades criativas para filmes e jogos. Por outro, levanta sérias questões éticas e profissionais, tanto para os artistas quanto para os desenvolvedores e jogadores.

Entre os benefícios, a tecnologia oferece novas fronteiras criativas. No cinema, por exemplo, atores famosos podem ter suas feições aplicadas sobre dublês, otimizando produções. Já nos videogames, a promessa é de uma imersão sem precedentes.

Nesse sentido, os jogadores podem mapear seus rostos em avatares ou alterar suas vozes para interagir em ambientes online de forma mais segura e personalizada. Com isso, cria-se uma experiência de jogo muito mais profunda e envolvente para o usuário.

No entanto, os prejuízos são igualmente significativos. Para os atores, existe o risco da precarização, com a criação de uma classe de “atores ocultos” sem reconhecimento. Além disso, artistas podem perder o controle sobre o uso de sua própria imagem.

Paralelamente, no mundo dos jogos, os riscos incluem a possibilidade de fraudes, com o uso de vozes clonadas para enganar sistemas de segurança. Também surgem complexos dilemas sobre os direitos de personagens que, com IA, podem agir de forma autônoma e imprevisível.

Portanto, o desafio para estúdios de cinema e desenvolvedores de jogos é o mesmo: inovar de forma responsável, garantindo que a tecnologia sirva à criatividade sem comprometer a segurança e os direitos de artistas e consumidores.

O que fazer se você for vítima dos deepfakes?

Ser alvo de um deepfake pode ser uma experiência angustiante, mas é crucial agir de forma rápida e estratégica para mitigar os danos. 

Manter a calma e seguir um plano de ação claro é a melhor maneira de retomar o controle da situação. Se você se encontrar nessa posição, existem passos práticos e eficazes que podem ser tomados imediatamente.

O primeiro passo é não se desesperar. Em vez disso, concentre-se em coletar provas e acionar os canais corretos para remover o conteúdo e responsabilizar os autores.

1. Documente Absolutamente Tudo: Antes de mais nada, salve todas as evidências. Tire prints do deepfake, copie os links de onde ele foi postado e guarde quaisquer comentários ou mensagens relacionadas. Anote a data, a hora e a plataforma onde o conteúdo foi encontrado. Essa documentação será fundamental para os próximos passos.
2. Denuncie nas Plataformas Digitais: Em seguida, denuncie o conteúdo diretamente nas redes sociais onde ele foi compartilhado, como YouTube, Facebook ou X (Twitter). A maioria das grandes plataformas possui políticas específicas contra mídias manipuladas e agem para remover esse tipo de postagem.
3. Procure as Autoridades Competentes: Se o deepfake for usado para cometer um crime, como roubo de identidade, fraude financeira ou extorsão, não hesite em procurar a polícia. Leve todas as evidências que você documentou e registre um boletim de ocorrência formal.
4. Busque Orientação Especializada: Considere consultar um advogado para entender suas opções legais em relação a difamação e direitos de imagem. Se sua reputação profissional ou a de sua empresa estiver em risco, contratar uma assessoria de relações públicas pode ajudar a gerenciar a crise e comunicar sua resposta de forma eficaz.

O que se espera do futuro?

Em suma, a tecnologia deepfake evolui a uma velocidade impressionante. Há poucos anos, era fácil identificar um vídeo falso por sua baixa qualidade ou por falhas sutis, como a ausência de piscadas. 

Hoje, essa distinção está cada vez mais difícil, e a tendência é que se torne quase impossível a olho nu.

Para o futuro, podemos esperar que a inteligência artificial generativa se torne ainda mais sofisticada. A criação de conteúdo falso, seja em vídeo, áudio ou imagem, será mais rápida, barata e acessível. 

Consequentemente, a linha que separa o real do digital ficará cada vez mais tênue, aumentando os desafios relacionados à desinformação e à fraude.

Nesse cenário, a nossa melhor defesa não será apenas tecnológica, mas também humana. A vigilância constante e um ceticismo saudável se tornarão habilidades essenciais. 

Portanto, questionar informações suspeitas e proteger nossos dados pessoais não é apenas uma recomendação de segurança; é uma necessidade fundamental para navegar com segurança no futuro digital que já está sendo construído.