O termo Deepfake vem dois conceitos em inglês, o Deep learning (Aprendizagem Profunda ) e o fake, que quer dizer falso ou enganoso. E se você tem muitas fotos e vídeos públicos na internet, muito cuidado. Sua imagem pode estar em perigo, podendo ser colocada em um outro contexto que nunca existiu. Ou poderá reproduzir uma fala que você jamais ousaria proferir. Nessa post falaremos sobre os aspectos e características desses tipos de mídias, como ela é gerada e como podemos identificar uma mídia falsa e nos proteger de golpes utilizando engenharia social e mídias manipuladas.

Inteligência artificial

Inteligência artificial parece algo super futurístico e distante. Porém ela já está muito presente no nosso dia a dia. As chances são que você já usou alguma ferramenta de IA em algum momento nos últimos anos no seu próprio celular. Alguns exemplos incluem:

• Filtros de vídeo em aplicativos de diversas redes sociais (Snapchat, TikTok, Facebook messenger, Instagram, etc.)
• Aplicativos do tipo soundboard, como Voice Mod.
• Aplicativos do tipo GPT (Transformadores Pré-Treinados Generativos) 
• Assistentes virtuais inteligentes como o Google Assistant, a Amazon Alexa ,Siri e Cortana.

A IA é um campo de estudo que abrange várias outras áreas de estudo e conhecimento. As principais sendo Ciência da computação, Matemática, Estatística, Ciência Cognitiva, Neurociência Computacional, Filosofia da Mente, Aprendizagem de máquina e Linguística Computacional. Essa tecnologia pode ser usada para vários fins, como análise de grandes volumes de dados, programação e produção de material didático por exemplo. Contudo essa mesma tecnologia também é usada para gerar o Deepfake.

Deepfake

O Deepfake pode ser um áudio gerado a partir de vários exemplos da voz de um indivíduo. Após processar e sintetizar a voz, você poderá digitar uma frase qualquer e a voz artificial irá reproduzir aquela fala. Pois é assim também com vídeos e fotos. Com uma certa quantidade de amostras, o programa de computador já consegue modelar e colocar seu rosto em um corpo de outra pessoa, por exemplo.

Bruno Sartori, também conhecido como o “Bruxo dos Vídeos”, ficou famoso após utilizar tecnologias de Deepfake para fazer vídeos com conteúdo de humor usando a imagem de políticos famosos como o Lula e Bolsonaro. Ele reaproveitou cenas famosas de novelas e séries de TV mas inserindo os rostos de celebridades e políticos. Algumas mantém o áudio original das cenas. Outros tem um trabalho de dublagem para sincronizar com a mídia sintetizada. O objetivo dele nesses casos é a sátira.

Contudo tem muita gente mal intencionada usando essa tecnologia para tentar enganar ou extorquir pessoas que não conseguem distinguir o falso do real. Vamos ver os dois principais casos de uso:

Deepfake via app (Em tempo real, usado em chamadas de vídeo.)

Para esse é utilizado um aplicativo que funciona de forma semelhante a um filtro de rede social. Ele modifica em tempo real a imagem transmitida. Uma forma simples de detectar esse tipo de mídia é pedindo para a pessoa virar o rosto de lado ou mexer o celular. Para processar bem a imagem, o app precisa que a pessoa e a camera fique o mais imóvel possível.

Deepfake pré fabricado (Usado para criar audios, fotos e videos manipulados.)

Essas mídias são criadas com várias finalidades. Áudios se passando por um amigo ou parente, solicitando dinheiro diretamente. Podem ser fotos e vídeos criados com o fim de constranger ou chantagear alguém. Infelizmente há muitos casos de criação de pornografia de vingança e também conteúdo ilícito envolvendo menores de idade. Esse material pode ser difícil identificar mas como já é produzido de antemão, não será espontâneo como no caso da chamada por exemplo.

A melhor maneira de se protejer contra essas práticas é não disponibilizar o material base para a criação dessas mídias. Videos de alta qualidade expondo sua voz e imagem publicamente, são um perigo real. Veja aqui as dicas de privacidade que mencionamos no nosso post anterior.