DeepFake, Chapolin Bolsonaro e os novos tempos de Fake News

No ano passado o ator Jordan Peele publicou o vídeo do ex-presidente Obama produzido com a técnica de DeepFake (You Won’t Believe What Obama Says In This Video!).

Nessa cena, Jordan atuava ao mesmo tempo que apresentava um vídeo falso produzido por um algoritmo de DeepFake que fez a conversão para um vídeo final assustadoramente semelhante ao Obama. Esse acontecimento levantou diversas discussões sobre um novo nível de vídeos falsos e fake news que o mundo terá que enfrentar, principalmente, nas épocas de eleição.

Obama feito com DeepFake e Jordan Peele

De fato, esse tipo de software, como o FakeApp, se tornou mais popular no final de 2017 quando começou a ser utilizado para aplicar rostos de atrizes famosas em videos pornográficos e desde então esses softwares são constantemente aprimorados. Além disso, esses algoritmos conseguem colocar facilmente a voz e reconhecer padrões de fala e movimentos, desde que seja alimentado com horas de vídeo da pessoa desejada. Com o passar do tempo esses vídeos se tornaram bem realistas e até gerou a brincadeira de colocar o rosto do Nicolas Cage em vídeos no youtube.

Recentemente, mais um novo algoritmo desse nível foi publicado. O algoritmo da Samsung que consegue gerar um vídeo simulando movimentos do rosto usando apenas uma única imagem. O artigo da Superinteressante explica que “ao contrário dos softwares tradicionais de deepfake, o algoritmo russo possui um mecanismo inovador. Ao invés de analisar diversas imagens e vídeos de uma mesma pessoa, como se costuma fazer, aqui o processo é diferente: usar um grande banco de dados com diversas faces para mapear expressões gerais e pontos marcantes em todo ser humano – lábios, olhos e sobrancelhas, por exemplo”

Como o software de DeepFake funciona?

FakeApp

Esse tipo de software usa a técnica de aprendizado de máquina – machine learning – para trocar o rosto de uma pessoa pelo de outra. O software é, de certa forma, simples de ser usado e pode criar vídeos surpreendentemente realistas baseados em vídeos já existentes de uma pessoa.

É possível encontrar vários tutoriais que explicam o funcionamento desse software na internet. O tutorial inicialmente explica que o software trabalha fazendo a extração, em seguida, faz o treinamento e, por fim, a criação do vídeo. Também explica que, de modo geral, para alimentar o algoritmo de deep learning é necessário uma quantidade enorme de dados, por isso na fase de extração o software analisa o vídeo, quadro a quadro, com o rosto da pessoa desejada ao mesmo tempo que identifica as faces e faz o alinhamento delas, além de dimensionar para o tamanho correto a ser usado no processamento.

Após essa etapa, o software começa a fase de treinamento onde todas as imagens são comparadas e as faces são reconstruídas. De fato, essa é a etapa mais demorada da produção do novo vídeo, pois é nessa fase do processamento que a rede neural convolucional é treinada utilizando uma distribuição de pesos em cada nó da rede.

Finalmente, o software entra na etapa de criação, onde todos os quadros são extraídos a partir de um vídeo, os rostos são colocados e alinhados. O passo final é mesclar o rosto convertido de volta no quadro original. Esse processo todo é repetido em cada quadro do vídeo e cada quadro é processado de maneira independente, por isso, o vídeo final pode ter alguma oscilação.

Impactos do DeepFake

A evolução desse tipo de software torna a montagem do vídeo falso uma coisa simples, desde que se tenha vídeos para alimentá-lo (e uma placa Nvidia GeForce). Isso mostra como essa tecnologia deixa a produção de fake news fácil e como pode ser usado para aliciar pessoas, além de gerar desinformação conforme o interesse de quem produziu. E é óbvio que a população em geral não saberá distinguir um vídeo fake de um vídeo real.

Além disso, algo interessante aconteceu aqui no Brasil atual – que inclusive motivou a escrita deste artigo -. Recentemente, foram criados vídeos do Chapolin Bolsonaro e o Vila Militar do Chaves usando o rosto do próprio Bolsonaro e o FakeApp. Claro, esses vídeos são apenas uma brincadeira, mas nos mostram o novo nível de fake news que o mundo irá enfrentar, ou seja, logo o Brasil irá ver a sua própria versão do vídeo do Jordan Peele.

Chapolin Bolsonaro e VIla Militar do Chaves

Ao mesmo tempo, preocupado com as eleições de 2020, o departamento de defesa americano (DARPA) está produzindo os primeiros programas que visam encontrar vídeos de pornografia de vingança e vídeos falsos produzidos a partir da técnica de DeepFake. Segundo o artigo do MIT Technology Review, “As edições de vídeo envolvem o uso de uma técnica de aprendizado de máquina conhecida como modelagem generativa, que permite que um computador aprenda usando dados reais antes de produzir exemplos falsos que sejam estatisticamente semelhantes.”

Uma das descobertas dessa análise forense foi que uma pessoa em um vídeo feito por deepfake raramente pisca, isso acontece porque o algoritmo usa imagens lisas para recriar os padrões, deixando o movimento de piscar nada natural. (Embora isso possa ser contornado com o treinamento do algoritmo usando vídeos que a pessoa pisca). Também foram descobertos outros padrões nos vídeos fake, mas o pesquisador não exemplifica, pois isso poderia ajudar a aprimorar o software de deepfake.

Finalmente, ao ver todo esse cenário, é possível ver as preocupações éticas causadas por essa nova tecnologia, pois a partir de agora um vídeo não pode mais ser considerado uma prova verdadeira antes de passar por uma análise confiável e, por isso, é interessante estar sempre atento a esse tipo de ataque para que assim um vídeo falso não cause um estrago tão grande.