Continuamos a série que explica as principais palavras do vocabulário dos empreendedores da nova economia. São termos e expressões que você precisa saber: seja para conhecer as novas ferramentas que vão impulsionar seus negócios ou para te ajudar a falar a mesma língua de mentores e investidores. O verbete de hoje é…
DEEPFAKES
O que acham que é: Técnica de maquiagem para disfarçar olheiras profundas.
O que realmente é: Deepfakes (“falsificações profundas”, em tradução livre do inglês, e também a junção dos termos “deep learning” e “fake news”) é o nome dado a vídeos que manipulam a realidade por meio de tecnologia, sobrepondo o rosto de uma pessoa a outra ou, ainda, emulando vozes. Usam, para isso, uma aplicação da Inteligência Artificial chamada Machine Learning, que é a capacidade dos computadores de aprenderem com dados. Ou seja, ao possuir centenas de fotos de uma mesma pessoa, a máquina aprende a maioria de suas expressões e pode sobrepô-las às de outra.
As ferramentas de Machine Learning utilizadas nos Deepfakes são open source (ou seja, têm código aberto) e facilmente encontradas no Google. Uma delas, chamada TensorFlow, é a mesma usada pelo app para desktop FakeApp, que vem facilitando a criação desses tipos de vídeo.
Jornalista de dados e repórter da plataforma de fact-checking Aos Fatos, Bárbara Libório diz que os Deepfakes são uma nova fase das fake news. “Estamos falando de vídeos em que pessoas aparecem dizendo coisas que não disseram, em lugares onde nunca estiveram. Por muito tempo ouvimos discursos de que ‘as imagens não mentem’. Imagens manipuladas mentem sim”, diz.
Há dois exemplos, separados entre o início e o momento atual dos Deepfakes, que ilustram bem suas possibilidades (e males): quase seis meses atrás, circulou um vídeo no qual o rosto da cantora Taylor Swift foi sobreposto ao de uma atriz em um filme pornográfico. Há cerca de uma semana, Barack Obama apareceu em um vídeo fazendo afirmações falsas sobre fatos importantes. A imagem de Obama é real e a manipulação foi feita em sua mandíbula e nos movimentos de sua boca, assim como sua voz foi imitada digitalmente. Este último vídeo, no entanto, foi criado pelo ator e diretor americano Jordan Peele justamente para alertar para a problemática crescente dos Deepfakes e das fake news em geral.
Segundo Ivan Paganotti, professor do Mestrado Profissional em Jornalismo da FIAM-FAAM e pesquisador sobre fake news e seus impactos no jornalismo, os Deepfakes, até pelo sentido literal do termo, são um aprofundamento das técnicas de simulação e fraude já existentes nos textos — agora transpostas para imagens. “Enquanto as fake news simulam um formato jornalístico, os Deepfakes simulam áudio e vídeo, variando entre reencenações de produtos ficcionais, como filmes de Hollywood, ou simulando eventos como se fossem reais”, afirma.
Quem inventou: Um usuário do Reddit com o username de Deepfakes. Ele criou no site o fórum “/r/deepfakes” (depois banido), no qual compartilhava suas criações: vídeos pornográficos com os rostos das atrizes originais trocados pelo de celebridades como Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot. Dois meses depois, foi lançado o aplicativo FakeApp.
Quando foi inventado: O fórum “/r/deepfakes” foi criado em 2 de novembro de 2017. O FakeApp, em 8 janeiro deste ano.
Para que serve: Tanto para entretenimento como para a difamação e disseminação de mentiras. Nos dois últimos casos, pode ser usado como ferramenta política para fins desonestos (assim como as fake news) e, ainda, como mais uma forma de violência sexual contra mulheres.
Paganotti fala que há um receio de que imagens, falas ou ações falsas possam ser usadas para criticar ou até incriminar pessoas. “Em uma campanha política, por exemplo, um candidato pode ser mostrado recebendo dinheiro ilegalmente, usando termos ofensivos, agredindo alguém ou durante um encontro sexual, o que pode fazer com que alguns eleitores mudem seus votos sem perceber o engodo.”
Já um exemplo de entretenimento são os diversos vídeos com o ator Nicolas Cage, amplamente disseminamos nas redes. O rosto de Cage já foi colocado no lugar do rosto do comediante Andy Samberg, do da atriz Amy Adams (em um vídeo do filme Homem de Ferro) e do ator Harrison Ford (em um vídeo do filme Caçadores da Arca Perdida), entre outros.
Como podem ser combatidos: Com tecnologia de checagem de imagem e voz, com mudanças da legislação e com a disseminação da informação de que esse tipo de adulteração existe e, portanto, é preciso checar também a origem de vídeos comprometedores antes de tomá-los como registros reais.
Libório conta que há ferramentas que ajudam a checar vídeos por frames (quadro a quadro) para saber se não foram manipulados e a fazer buscas para descobrir se já foram publicados antes, originalmente, em outro lugar. “Essas ferramentas permitem até mesmo verificar a posição do sol em determinada data e local do globo para saber se o vídeo foi gravado quando e onde dizem que foi. Mas, quanto mais sofisticadas as manipulações se tornam, mais difícil é o processo de checagem.”
No Brasil, ainda não há leis contra fake news (há projetos, mas estes têm sido questionados em função da possível perda de liberdade de expressão). Dependendo do caso, é possível processar o autor de um Deepfake por injúria e difamação. Isso, porém, é algo caro e que pode levar um tempo que não se tem quando se trata de vídeos que viralizam de forma rápida e descontrolada.
Para saber mais:
1) Assista, no YouTube, a You Won’t Believe What Obama Says In This Video!, sobre o Deepfake criado por Peele. Também no YouTube, com Obama e na mesma pegada, assista a Fake Obama created using AI video tool. O vídeo foi produzido por pesquisadores da Universidade de Washington e, ao mesmo tempo em que mostra o ex-presidente falando, explica o processo de tecnológico de manipulação.
2) Leia, na Vice, People Are Using AI to Create Fake Porn of Their Friends and Classmates. Os criminosos utilizam fotos do Instagram ou do perfil do Facebook de estudantes para criar falsos vídeos pornográficos e assediá-las.
3) Leia, no New York Times, Here Come the Fake Videos, Too. Kevin Roose, colunista de negócios do jornal, conta como foi sua tentativa de criar um deepfake usando o FakeApp.
