Não é de hoje que o desenvolvimento da tecnologia permeia a evolução humana. Seja para ir à lua ou acessar rapidamente a internet, a sua importância se tornou vital em praticamente todas as atividades regulares que desempenhamos no cotidiano. Porém, são poucos os momentos em que paramos para refletir sobre as suas consequências negativas. Em tempos em que as fake news precisam ser cuidadosamente checadas e combatidas, a desinformação ganhou um forte aliado: o deepfake.

O termo deepfake, que começou a ganhar notoriedade em meados de 2017, consiste na utilização de inteligência artificial (IA) para criar vídeos falsos de pessoas falando e/ou fazendo ações que elas nunca fizeram. A técnica permite simular conteúdos diversos através de montagens, desde discursos políticos irreais até filmes pornográficos com celebridades. Além de atingir a reputação e a trajetória dos indivíduos diretamente envolvidos, tais materiais ajudam a propagar mentiras e a gerar graves consequências governamentais e diplomáticas.

Em 2019, a ONG francesa Solidarité SIDA (AIDS Solidarity) publicou um deepfake em que o presidente dos Estados Unidos, Donald Trump, afirmava que a AIDS havia sido erradicada. O intuito da campanha, intitulada “The DeepFake News Campaign”, era chamar atenção para o combate à doença através da grande quantidade de compartilhamentos que a postagem alcançaria nas redes sociais. Apesar da intenção positiva por trás da criação do vídeo, profissionais questionam o impacto desse tipo de conteúdo na sociedade.

“O que começou com filtros faciais bem básicos já alcançou o padrão de computação gráfica de produções cinematográficas. Essa explosão de conteúdos faz com que as pessoas comecem a duvidar de tudo. Precisamos tomar cuidado com deepfake, pois ele tende a se tornar cada vez mais real. Porém, o pânico é desnecessário, uma vez que a repercussão desse conteúdo é mais nociva do que a tecnologia em si”, destaca Claire Wardle, especialista em manipulação on-line, em um vídeo produzido para o The New York Times.

Barack Obama foi outra personalidade internacional vítima dessa manipulação. Em um vídeo falso produzido por Jordan Peele, ator e cineasta vencedor do Oscar, o ex-presidente norte-americano aparece dizendo que Trump é “um idiota total e completo”. A ideia por trás da ação era mostrar os perigos de acreditar em qualquer informação e explicitar a necessidade de checá-las antes de compartilhá-las. O estudo intitulado “Fake news, filter bubbles, post-truth and trust”, realizado em 2018 pelo Instituto Ipsos, revelou que 62% dos entrevistados no Brasil admitiram ter acreditado em notícias falsas até descobrirem que não eram verdade, taxa elevada em comparação com a média mundial, que é de 48%.

Origem

O início da disseminação dos vídeos falsos aconteceu no fórum de conversas Reddit, onde um usuário com o nome deepfake começou a compartilhar vídeos eróticos de celebridades. Atores, cantores, apresentadores e personalidades da mídia começaram a ver suas imagens atreladas a falsas cenas de sexo, construídas a partir de computação gráfica. O programador do conteúdo utiliza um software para fornecer inúmeras imagens de um determinado indivíduo para o computador, que aprende como aquela pessoa se comporta e reage em diversas situações. Simplificando, o computador estuda as expressões faciais fornecidas, podendo replicá-las posteriormente em falsas cenas. Dessa forma, o programador poderá manipular livremente aquele material.

Consequências

Embora, na maioria das vezes, a qualidade desses vídeos seja precária, não exigindo muito tempo para que um especialista possa atestar a sua falsidade, uma pessoa comum, na correria do dia a dia, pode ser facilmente enganada. Compartilhar sem atestar a veracidade da informação pode ferir a ética e prejudicar a vida pessoal e profissional de terceiros, além de contribuir com a propagação de desinformação. As eleições presidenciais norte-americanas de 2016 sofreram bastante com esses episódios, o que pode interferir na opinião dos eleitores e afetar o resultado final.

Dicas para reconhecer e evitar um deepfake:

• Compare o movimento da boca com o que está sendo dito;
• Repare na velocidade do vídeo, deepfakes tendem a ser mais acelerados do que vídeos comuns;
• Atente-se ao tom da voz e a qualidade do áudio;
• Verifique se os olhos estão piscando. O software não consegue reproduzir esse movimento com perfeição;
• Caso tenha dúvidas sobre a veracidade do vídeo, não compartilhe. Busque mais informações em portais de credibilidade;
• Caso receba o conteúdo de algum colega ou conhecido, questione-os sobre a fonte daquela informação.