Softwares capazes se substituir um rosto por outro rosto em um vídeo: a última fronteira das informações falsas lança mão da AI (inteligência artificial). Em uma mídia digital cada vez mais invadida pelas fake news (informações falsas), aqui está a nova e tremenda ameaça à “realidade da informação”: o deep fake, os vídeos falsificados.
Por: Equipe Oásis
As fake news? Elas poderão em breve alcançar níveis olímpicos, cada vez mais sofisticados, com a introdução do deep fake, ou seja, a substituição dos rostos em um vídeo já existente graças a softwares extremamente avançados, guiados pela inteligência artificial. Trata-se de uma técnica já experimentada com sucesso no mundo do cinema pornô, onde fez várias vítimas entre as estrelas de Hollywood cujo rosto foi sobreposto ao de pornoatrizes em ação. Que poderá trazer esta técnica aplicada, por exemplo, ao debate político, para gerar vídeos de propaganda, incertezas, temores, falsidades, calúnias?
O que é o deep fake?
Há poucos meses, o popular site Mashable definiu o deep fake (que também se escreve deepfake, sem espaço) “a última crise moral da internet”, oferecendo uma definição tecnológica bastante atual do fenômeno: “Um novo tipo de vídeo com face-swap (troca de rostos) realista”. Para resumir, o redator explica que se tratam de elaborações baseadas em um software que busca um “terreno comum” entre dois rostos para, em seguida, “colar” um sobre o outro, de maneira dinâmica. Não se trata de uma fotomontagem, mas sim de um vídeo verdadeiro, e as imagens de base são claras e de boa qualidade tornando a metamorfose artificial praticamente perfeita. A tecnologia, relativamente fácil de usar, alimenta diversas comunidades cujos membros podem ser tanto técnicos experientes quanto aprendizes iniciantes. Eles dialogam, se confrontam, trocam experiências e produzem vídeos falsos (algumas dessas comunidades, como a Reddit, já foram banidas de diversas plataformas públicas, mas outras surgiram em todo o mundo, e o número delas prolifera sempre).
Uma equipe de pesquisadores da cidade de Lucca, na Itália, desenvolveu um modelo matemático que descreve a difusão das notícias fake news.
Nicholas Cage, uma das vítimas
Um dos vídeos deep fake mais famosos mostra o ator Nicholas Cage em papeis que ele nunca interpretou, e em muitos casos é difícil perceber a sobreposição de imagens – sobretudo se a pessoa não está ao corrente do que acontece. A qualidade dos resultados – pelo menos naquilo que diz respeito ao FakeApp, o mais conhecido programa de deep fake -, deve-se à boa qualidade desse software de inteligência artificial para alinhar uma imagem sobre a outra e fundi-las. O computador, na prática, faz uma análise de centenas de imagens tiradas de cenas de vídeos, identifica os rostos, analisa como eles são iluminados, quais expressões faciais e gestuais adotam, e outros detalhes. Quando ele “compreende” tudo aquilo que deve aprender a respeito dos rostos com os quais está trabalhando, utiliza esses conhecimentos para habilmente “costurar” um sobre o outro, sincronizando movimentos, expressões faciais e dos lábios.
Nestes tempos que começam a ser chamados de pós-verdade, repletos de lorotas, mentiras, fofocas e manipulação da informação através das redes sociais, as novas possibilidades oferecidas por esta tecnologia geram uma certa apreensão sobretudo nas áreas da política. Um dos temores é, naturalmente, que os especialistas em “propaganda e marketing” usem a tecnologia do deep fake para gerar vídeos comprometedores – ou, ao contrário, de absolvição – para vários crimes ou atos de delinquência, ou então para difundir mensagens que a vítima da vez certamente preferiria manter escondidas.
Lorotas: é preciso criar uma vacina contra as fake news
Há pouco tempo, o site BuzzFeed conduziu um “experimento” mostrando o vídeo de um discurso nunca pronunciado de Barack Obama. Em maio último, um partido belga produziu um vídeo falso de Donald Trump que dizias coisas absurdas a respeito da política climática da Bélgica. “Em ambos os casos – escreveu um analista do jornal The Economist – o vídeo estava ligeiramente desfocado e as vozes eram imitadas. Mas a tecnologia está melhorando rapidamente, e existem pesquisadores no campo da inteligência artificial que apostam no fato de que vídeo falsos possam ser exibidos nas redes sociais durante as próximas campanhas eleitorais norte-americanas.”
O que dá credibilidade a essa visão do futuro imediato é exatamente o fato de que o deep fake usa algoritmos de aprendizado automático combinados com softwares de mapeamento facial, para a criação, a baixo custo (em termos de tempo de elaboração e de dotação de competências tecnológicas), de vídeos que modificam a identidade. Na prática, e dentro de certos limites, não é preciso ser um especialista para produzir um vídeo falso que possa passar por algo real: o software se encarregará de tudo, e de forma cada vez mais perfeita.
Em recente relatório, o Belfer Center (Harvard Kennedy School) tornou evidentes as implicações que essas falsas – e em geral o uso desregrado da inteligência artificial – poderiam ter sobre a segurança nacional norte-americana com a difusão de vídeos falsificados porém tão bem feitos que poderão passar por verdadeiros. “A criação avançada de suportes de áudio e de vídeo passa por um processo de rápido melhoramento quanto à qualidade e a redução dos custos: no futuro, os falsos gerados pela inteligência artificial porão à prova a confiança em muitas instituições”, diz o relatório.
Fact checking (verificação do fato): guerra aberta às notícias mentirosas.
Como se defender das fake news?
Nos Estados Unidos, onde ainda ecoa o impacto causado pelo caso Cambridge Analytica (notícias falsas que teriam influenciado e distorcido as próprias últimas eleições presidenciais), o debate permanece aberto. Hany Farid, professor no Darthmouth College e pioneiro do sistema PhotoDNA (uma tecnologia usada para bloquear a pedopornografia) adverte que “ainda estamos décadas distantes de termos uma ‘tecnologia forense’ capaz de separar sem ambiguidades o verdadeiro do falso”. Se a ciência é ainda impotente, já surgiram aqueles que propõem uma intervenção legislativa com o objetivo de endurecer a legislação sobre difamação. Porém, aplicá-la às plataformas sociais ou a atores que agem fora dos limites geográficos interessados não parece coisa fácil.
A respeito, o site Mashable tem uma posição bastante clara: “Como acontece com muitas outras tecnologias emergentes, é possível que muitas das coisas que nos esperam ainda não estejam bastante evidentes para nós. Quando o Facebook entrou pela primeira vez nos campus universitários, poucos teriam apostado na sua rápida transformação em um ‘Golias multimídia’ potencialmente capaz de desestabilizar a democracia americana. Como as fake news que atingiram muitos usuários do Facebook, o deep fake encarna uma nova possibilidade de violar a realidade. A partir do momento em que qualquer clip vídeo pode ser um falso, por que acreditar que alguma coisa seja real?”