confere.ai

Deepfakes já são produzidas no Brasil, mas sem fins políticos

A tecnologia que realiza ‘troca de rostos’ de personalidades da tv e do cinema, e também da política, tem sido utilizada como prática desinformativa

Laís Arcanjo
Laís Arcanjo
Publicado em 20/10/2020 às 11:18
Notícia

Reprodução/Fanpop
A nativa de Pandora Neytiri, interpretada pela atriz Zoë Saldaña. - FOTO: Reprodução/Fanpop
Leitura:

O surgimento e a disseminação da desinformação, e com os avanços tecnológicos, têm se tornado cada vez mais sofisticados. Um exemplo disso são as deepfakes, junção dos termos “deep learning”, tipo de algoritmo utilizado para a criação de inserções digitais em vídeos, e “fake”, falso). Muito se questiona se elas já existem no Brasil e estão sendo usadas para manipular o debate político. O Confere.ai foi atrás dessas respostas.

Na prática, uma deepfake utiliza técnicas similares aos efeitos especiais usados em produções de Hollywood, onde se insere digitalmente uma pessoa que originalmente não faz parte dali. A técnica mais usada é a chamada “troca de cabeças”, que utiliza uma “pessoa-origem” e insere a imagem na “pessoa-destino”. Assim, com o uso de softwares que usam algoritmos de inteligência artificial é possível transferir o rosto da “pessoa-origem” para o corpo da “pessoa-destino” de forma que pareça que a “pessoa-origem” realmente faz parte do vídeo. Essa técnica foi utilizada pelo diretor James Cameron no filme recorde de bilheteria Avatar (2009), que deu vida aos gigantes azuis do mundo de Pandora.

“Estamos falando de uma tecnologia que vem sendo barateada e massificada. A deepfake usa um mecanismo de aprendizado de máquina, dentro das técnicas de inteligência artificial, para fazer essa máquina ‘criar imagens que nunca existiram’ de forma barata e rápida”, explica o fundador e diretor do Instituto de Pesquisa em Direito e Tecnologia do Recife (IP.rec), André Fernandes.

Reprodução/Fanpop
A nativa de Pandora Neytiri, interpretada pela atriz Zoë Saldaña. - Reprodução/Fanpop

Enquanto no final dos anos 2000 esse tipo de produção necessitava de máquinas extremamente avançadas, no presente, com os avanços da computação, os programas já podem ser encontrados em computadores domésticos.

A popularização das deepfakes se deu em 2017, quando rostos de celebridades começaram a ser utilizados em filmes pornográficos. Mas não demorou muito até esse fenômeno chegar em outra esfera: a política. O presidente dos Estados Unidos, Donald Trump, em mais de uma ocasião compartilhou vídeos manipulados do seu atual adversário para a presidência, Joe Biden. Em uma delas, um vídeo mostra Biden apoiando Trump para uma possível reeleição. Originalmente publicado por Dan Scavino, diretor de mídias sociais e assistente do presidente, o conteúdo já foi declarado como falso e o Twitter, rede onde o vídeo foi postado, identificou-o com uma tag de ‘mídia manipulada’.

Não só o Twitter acendeu o sinal de alerta para as deepfakes. Facebook e Microsoft já investem em pesquisas para a produção de ferramentas que identifiquem falsificação de conteúdo. Além deles, o Google disponibilizou em setembro um banco de dados com milhares de imagens para serem utilizadas em pesquisas para detecção de audiovisual adulterado. “Acreditamos firmemente no apoio a uma comunidade de pesquisa próspera para mitigar os potenciais danos causados pelo uso indevido de mídia sintética”, declarou a empresa em comunicado.

Reprodução/Microsoft
Funcionamento da ferramenta Microsoft Video Authenticator. - Reprodução/Microsoft

Falando de Brasil, o diretor do IP.rec André Fernandes considera que o mercado brasileiro de aplicativos barateado amplia o uso de técnicas de deepfake. Porém, os casos mais conhecidos dessa prática têm fim humorístico e satírico. “Se levarmos isso em conta, apesar de ser um elemento a se observar com cautela pelas autoridades eleitorais, especialmente o Judiciário, as deepfakes não aparecem como um fator imediato de ameaça às eleições.”

Ainda assim, é preciso estar alerta, já que as redes de desinformação podem dispor dessa tecnologia em breve, e fazer uso negativo e danoso. “O consenso geral é que as deepfakes são ambivalentes, e o lado negativo, o uso negativo, é que elas colaboram como mais um fator na deterioração do tecido social e da confiabilidade institucional no Brasil”, complementa André.

Exemplos do uso humorístico da deepfake, que ficaram popularmente conhecidos no Brasil, foram os vídeos do jornalista e editor de vídeo Bruno Sartori, que produziu uma série de sátiras com personalidades políticas brasileiras: o presidente Jair Bolsonaro, o ex-presidente Lula e o ex-ministro da Justiça Sérgio Moro.

Mesmo não sendo perigo iminente para a votação brasileira, o Tribunal Superior Eleitoral (TSE), em campanha contra a desinformação nas eleições de 2020, produziu conteúdos audiovisuais para conscientização dos eleitores. Um deles fala sobre as deepfakes e os perigos da proliferação desse tipo de conteúdo. A campanha conta a participação do pesquisador e biólogo Atila Iamarino, nome que ganhou destaque nos últimos meses. Atila compartilha diariamente em suas redes sociais conteúdos e pesquisas sobre a pandemia do novo coronavírus e os avanços em relação às possíveis vacinas e tratamentos da covid-19.

Apesar dos riscos envolvendo as deepfakes, a popularização do mecanismo já é visível. Para André Fernandes, a solução para seu uso indevido fica na educação midiática e na conscientização do uso das novas tecnologias. “Todos os setores devem estar em harmonia na necessidade de capacitação social para lidar com a desordem informacional, que é um tema cotidiano, que está no pronunciamento das autoridades ao conteúdo compartilhado por um parente no grupo do whatsapp. Essa alfabetização envolve tanto a parte de conhecer e garantir direitos (papel dos governos, com a privacidade, os direitos de imagem, por exemplo), como da atuação dos diversos profissionais na checagem de fatos, na denúncia e contenção de espraiamento de informações falsas.”

Confere.ai

Para evitar cair em desinformação e não compartilhar boatos e mentiras, principalmente em período eleitoral, é preciso checar. Em poucos passos isso pode ser feito, utilizando o Confere.ai. Primeira ferramenta automática de checagem de notícias produzida no Nordeste, o Confere.ai é uma parceria do Sistema Jornal do Commercio de Comunicação, da startup Verific.ai e de pesquisadores da Universidade Católica de Pernambuco. Ficou em dúvida com a informação que recebeu? Basta copiar o link que deseja checar, ir em www.confere.ai, colar e clicar em ‘Conferir’. O Confere.ai possui um medidor que irá informar o nível de características de uma desinformação presente na notícia apresentada.

 

Seja um assinante JC.

Assine o JC com planos a partir de R$ 1,90 e tenha acesso ilimitado a todo o conteúdo do jc.com.br, à edição digital do JC Impresso e ao JC Clube, nosso clube de vantagens e descontos que conta com dezenas de parceiros.

Assine o JC

Comentários

Últimas notícias