Por Vivaldo José Breternitz, em artigo enviado ao blog
De forma simplificada, podemos definir deepfake como uma tecnologia que usa inteligência artificial para criar vídeos falsos, mas realistas, de pessoas falando e fazendo coisas que elas nunca fizeram na vida real. Essa técnica já gerou desde conteúdos pornográficos com celebridades até discursos fictícios de políticos influentes.
Agora, deputados holandeses receberam uma lição sobre os perigos desses vídeos falsos.
De acordo com o jornal daquele país, De Volkskrant, o comitê de relações exteriores do parlamento holandês foi enganado ao fazer uma videoconferência com alguém usando deepfake para se passar por Leonid Volkov assessor do líder da oposição russa Alexei Navalny.
O autor do crime não foi identificado, mas esta não seria sua primeira ação; o impostor já conversou com políticos letões e ucranianos e abordou figuras políticas na Estônia, Lituânia e Reino Unido.
O parlamento holandês disse em comunicado estar "indignado" com o fato e que procura formas de prevenir tais incidentes, apesar de parecer não ter havido nenhum problema maior em função do acontecido.
No entanto, o fato ilustra a possibilidade de grandes danos poderem ser causados a governos e políticos em geral: um vândalo pode vir apenas a gerar embaraços, mas deepfakes mais elaboradas, orquestradas por estados, podem induzir governos a tomarem decisões equivocadas, de consequências imprevisíveis.
Inteligência artificial é algo que pode nos ajudar muito, mas é também uma potencial fonte de problemas gravíssimos; mecanismos de controle precisam ser desenvolvidos e implementados, com urgência.
Vivaldo José Breternitz é doutor em Ciências pela Universidade de São Paulo, é professor da Faculdade de Computação e Informática da Universidade Presbiteriana Mackenzie.