Cada vez mais perto da Matrix: como barrar a mentira ultratecnológica?

A disseminação de falsidades ganha adeptos em todo o mundo. Pode ser através de fake news, as mentiras que a maioria propaga sem se preocupar com a fonte, ou sequer com a possibilidade de ser mentirosa a mensagem: há quem transmita adiante com a singela advertência de que não sabe se é verdade, mas na dúvida, passa. Ou pode ser por montagens realísticas geradas pela Inteligência Artificial (IA), onde simulacros de imagens e sons, crescentemente verossímeis, burlam rapidamente a suspeita do
ilusionismo. Dias atrás, o papa Francisco surgiu em um casaco cheio de estilo, usando um tradicional crucifixo de prata por cima. A imagem foi criada por IA e distribuída como brincadeira, logo viralizando – ou seja, massificada a tal ponto que não importa a diferenciação entre verdade e mentira, depois que a informação é assimilada como fato.

A foto forjada do papa não foi a única, nem será a última. A tecnologia avançada produz e articula textos, imagens e sons em que a autoria se perde, e o engano emerge como objetivo facilmente alcançado. Para os defensores da IA, o ser humano está para ser poupado de processos mentais repetitivos, como textos informativos de fácil arrumação – no caso do ChatGPT e similares. Mas a imposição do falseamento de imagens e sons traz para futuro próximo cenários distópicos como o de George Orwell, no livro “1984”, no qual a história é diariamente reconstruída por textos e fotos falsificados pelo Ministério da Verdade. Ou ainda mais longe, na sombria perspectiva de uma realidade virtual na qual todos nos inserimos sem perceber, sob o domínio de máquinas inteligentes, na provocativa trilogia cinematográfica “Matrix”.

O roteiro de ficção científica estampou a imprensa mundial, há poucos dias, quando Elon Musk e outros donos graúdos de empresas tecnológicas lançaram carta aberta, pedindo a suspensão do desenvolvimento da IA, em atenção aos potenciais riscos para a humanidade. Sem medidas efetivas para o freio proposto, a suspensão da pesquisa de algoritmos avançados do que se chama de Inteligência Artificial não chega a ser notícia falsa, mas é quase mentirosa. Musk e os demais sabem o quanto é difícil estancar a corrida tecnológica da IA. Levantando, além da questão ética pertinente, rumores sobre motivações mercadológicas por trás da carta de discurso moralizante e apocalíptico.

No Brasil, o Supremo Tribunal Federal tem buscado liderar uma reação institucional à popularização das fake news. O STF defende que as empresas de tecnologia sejam responsabilizadas pelo conteúdo mentiroso em suas redes. Desta forma, teriam que desenvolver mecanismos de identificação e retirada do que não é verdade. O problema reside na determinação do que pode e não pode ser veiculado – e nem mesmo os juízes do Supremo teriam condições de definir, sem incorrer em situação parecida com o Ministério da Verdade de Orwell.

Além disso, a informação falsa é uma espécie de droga da idade da tela. O consumo de informações se tornou um vício aceito como droga lícita. Os produtores de fake news e memes apenas se divertem, enquanto as viralizações se multiplicam. Há que se pensar também no consumidor da mentira, se desejamos tratar com seriedade da falsificação do mundo.