Tecnologia apocalíptica?

Em meados da década de 60, “Os Jetsons” retratavam a rotina de uma família futurística. Revisitando a animação, vê-se a antecipação de tecnologias agora trivializadas: smartwatch, assistentes pessoais (como a Siri), o videofone, robôs em tarefas domésticas, dentre outras.

Muito antes disso, na obra “Da Terra à Lua”, de 1865, Júlio Verne anteviu o êxito da missão lunar que só veio a ocorrer em 1969. Nas suas “Vinte Mil Léguas Submarinas”, de 1870, o autor francês antecipou avanços como o submarino elétrico, o escafandro autônomo e as armas de disparos elétricos (“tasers”).

Desde a década de 80, várias as películas passaram a se ocupar de graves delinquências cometidas contra as pessoas por sistemas autônomos de inteligência artificial. O nosso futuro pode estar pressagiado em filmes como “Blade Runner”, “O Exterminador do Futuro”, “Matrix”, “Eu, Robô”, “Soldado do Futuro” e “Vingadores: Era de Ultron”.

Hoje, aplicações da inteligência artificial podem ser uma “pedra filosofal” na arena da tecnologia. Animadas pelas respectivas potencialidades e desconhecendo limites, grandes empresas e estados soberanos lançaram-se na desabalada exploração de funcionalidades que sejam capazes de saciar as suas inexcedíveis ambições de domínio mercadológico e geopolítico.

Na edição de ontem, o New York Times trouxe precioso artigo, assinado pelo israelense Yuval Harari, que deve ser motivo de geral inquietação. Em pesquisa sobre o futuro da tecnologia realizada em 2022 e direcionada a mais de 700 de pesquisadores e acadêmicos de ponta, todos líderes de empresas de vanguarda no desenvolvimento da inteligência artificial, constatou-se que metade deles disseram superar 10% as chances da efetiva extinção ou subjugação da raça humana por sistemas de Inteligência artificial.

E o autor pergunta: você embarcaria num avião sabendo que ele tem uma probabilidade de 10% de cair? Em verdade, estamos todos involuntariamente a bordo dessa perigosa aventura.

Harari diz que a humanidade foi vencida em seu primeiro contato com a inteligência artificial na arena das mídias sociais. Em sua incipiente versão, os algoritmos faziam uma mera curadoria de conteúdo (e não a produção dele), detectando as nossas preferências e direcionando-o de forma a aumentar o engajamento. Desde então, lembra ele, a IA já se mostrou capaz de criar uma cortina de ilusões que fomentou a polarização, minou a nossa saúde mental e desmanchou a democracia.

O segundo contato, antecipa, será bem mais complexo. Dominando a linguagem e criando quaisquer conteúdos (inclusive a deepfake), os sistemas de IA terão impensáveis habilidades de manipulação. Poderão assumir o governo cultural, criando diretamente arte, música, notícias, crenças, moldando os costumes e hábitos das massas para propósitos específicos. Terão a aptidão de customizar as formas de comunicação, otimizando a respectiva eficácia. Identificando perfis e padrões de comportamento, serão capazes de formar opiniões, direcionar vontades e de impelir à ação.

Sem perceber, poderemos nos transformar em meros títeres de máquinas, desprovidos de uma vontade substancial porque atendendo involuntariamente a uma “programação” ironicamente “inseminada” pelos equipamentos que, há poucas décadas, limitavam-se ao atendimento de uns poucos comandos binários.

Ronnie Preuss Duarte, advogado e ex-presidente da OAB-PE