Ao longo de um único ano, milhões passaram a “acreditar na Ciência” sem questionar. Garnier escreve: “O surto de COVID-19 elevou a autoridade dos cientistas médicos … a dimensões quase religiosas”. Ela conclui com três perguntas críticas: “Quem está fazendo a ciência? Quais são seus objetivos para o futuro da humanidade? E que expressão o cientificismo encontrará quando o COVID-19 recuar para o passado?”

Enquanto Harari explora vários mundos possíveis nos quais humanos cibernéticos usam a tecnologia para se elevar à divindade, dada nossa trajetória atual, ele teoriza que uma pequena elite tecnocrática dominará as massas primitivas. Além disso, se a inteligência artificial produzir algoritmos superiores, os computadores conhecerão as pessoas melhor do que eles próprios.

Se o cientificismo é a nova religião da ciência e da tecnologia, e o transumanismo é o caminho para a apoteose, então o “dataísmo” de Harari é a seita que venera o Big Data como o mais alto poder terreno. Seja empunhada por donos humanos ou computadores autoconscientes, essa informação mística será usada para controlar o mundo.

De acordo com o conceito de conversão em massa de Garnier, o bloqueio global de 2020 parece ser o “Grande Despertar” do dataísmo. Em todo o planeta, governos, corporações e universidades forçaram seus cidadãos e funcionários a mudar suas vidas online. Além da invenção do smartphone, nenhum evento na história gerou dados mais úteis do que a resposta à pandemia.

De acordo com o mito de Harari, as várias entidades que detêm esses dados – do Google ao Partido Comunista Chinês – estão prestes a se tornar um sacerdócio global aberto.

‘Humanos, Deuses e Tecnologia’

Os cenários que o “Homo Deus” prevê fornecem informações cruciais sobre o que Harari chama de “agenda global”. Este volume retoma o fio evolutivo onde “ Sapiens: Uma Breve História da Humanidade ” parou.

Em muitos pontos, o tom de Harari é triunfante. Certamente, a ciência e a tecnologia permitiram que os humanos superassem amplamente os males perenes da fome, doenças e guerras em larga escala. A tecnologia também nos torna mais inteligentes e eficazes.

À medida que Harari olha para o futuro, no entanto, as imagens ficam sombrias, pois os humanos criam máquinas que olham para nós. Temos ferramentas em nossas mãos capazes de nos usar mais do que nós as usamos. O que acontece quando esses aparelhos, ou as pessoas que os controlam, tiram o melhor de nós?

As ideias em ambos os livros são um tanto incoerentes. Ainda assim, a mensagem central de Harari é tanto um aviso sério quanto uma cartilha sólida para aqueles inclinados a ignorar as rápidas mudanças que acontecem ao nosso redor. Suas previsões dependem de alguns princípios básicos: o poder da tecnologia determinará a ordem mundana; os humanos tendem a adorar o poder; e a maioria das pessoas é bastante pouco inteligente.

No breve documentário da VPRO “ Humanos, Deuses e Tecnologia ”, Harari faz uma avaliação concisa do transumanismo, engenharia genética, inteligência artificial e o futuro da espiritualidade:

No século 21, teremos uma nova religião ‘dataísta’, ou uma nova religião algorítmica, que dirá às pessoas que a fonte de autoridade são os algoritmos de Big Data. … Em essência, o dataísmo é a ideia de que se você tiver dados suficientes sobre uma pessoa, especialmente dados biométricos, e se você tiver poder de computação suficiente, você pode entender essa pessoa melhor do que a pessoa entende a si mesma. E então você pode controlar essa pessoa, manipulá-la e tomar decisões por ela. E estamos chegando muito perto do ponto em que o Facebook, o Google e o governo chinês conhecem as pessoas muito melhor do que essas pessoas conhecem a si mesmas.

Para aqueles que foram especificamente alvo de vigilância e manipulação, isso provavelmente já é uma realidade.

A chave, no entanto, é o processo de tomada de decisão. Sempre que os seres humanos enfrentam escolhas críticas – seja em relação à educação, carreira, casamento ou religião – nós pegamos as melhores informações disponíveis e seguimos nosso instinto para fazer a escolha certa. Mas o que acontece se os algoritmos de IA tiverem um conhecimento mais profundo de nossas mentes do que nossos colegas, amigos, familiares ou até nós mesmos?

Se os tecnocratas tiverem acesso total às nossas impressões de dados detalhados, imagine o poder que as mensagens direcionadas podem exercer sobre uma pessoa ou uma população inteira. Eles não chamam isso de “Deus do Google” à toa.

No entanto, ao longo de sua escrita, o tema da escolha humana tem Harari se amarrando em nós. Por um lado, ele abraça a teoria neurocientífica de que o livre-arbítrio é uma ilusão, argumentando que a predisposição genética, a cognição subconsciente e outros fenômenos bioculturais convergem para tomar nossas decisões antes mesmo de termos a experiência de selecionar uma “escolha”.

Mesmo assim, as previsões de Harari ainda nos apresentam escolhas claras. Colocamos nossa fé em máquinas superinteligentes (ou em seus donos)? Vamos simplesmente nos submeter ao seu poder? Nós fundimos nossos corpos e mentes com máquinas para nos apropriarmos desse poder? Ou tentamos evitar completamente esses caminhos?

As previsões de Harari em “ Humanos, Deuses e Tecnologia ” – entregues com um sorriso malicioso e virado para baixo – são intencionalmente provocativas:

Os novos poderes que estamos ganhando agora… realmente vão nos transformar em deuses. Os humanos estão adquirindo habilidades divinas. Especialmente a capacidade de criar e projetar a vida… Duvido que o Homo sapiens ainda exista daqui a duzentos anos. Ou nos destruímos, ou nos atualizamos e nos transformamos em algo muito diferente do Homo sapiens… Corpos diferentes, cérebros diferentes, mentes diferentes.

Este poder divino não será distribuído uniformemente, no entanto. Uma vez que o trabalho humano tenha sido substituído por automação e inteligência artificial – incluindo médicos, cientistas pesquisadores, programadores de computador, reparadores de computadores e escritores – as elites tecno-avançadas terão que descobrir o que fazer com a nova “classe inútil”.

A proposta de Harari? Forneça a todos alimentos, cuidados de saúde e uma renda universal – depois deixe-os brincar com eles mesmos:

A grande questão é o significado. O que eles vão fazer o dia todo? … Eles passarão cada vez mais tempo jogando jogos de realidade virtual. Isso lhes dará muito mais entusiasmo e envolvimento emocional do que qualquer coisa no ‘mundo real’ lá fora… Pode-se dizer que, há milhares de anos, milhões de pessoas encontraram sentido em jogar jogos de realidade virtual. Nós apenas chamamos esses jogos de ‘religiões’.

A teoria é que os desejos humanos podem ser satisfeitos por ambientes artificiais onde o comportamento correto leva você a níveis mais altos – seja em escolas, igrejas, campos esportivos ou realidade virtual. Portanto, telas de vídeo interativas vão mediar a experiência religiosa da “classe inútil”. Qualquer um que esteja usando um novo par de óculos de realidade virtual sabe que isso não é tão louco quanto parecia alguns anos atrás.

Como macacos órfãos em uma gaiola

Essa visão do progresso tende a evocar o ridículo ou o horror. Os humanos têm uma profunda necessidade de companhia e um propósito maior que, em última análise, as aventuras artificiais não conseguem atender. Não importa o quão convincente uma simulação digital possa ser, não importa quão potente seja o produto farmacêutico, nenhum deles poderia realmente satisfazer nossa necessidade de significado.

Harari toca nessas dúvidas. Apesar de seu tom moralmente ambivalente ao discutir a substituição da humanidade, ele exibe uma séria empatia pelos seres sencientes. Mesmo quando ele compara friamente a prática de 10.000 anos de castração de touros ao papel arcaico dos eunucos e aos procedimentos modernos de mudança de sexo, sua escrita revela um fraquinho por mamíferos não humanos e pessoas indefesas.

Em “Sapiens”, Harari descreve explicitamente a desconexão entre o instinto de um bezerro selvagem de estar perto de sua mãe – ou apenas vagar livremente – e a paisagem infernal encontrada em uma fazenda industrial. Isso é justaposto ao famoso experimento psicológico dos anos 1950, no qual um macaco órfão foi mantido em uma gaiola com duas mães artificiais.

Uma “mãe” era feita de fios de metal, mas segurava uma garrafa de leite. O outro estava coberto de pelos. O macaquinho instintivamente preferia o contato com a mãe peluda, mesmo quando se espreguiçava para beber da mamadeira do outro.

Harari observa que esses macacos, privados de vínculos emocionais reais em ambientes artificiais, crescem altamente agressivos e incapazes de socializar quando liberados em uma população normal.

A implicação para humanos navegando em labirintos urbanos, totalmente dependentes de dispositivos digitais, deve ser óbvia. Não fomos feitos para sermos satisfeitos por máquinas. Então, novamente, devido aos avanços na engenharia genética e implantes cerebrais , Harari argumenta que os cientistas serão capazes de modificar os instintos da maneira que escolherem – os deuses terrenos decidirão o que os humanos vão querer em primeiro lugar. Independentemente de o sucesso ser possível, a tentativa está bem encaminhada.

No entanto, em última análise, algo em nossa natureza humana se enfurece contra a máquina. A questão é se temos a inteligência e a vontade de enfrentar essa realidade, ou se nos renderemos mansamente ao poder terreno mais elevado.

---