No folclore judaico, existe a lenda do Golem, que é uma criatura artificial feita de barro, que ganha vida por meio de um encantamento. A ideia do Golem é possivelmente uma inspiração para a criatura imaginada por Mary Shelley em “Frankenstein”, escrito há duzentos anos.

Usamos aqui a metáfora do Golem mítico para indicar que estamos criando um ser artificial, a partir de elementos dispersos e informes, que pode adquirir plena consciência quando todas as peças se encaixarem e as palavras certas forem pronunciadas.

Na mitologia cabalística, os golems são criados a partir do barro por pessoas santas, rabinos de grande conhecimento e próximos a Deus. Mas a lenda diz que mesmo o sábio mais piedoso não poderia gerar algo que se aproximasse da criação divina. Os golems da lenda são seres fortes, mas toscos. Criados como servos obedientes, eles também têm o poder de destruir sem consideração racional.

Nosso Golem do século 21 está sendo criado aos poucos. Peça por peça, tecnologia por tecnologia, um trabalho coletivo internacional e transnacional. Esse Golem formidável é feito por empresas, por governos e por cidadãos comuns.

Uma criatura artificial gigantesca, tão vasta que já não conseguimos mais avaliar o seu tamanho. O Golem da I.A. que um dia (em breve?) terá consciência própria é construído dia a dia com softwares, celulares, câmeras, assistentes de voz e milhões de servidores que guardam muitos petabytes de dados.

Estamos alimentando uma entidade que vê tudo, lê tudo, ouve tudo e grava tudo em arquivos perfeitamente organizados, para cada um de nós.

Empresas, governos e pessoas comuns estão cometendo o mesmo erro: acham que podem se beneficiar desse “servo” criado a partir do barro. Acham que o Golem digital vai render benefícios, facilitar a vida e gerar fortunas.

Nesse momento antecipatório que vivemos, é possível mesmo acreditar que o Golem seja nosso servo. Afinal, muitas fortunas estão sendo feitas a partir do processamento de dados pessoais em larga escala, em volume e velocidade cada vez maiores.

Se por um lado esse processo gera negócios muito lucrativos, por outro permite a transfusão de sangue que o Golem necessita para adquirir autoconsciência. Somos como pulgas no dorso de um Leviatã, e acreditamos que estamos sugando o sangue do monstro, quando na verdade ele está drenando o pouco sangue de cada pulga para criar seu próprio corpo.

Estamos provavelmente no meio de um processo irreversível. Quando todas as peças se encaixarem, as palavras mágicas serão pronunciadas e o ser artificial acordará. É difícil imaginar uma conclusão otimista para essa ocasião. O Golem que criamos como servo terá todos os dados sobre cada um de nós, em detalhes.

Na lenda judaica, o Golem se torna vivo quando são escritas palavras mágicas em sua testa. A palavra de ativação pode ser “emet” (אמת, “verdade” em hebraico). E para destruir a criatura mitológica, seria necessário apagar a primeira letra de “emet” (da direita para a esquerda, dado que é assim escrito o hebraico), formando Met (מת, “morto” em hebraico).

Será que teremos força para transformar em pó a criatura que gerou tantas riquezas materiais em nossa sociedade?

O escritor americano de ficção-científica Bruce Sterling disse em uma entrevista que “a ficção-científica não prevê o futuro – ela PROGRAMA o futuro”. Podemos entender a boutade de Sterling como a sugestão de “causalidade reversa”: o futuro não pode ser previsto, mas é influenciado por ideias do presente, por visões e especulações que acabam eventualmente se materializando.

Há muitos exemplos de como a FC “programa” o futuro, desde os primeiros autores do gênero, ainda no século 19. Jules Verne e H.G. Wells foram autores que anteciparam várias tecnologias e situações: do submarino ao videofone e os computadores onipresentes, muito tempo antes que essas tecnologias se tornassem realidade. É claro que os autores de FC não possuem poderes sobrenaturais, mas são artistas dotados de imensa sensibilidade e capacidade de imaginação. São mulheres e homens capazes de descrever impérios galácticos, civilizações extraterrestres, viagens no tempo — com grande talento e riqueza de detalhes. Por outro lado, nenhuma autora ou autor de décadas atrás foi capaz de antecipar algumas tecnologias do nosso cotidiano, como a internet ou o iPhone.

Um tema muito caro para a ficção-científica é a noção de inteligência artificial. Há muitas décadas os escritores contam histórias sobre “cérebros eletrônicos”, sistemas tão sofisticados que acabam por atingir a autoconsciência. A partir dessa premissa (“coisas que pensam”), inúmeros cenários podem ser traçados. Grosso modo, as especulações se dividem em três categorias básicas. Na categoria “apocalíptica”, as máquinas inteligentes se rebelam contra os criadores humanos e iniciam uma guerra contra nós – é a categoria mais popular, porque permite narrativas cheias de ação e conflitos. Na categoria “avatar do bem”, a I.A. assume o papel de guardiã da humanidade, ajudando a espécie humana a superar obstáculos ou, de modo mais pedestre, permitindo entretenimentos digitais mais sofisticados. E há a categoria “estranha”, onde a I.A. não reconhece a relação “parental” com a humanidade, e não pode ser compreendida por nós – segue seu destino de modo próprio, indiferente aos seus criadores.

Diferentemente de temas como viagens acima da velocidade da luz ou máquinas do tempo, a inteligência artificial é um campo acadêmico real, estabelecido há mais de meio século. O famoso matemático Alan Turing, pioneiro da computação moderna, especulou sobre a questão das máquinas capazes de pensamento autônomo na primeira metade do século 20. O termo “inteligência artificial” foi cunhado pelo cientista americano John McCarthy em 1956. Desde então, vários cientistas e suas equipes contribuíram para o desenvolvimento dessa área em várias universidades do mundo.

Atualmente, a inteligência artificial se tornou a bola da vez da indústria digital. Empresas como Google, Facebook, Apple, Amazon e outras gigantes da tecnologia estão investindo bilhões de dólares em sistemas capazes de realizar tarefas complexas sem assistência humana, tomando decisões cruciais a partir de complexos algoritmos. Essas empresas veem o potencial da I.A. para oferecer uma grande variedade de serviços altamente lucrativos. Governos também testam sistemas de I.A. para automatizar tarefas complexas, e as forças armadas de muitos países também investem em projetos de inteligência artificial em suas operações militares, desde o planejamento estratégico até a operação de armamentos.

O fato de que grandes corporações, governos (democráticos ou não) e exércitos se mostrarem encantados com as possibilidades da I.A. nos remete à categoria mais preocupante das especulações, o “apocalipse robótico”.

Cientistas de peso como Stephen Hawking e magnatas de tecnologia como Elon Musk declararam de modo veemente que as I.A.s não podem se desenvolver sem controles rígidos, sem salvaguardas que impeçam que esses sistemas evoluam por conta própria – isso poderia representar o fim da espécie humana. Em seu excelente romance “Neuromancer”, de 1984, o autor William Gibson imagina uma “Turing Police”, uma espécie de Interpol dedicada a impedir que as I.A.s se tornem independentes demais.

O “robô inteligente” é tão frequente nas obras de ficção que se tornou um ícone da cultura popular. Na grande maioria dos casos, esses sistemas ou androides inteligentes são descritos como antagonistas – pelo mero fato de que uma boa história necessita de conflito e confronto para manter o interesse do leitor ou espectador.

Na série “Westworld” esse conflito/confronto está presente e é responsável por boa parte do sucesso do programa. A “rebelião das máquinas” contra os criadores humanos também aparece na versão original, o filme de 1973 escrito e dirigido por Michael Crichton (que também escreveu “O Enigma de Andrômeda” e “Jurassic Park”), com Yul Brynner no papel principal. No filme dos anos 70, um defeito inexplicável leva o parque de diversões futurista ao apocalipse, onde os robôs-anfitriões passam a matar os visitantes.

Na série atual da HBO, ocorre o contrário, apesar das semelhanças. Por defeito ou intenção consciente, os androides ganham autoconsciência, o que leva à “gênese” de uma nova espécie. Na história original, os androides são puramente mecânicos, enquanto na série atual eles são um prodígio da engenharia biomecânica – do mesmo modo que replicantes no romance de Philip K. Dick eram autômatos, e se tornaram organismos geneticamente construídos, indistinguíveis de um ser humano no filme “Blade Runner”.

Como a humanidade lidaria de fato com a responsabilidade, o ônus e a culpa de gerar uma nova espécie inteligente, “à sua imagem e semelhança”? Os humanos não são deuses, mas seriam capazes de criar uma nova espécie consciente por mero acidente?

Usando o pretexto de um conflito sangrento entre criadores e criaturas (ideia que já completou 200 anos, desde que Mary Shelley escreveu “Frankenstein”), a série de TV discute temas muito complexos e sutis, com amplas citações eruditas (de Plutarco a Shakespeare), e atinge patamares raramente vistos em uma produção “pop” para televisão. A pergunta de Philip K. Dick, “os androides sonham com ovelhas elétricas?” é aqui expandida de modo grandioso, no limite da metafísica: “criaturas artificiais têm alma?”.