Criaremos máquinas mais inteligentes do que nós?

Algumas versões atribuem a Prometeu e a seu irmão, Epimeteu, a inadvertida criação do Homem.

Prometeu, cujo nome significa algo como antevisão (“pro“, antes; “manthano“, aprender) era arguto e autoconfiante, mas não premeditava todas as consequências de seus atos. Aprontou uma com os deuses e, em represália, Zeus tirou o fogo dos humanos.

Insubordinado, Prometeu roubou o fogo e o devolveu aos homens, ensinando-os a dominá-lo. O castigo é conhecido: por trinta mil anos seu fígado (regenerável) seria devorado por uma águia.

O pior castigo veio em seguida: Zeus entregou a Epimeteu uma caixa (ou jarra) que continha todos os males que achamos que já conhecemos. Este entregou a caixa à primeira mulher, Pandora. Embora tenha sido advertida a nunca abrir a caixa, ela não resistiu e a abriu. Tudo que é coisa ruim saiu; quando ela conseguiu fechá-la, restou apenas o que mataria a esperança. Que nós a sustentemos! E, ainda bem, com Pandora veio a curiosidade.

Esse mito foi recontextualizado no início do século XIX por Mary Shelley, com a história do estudante de química e biologia Victor Frankenstein e sua “criatura”.

Essa criatura era um ser artificial, consciente de que era um monstro, que tinha um desejo: perpetuar-se.

Possivelmente, foi o primeiro livro de ficção científica.

A criação de cérebros artificiais capazes de superar nosso cérebro em inteligência geral já é uma possibilidade. Seria a superinteligência, descrita por Nick Bostrom, que poderia surgir ainda neste século.

O destino de nossa espécie dependeria das ações da superinteligência de máquina.

O fato de sermos nós a construí-la nos daria alguma garantia de que ela, sempre, nos respeitaria como criadores, protegendo nossos valores? Há possibilidades de controle – efetivo e perene? Num determinado momento, ela não permitiria sua substituição ou que alterássemos suas preferências? Pode ser nossa última aventura.

Há dois anos, Bostrom voltou a nos apavorar (alertar) sobre a “hipótese singleton“, que prediz o futuro da humanidade.

É possível que todas as sociedades humanas sejam, em última análise, um prelúdio para o estabelecimento de um sistema onde uma entidade governará tudo no mundo? 

Bostrom sustenta que a vida inteligente na Terra em algum ponto se organizará num “singleton” – uma organização que assumirá a forma de um governo mundial, uma supermáquina inteligente (uma IA) ou, lamentavelmente, uma ditadura que controlaria todos os assuntos.

Pois é, o homem tem uma máquina fantástica, mas que nunca se deu ao trabalho de ler o manual do usuário, e se mete a criar uma mente artificial, brinca Sadhguru.

Cadê, onde está a esperança de Pandora?

“Àquela altura, eu era o escravo, não o senhor, de um impulso que detestava – o da vingança-, mas a que não conseguia desobedecer.” (A Criatura, de Frankenstein)