Máquinas como nós

Muitas discussões têm sido feitas sobre a capacidade das máquinas e das IAs de pensar, criar, até mesmo de substituir seres humanos em tarefas. Enquanto alguns acreditam que o levante das máquinas está próximo, outros são mais precavidos em assumir posicionamentos a respeito. Não sabemos exatamente o que pode acontecer, ainda que a ficção científica tenha dados vários exemplos sobre o assunto. Deveríamos estar nos perguntando o que nosso relacionamento próximo com as máquinas está fazendo conosco.

Arte de Oliver Hurst

Todo produtor de conteúdo, eu inclusa, já reclamou de como os algoritmos estão mandando no gosto das pessoas. Alguém entra no YouTube em busca de um determinado conteúdo e os algoritmos da plataforma acabam levando a pessoa para conteúdos que, organicamente, ela não buscaria. Foi assim que muitos entraram na espiral criacionista, anti-vacina, nazifascista e por aí vai. Se antes a internet era um lugar de livre colaboração e busca por interesses guiada pela vontade do usuário, ela se torna cada vez mais o lugar dos algoritmos quantificáveis.

Trocando em miúdos, estamos reduzindo a experiência humana a dados, caixas de seleção, perfis e informação vendável. Estamos reduzindo nossa experiência humana para caber em padrões e fazer com que a tecnologia da informação pareça boa. Um exemplo pode ser visto em qualquer show ou apresentação artística, onde uma pessoa saca o celular e começa a gravar, assistindo pela telinha do aparelho, ao invés de assistir, de verdade, ao espetáculo. Em seguida, ela perde mais alguns instantes de olho na tela para editar ou subir o vídeo, enquanto o show está rolando. A experiência de curtir uma música ao vivo foi reduzida a quantas curtidas aquele vídeo merece na rede social.

No livro Impressions of Theophrastus Such, de George Eliot, publicado em 1879, um personagem especula que as máquinas do futuro podem aprender a se reproduzir. Assim que consegue essa habilidade, eles percebem que não precisam dos seres humanos e suas mentes, pois eles não carregam "o inútil fardo de uma consciência que grita inutilmente" e em seguida somos extintos.

Há quem pense que o planeta pode ficar melhor sem a humanidade. Claro, há motivos para pensar assim, afinal estamos destruindo o meio ambiente, mudamos o clima global e exploramos a natureza como se o planeta fosse uma fonte infinita de benesses, sem contar as inúmeras guerras, genocídios e desastres que causamos. Os geólogos discutem a possibilidade de chamar nossa era de Antropoceno tamanho o impacto das atividades humanas no registro geológico. Mas até que ponto a humanização ou a antropomorfização é boa para nós? Será que não corremos o risco de destruir tudo por uma falta de humanidade?

A ficção científica já lidou com os pensamentos extremos de pós-humanismo e transumanismo. Em um polo extremo temos aqueles que desejam que o fim chegue logo para devolver a Terra ao seu estado anterior à ascensão da humanidade. O Movimento pela Extinção Humana Voluntária, fundado em 1991 pelo ambientalista e professor Les U. Knight, prega que as pessoas desistam de ter filhos para nos levar suavemente a uma extinção que seria benéfica para o planeta.

Já no outro extremo, os transumanistas esperam ansiosamente por tecnologias que, primeiro, estendam consideravelmente a expectativa de vida humana e, posteriormente, permitam que nossas mentes sejam carregadas em outras formas baseadas em dados, para que possamos abandonar a necessidade de um corpo humano. No livro The Singularity Is Near, Ray Kurzweil acredita que a inteligência humana predominantemente não biológica vai se espalhar pelo universo quando começar a se expandir (tem até um conto de Asimov com esse tom).

O que estes dois opostos extremos demonstram é que a humanidade é algo a ser combatido, que é algo errado, transitório. Mas será? Por que ao invés de lidar com nossas fraquezas e qualidades, buscamos uma forma de mudar e até de eliminar a humanidade? Olaf Stapledon em sua obra de 1930, Last and First Men e Arthur C. Clarke, em O Fim da Infância, de 1953, imaginaram cenários onde humanidade evoluiu para formas não mais reconhecíveis, livres de uma tirania biológica imperfeita.

Ambos acabam por reduzir nossas muitas culturas, nosso magnífico e dolorosamente belo planeta, passam por cima de nossas qualidades e imperfeições para chegar a uma ideal superação de nossa humanidade. Toda a nossa cultura, toda a nossa consciência, nossa produção intelectual, nossos erros e acertos, reduzidos a uma suposta evolução para o "nosso próprio bem". Eliminando nossa humanidade, chegaríamos à utopia.

Voltamos para as questões do começo do texto. Estamos nos reduzindo a dados, nos reduzindo a linhas de códigos porque não conseguimos mais lidar com nossa humanidade e estamos alimentando máquinas que a estão reduzindo ainda mais. Vamos então transformar tudo em informação consumível até chegar a uma singularidade, como imaginava Kurzweil?

Vasily Grossman em Life and Fate, diz que quando uma pessoa morre, todo o mundo construído em sua consciência também morre.

As estrelas desapareceram do céu noturno; a Via Láctea desapareceu; o sol se foi; Vênus, Marte e Júpiter foram extintos; milhões de folhas morreram; o vento e os oceanos desapareceram; as flores perderam a cor e o perfume; o pão desapareceu; a água desapareceu; até o próprio ar, às vezes frio, às vezes abafado, desapareceu. O universo dentro de uma pessoa deixou de existir. Este universo é surpreendentemente semelhante ao universo que existe fora das pessoas. É surpreendentemente semelhante aos universos ainda refletidos nos crânios de milhões de pessoas vivas.

Grossman também escreveu que um dia até poderemos criar uma máquina que possa ter experiências semelhantes às humanas; mas se o fizermos, terá que ser enorme, tão vasto é esse espaço de consciência interna e pessoal, mesmo que esteja dentro da pessoa mais comum e discreta possível. Talvez a gente devesse utilizar as máquinas apenas para facilitar nosso trabalho e não para nos substituir. Todo o nosso universo interno, único e pessoal depende disso.

Até mais!

Já que você chegou aqui...