Como saber se um robô é consciente?

segunda-feira, janeiro 23, 2017

Na segunda temporada da série de TV Humans, teve um episódio sensacional, onde tentam provar que um robô é consciente e, portanto, detentor de direitos. Eles plugam sensores na cabeça de Niska, uma das personagens mais incríveis que a ficção científica já produziu, e a expõem a imagens de todos os tipos e teores. Desde de cenas românticas, crianças e festas a cenas de guerra, corpos mutilados e carnificina. Um humano, alguém consciente e com emoções, certamente reagiria a isso, não é?




Niska é um robô consciente. Já falei sobre ela neste texto aqui e de todas as vezes em que foi abusada e estuprada. Niska é imatura em uma série de coisas, impulsiva, agressiva e que tenta desenvolver uma humanidade. Aqui entra a principal diferença de mentalidades, quando comparamos os synths de Humans com os humanics de Extant. Enquanto em Extant a ideia é fazer um robô crescer e se desenvolver, tal como uma criança faria (afinal é assim que nos tornamos humanos), em Humans há uma programação especial que desperta a consciência dos robôs e os fazem ter emoções e vida própria.

Niska procura a ajuda de Laura, cuja família vem ajudando os synths conscientes desde a primeira temporada. Ela matou um pedófilo enquanto buscava sua liberdade e quer ser julgada por isso, desde que seja reconhecida como um ser consciente, que tenha um julgamento e uma sentença como aconteceria com uma pessoa comum, orgânica. Niska sabe que ela será destruída por ser um robô e não é isso o que quer. Robôs são espancados, usados como brinquedos sexuais e quando não servem mais viram alvo de dardos, jogados em depósitos de lixo e desmembrados.

Laura é advogada e tenta provar judicialmente que Niska é consciente. Aliás, Laura ressalta que ela tenta provar consciência e não que é igual a humanos. Mas os testes com as imagens e depois com música não surtem nenhum efeito. As linhas nas telas dos sensores permanecem paradas, não houve nenhum gatilho emocional em Niska que pudesse indicar uma consciência. E as autoridades estão começando a se cansar de algo que lhes parece ser completamente inútil. Robôs são coisas, não são gente. E qualquer comportamento "anômalo", fora de sua programação, é motivo de descarte.

É então que Niska faz uma observação:

Você quer que eu seja humana? Ser cruel com as pessoas próximas a você e então chorar vendo fotos de pessoas que você nunca conheceu?

Niska, interpretada pela atriz Emily Berrington

O cliente que Niska matou era o 14º do dia. Ele queria que a robô agisse como uma criança assustada, que fingisse ser muito nova. Niska disse não e ele ficou agressivo, deixando-a assustada. Mas como provar um sentimento? Externar isso em uma conversa lógica não é o bastante? Como as imagens, vídeos e música não conseguiram extrair uma resposta emocional dela, Laura traz para a sala a ex-namorada que Niska conheceu e deixou em Berlim, chamada Astrid. Ela nunca soube que Niska era um robô. Niska, para ela, é humana e ela nunca reparou nada de diferente em seu comportamento.

Curioso, não? Os testes não estavam exatamente tentando provar a consciência de Niska, mas estavam tentando saber se ela era humana e por isso ele não funcionava. Mas os robôs poderiam ser considerados uma nova forma de vida, já que funcionam de uma maneira diferente. Não humanos, mas certamente conscientes. Isso me fez lembrar do teste que Deckard aplicava nos androides em Blade Runner, um teste muito longo e detalhista, já que eles eram tão parecidos com humanos que poderiam passar despercebidos na multidão.

A falta de reconhecimento de consciência (e até de humanidade, já que para nós as duas coisas estão atreladas) dos robôs e androides da ficção é uma amostra do que acontece com grupos minoritários na vida real. Quando a balança pende para apenas um lado, você impede que pessoas do outro lado possam viver suas vidas. Impedidas de ter voz, você não pode conhecê-las. E não sabemos como a tecnologia vai se desenvolver daqui por diante, pode ser que em 50 anos um tribunal esteja tentando estabelecer se um robô é consciente.

Talvez o teste que Laura aplicou em Niska devesse ter outra abordagem. Ela poderia usar o Teste Lovelace, para tentar medir se aquela inteligência artificial é de fato consciente. Apenas o Teste Turing não é o suficiente. A programação dos robôs é tão bem feita que eles são capazes de estabelecer uma conversa básica. Se Niska pudesse, por sua vez, produzir uma peça de teatro inédita, ou inventar um rim artificial, ou quem sabe postular uma nova teoria da mecânica quântica, escrever um livro ou pintar um quadro - ou seja, usar a criatividade - talvez pudéssemos estabelecer que ela é de fato consciente. Não é porque ela não se expressa como nós que não tem sentimentos ou mesmo não possa pensar.

Em O Homem Bicentenário, o robô Andrew passa a produzir esculturas sem que fosse ensinado a isso. Um experimento de inteligência artificial do Google passou a buscar, espontaneamente, por vídeos de gatinhos no Youtube, sem ser pedido. Essas "bolhas" de espontaneidade de inteligências artificiais talvez sejam o maior indicativo de uma consciência li. Humana não é, mas Niska e seus colegas podem sim ter direitos. E tendo direitos, eles teriam de ser respeitados como qualquer pessoa.

Mia, interpretada pela atriz Gemma Chan

A série mostra como algumas pessoas tratam os robôs. Com agressividade, empurrado de escadas, espancando, desmembrando, corrompendo sua programação. Tratá-los dessa maneira poderia trazer consequências para o tratamento com humanos? Alguns estudos já mostraram que em homens inclinados a praticar violência sexual, quanto mais pornografia eles assistirem, maior é a chance de eles cometerem crimes contra mulheres e crianças. Que tipo de reações a violência contra os robôs poderiam ter reflexos na vida real? Há uma cena em Humans em que crianças batem na robô responsável por cuidar deles. Esse comportamento, sem restrição, só por que é em um robô, é correto? Perguntas complicadas, não é mesmo?

A humanidade não sabe lidar direito com o que é diferente, então dá para imaginar muita discórdia rolando se o teste de Niska desse positivo para consciência e o que pode acontecer no futuro conforme os robôs se tornarem mais e mais avançados.

Até mais!

Já que você chegou aqui...

Sybylla

Fã do futuro e da ficção científica. Geógrafa, professora, blogueira, escritora de FC. Capitã da Frota Estelar. Esperando para voltar para o meu planeta. Leia mais.





Leia esses também...

3 comentários

  1. Muito bom!
    Os robôs podem muito bem representar minorias silenciadas, agredidas, renegadas, simplesmente por não serem como um padrão que veio estabelecido sei lá de onde durante milênios. Nunca assisti ao seriado, porém com o que li até agora dá para notar que traz questões bem interessantes.

    ResponderExcluir
  2. Essas reflexões eu tive também na leitura de "A fábrica de robôs". Todos os pontos que você tocou também estavam na peça do início do século XX: homens que objetificam robôs, agem de forma sexista objetificam mulheres. Os robôs são conscientes, mas não são ouvidos por não serem considerados cidadãos... E sua existencia não está assegurada. Essa distopia lança luz sobre o terror que vivemos no agora e, como você brilhantemente apontou, é chave pra compreender a existência das minorias no geral, depende dá lente dá leitora. Adorei o texto!

    ResponderExcluir
  3. Hey Sybylla vc já assistiu a série Westworld? Ela também tem um debate muito interessante sobre a autoconsciência dos robôs, mas a abordagem é um pouco diferente. Lá no caso a consciência é definida como uma voz interna que os robôs escutam, e que diz o que eles devem fazer, e a princípio essa voz é programada pelo criador dos robôs, mas depois a intenção é ela naturalmente ser substituída pela própria voz deles. Seria muito legal vc fazer um post sobre Westworld também porque tem tudo a ver com o que você escreveu aqui!

    ResponderExcluir

ANTES DE COMENTAR:

Comentários anônimos, incompreensíveis ou com ofensas serão excluídos.
O mesmo vale para comentários:
- ofensivos e com ameaças;
- preconceituosos;
- misóginos;
- homo/lesbo/bi/transfóbicos;
- com palavrões e palavras de baixo calão;
- reaças.
A área de comentários não é a casa da mãe Joana, então tenha respeito, especialmente se for discordar do coleguinha. A autora não se responsabiliza por opiniões emitidas nos comentários. Essas opiniões não refletem necessariamente as da autoria do blog.

Viajantes

Curta no Facebook

❤️


"A ficção científica é um substituto para todos os lugares que eu nunca vou alcançar nessa vida."

James W. Harris