O que Star Trek pode falar sobre inteligência artificial?

Um dos assuntos mais discutidos na internet nas últimas semanas é sobre a inteligência artificial por trás de chatbots como o ChatGPT. Os impactos de tal tecnologia já estão sendo sentidos. A revista Clarkesworld precisou suspender a submissão de contos porque foi inundada por produções escritas por IAs - mais de 500 delas. A Amazon também está passando por isso, com mais de 200 livros de autoria de tecnologias. A discussão sobre como impedir tais contribuições já começou e há escritores com medo de substituição, mas será que uma IA pode, de verdade, substituir um ser humano na escrita?

Arte de p1xer

Star Trek fez várias discussões sobre as limitações da inteligência artificial que são muito pertinentes. O comandante Data é o único androide a servir na Frota Estelar. Porém, mesmo neste futuro pacífico, Data e as inteligências artificiais parecem sujeitas a limitações que as pessoas de carne e osso não têm. Data é muito bom em várias coisas que só os melhores computadores são, ao mesmo tempo, em que é profundamente limitado em outras. Data está constantemente tentando se melhorar, tentando ser mais humano, inclusive imitando comportamentos.

Mas já teve gente dentro da própria Frota Estelar questionando a consciência de Data, como no episódio "The Measure of a Man". Bruce Maddox, cientista da computação, espera produzir androides em uma linha de montagem, mas para isso precisa desconstruir Data para saber como ele funciona. Assim, a Frota decide conduzir um teste para determinar se Data é senciente e se deve ter direito a uma escolha.

Data acaba vencendo o caso e fica livre do desmantelamento, mas tem algo importante no episódio que pode passar despercebido pra muita gente: Picard, que age como um advogado de defesa, nunca prova a senciência de Data. O tribunal não pode descartar essa possibilidade, mas também não conseguiu provar nada. Apenas que o androide é articulado, que difere de outros androides já feitos. Mas em nenhum momento a consciência do androide ficou provada sem sombra de dúvida. Ninguém sabe com certeza se ele é tão consciente quanto um humano ou um alienígena.

Sua incapacidade de invalidar minha hipótese não é a mesma coisa que provar que ela é verdadeira.

Carl Sagan

Não podemos ter certeza se Data possui cognição genuína - o que também significa que não podemos ter certeza de que ele possui intuição, percepção, criatividade ou originalidade genuínas. Se essa perspectiva não diz nada respeito aos desenvolvedores de IAs da atualidade, então deveria.

Existem outros exemplos sobre as limitações de Data. No episódio "The Ensigns of Command", Data apresenta um recital de violino logo no começo. E o próprio Data diz que "embora eu seja tecnicamente proficiente, de acordo com meus colegas artistas, me falta alma." Mas Picard acredita que o recital de Data demonstra sentimento, algo que o androide lembra ao capitão não possuir. O que Data fez foi analisar a performance de três violinistas diferentes e tirar delas as melhores partes para compor seu recital. Data acredita que aprendeu a "ser criativo quando necessário".

Essa é uma das limitações de uma inteligência artificial. Embora os chatbots do Google e da Microsoft possam coletar dados de fontes diferentes e combiná-los em algo compreensível, nenhum aplicativo pode realmente criar novas informações a partir deles. É a diferença entre a concatenação simples e a síntese genuína. Picard pode achar que Data apresentou algo novo, mas o que falta a Data, algo que o androide reconhece, é a originalidade. Um violinista humano não iria simplesmente ouvir dois artistas diferentes e encontrar um ponto médio entre suas técnicas. Ao contrário, ele praticaria ambos os estilos, incorporando o que funciona e evitando o que não funciona, ao mesmo tempo em que usa sua própria intuição para aplicar suas próprias sensibilidades.

Um segundo exemplo vem no episódio "In Theory", onde a tenente Jenna D'Sora se apaixona por Data. O androide começa um relacionamento com ela, esperando que a experiência seja instrutiva em sua busca para entender melhor a humanidade. Ele então desenvolve e refina uma "sub-rotina romântica", que acredita demonstrar adequadamente a afeição por D'Sora. Para a tenente, por sua vez, a relação não vem sendo o que ela esperava e assim decide terminar com Data, incapaz de demonstrar qualquer reação.

D'SORA: Você foi tão gentil e atencioso. Achei que isso seria o suficiente.

DATA: Não é?

D'SORA: Não, não é. Porque por mais próximos que sejamos, eu realmente não importo para você. Não de verdade. Nada do que eu possa dizer ou fazer vai deixá-lo feliz ou triste, ou tocá-lo de alguma forma.

DATA: Essa é uma análise válida. É evidente que meu alcance excedeu minha compreensão nesta área específica. Talvez eu não seja tão humano quanto aspiro me tornar. Se você estiver pronta para comer, trarei nossa refeição.

D'SORA: Não, tudo bem, Data. É melhor eu ir agora.

DATA: Como quiser, Jenna. Não somos mais um casal?

D'SORA: Não, não somos.

DATA: Então vou deletar o programa apropriado.

Data arruinou o relacionamento, feriu os sentimentos da colega e o que é pior, o próprio Data não tem nenhuma reação ao rompimento. Ele não tem emoções, portanto não consegue analisar as de D'Sora. Ele nem mesmo sabe que perdeu algo muito precioso. Relacionamentos românticos bem-sucedidos exigem intuição e criatividade constantes, desde sentir como a outra pessoa está se sentindo até manter seu interesse todos os dias, muito depois do início da rotina. No entanto, Data não pode realmente responder às necessidades emocionais ou físicas de D'Sora; ele nem consegue reconhecê-las corretamente. O simples ato de dar toda a atenção a D'Sora durante um beijo está além das capacidades de Data.

O mesmo vale para as IAs. Os chatbots não podem avaliar como um humano está se sentindo, ou o que esse humano deseja, além dos detalhes superficiais que esse humano fornece. Ler nas entrelinhas é uma das coisas que separa a inteligência humana de um algoritmo baseado em dados, algo que nem mesmo Data conseguiu escapar.

Em 2015, a Microsoft soltou no Twitter um bot chamado Tay. A ideia da empresa era fazer com que ela aprendesse e evoluísse em sua interação com outros usuários, mas em poucas horas ela começou a proferir discursos racistas e a apoiar o nazismo. O experimento deu tão errado que o perfil da Tay está fechado e sem interação até hoje, enquanto a empresa analisar o que aconteceu.

Existem vários trabalhos que um robô, uma inteligência artificial, pode fazer. Mas será que são todos? Temos visto os desacertos com os carros autônomos, por exemplo, e as discussões sobre quem seria responsabilizado se um deles atropelar uma pessoa. Seja na direção de um carro, seja na frente de uma página em branco, um operador humano é necessário quando o ato de criar e de ser criativo for necessário. Escrever é muito mais do que colocar uma palavra na frente da outra. Uma inteligência artificial pode colecionar um monte de informação, porém não vai sintetizá-las para criar algo novo como um ser humano faria. Elas estão mais para papagaios artificiais.

Até mais!

Já que você chegou aqui...