O que não devemos aprender com o filme HER

Se você viu o filme HER , continue lendo. Caso contrário, alerta de spoiler.

As pessoas se apaixonam. É um dos centros da vida. É coisa de filmes. É esse filme com um toque. Ele (Theodore) e Ela (Samantha) se apaixonam. Theodore é uma pessoa. Samantha é um sistema operacional. Ela tem uma voz fantástica: calorosa, atraente, pensativa e sedutora.

É possível agora – ou no futuro próximo – para que as pessoas tenham relacionamentos amorosos com sistemas computacionais digitais?

Parte da resposta depende do que esses sistemas realmente são. Os sistemas computacionais digitais AI (Inteligência Artificial) conhecem outra pessoa? Eles podem saber alguma coisa? É claro que, em certo sentido, esses sistemas já "conhecem" muito. Eles sabem o que compramos, quem enviamos o texto, o que pedimos, o que buscamos on-line, onde e quando dirigimos, a quem chamamos, nosso histórico de emprego, nossos registros médicos … a lista continua. Mas eles podem nos conhecer em um sentido mais profundo? E com isso quero dizer, eles podem saber como uma entidade consciente?

• Dicas para o lançamento de seu jovem adulto
• Pole Dancing Realmente é Empowering para Mulheres?
• O seu cérebro pode aprender a ajudá-lo a dormir melhor?
• Vida em Furlough: Sua vida pode continuar se você não aparecer?
• Vida na Via Rápida, Parte I: Evolução da Vida Rápida

Sobre esta questão, eu em grande parte segui a posição de John Searle. Nomeadamente, enquanto, em princípio, não há motivos para acreditar que a consciência não poderia surgir em outros meios, além de um cérebro biológico, não há evidências ou motivos para acreditar que a consciência possa ou jamais surgirá na computação digital. Para defender esta posição, Searle (1990) configura o que ele chama a experiência da sala chinesa:

"Considere um idioma que você não entende. No meu caso, não entendo chinês. Para mim, a escrita chinesa parece ter tantos squiggles sem sentido. Agora suponha que eu seja colocado em uma sala com cestas cheias de símbolos chineses. Suponhamos também que me dê um livro de regras em inglês para combinar símbolos chineses com outros símbolos chineses. As regras identificam os símbolos inteiramente por suas formas e não exigem que eu entenda qualquer um deles. Imagine que as pessoas fora da sala que entendem a mão chinesa em pequenos cachos de símbolos e que, em resposta, manipulei os símbolos de acordo com o livro de regras e entreguei mais pequenos cachos de símbolos. Agora, o livro de regras é o "programa de computador". As pessoas que o escreveram são "programadores", e eu sou o "computador". As cestas cheias de símbolos são a "base de dados" … Agora, suponha que o livro de regras esteja escrito de tal forma que as minhas "respostas" às perguntas sejam indistinguíveis daqueles de um falante nativo chinês … Tudo bem, eu sou totalmente ignorante do chinês. E não há como chegar a entender o chinês no sistema como descrito, uma vez que não há como aprender os significados de qualquer um dos símbolos. Como um computador eu manipulo símbolos, mas não conto nenhum significado aos símbolos. "(Pág. 26)

Em outras palavras, porque sistemas computacionais como Samantha têm sintaxe, mas não semântica (significado), eles nunca podem "saber" nada. O comportamento está lá, mas não o conhecimento. Então, a partir desta posição, Samantha é falso.

• A liberdade de desfrutar de um funcionamento seguro
• Olhe para aqueles Demônios internos e reconstrua sua vida
• Autoconciência e idioma: dizendo "Sim" para "Não"
• Quando o amor traz dor – # 3
• Existem fenômenos psíquicos?

Mas, então, a questão é se podemos obter efeitos psicológicos similares de interagir com sistemas de pessoas falsas. Acho que a resposta é que podemos obter alguns dos efeitos psicológicos (e benefícios). Faz parte do meu corpo maior de pesquisa sobre Natureza Tecnológica. Mas não podemos obter todos os efeitos psicológicos. E não podemos obter os realmente profundos, os mais belos. Claro que essa é uma questão empírica. Eu posso estar errado. Então, parte do que tentei divulgar em algumas das minhas pesquisas e pesquisas acadêmicas é que buscamos o tecnólogo – e a sociedade em geral -, o que eu chamo de "benchmarks" psicológicos adequados. Benchmarks de, digamos, reciprocidade , autenticidade, ou diga o relacionamento de I / Thou de Buber. Para conhecer e ser conhecido. Que lindo é isso! É uma base para o amor. É uma das partes mais profundas da vida humana. Se Samantha realmente não tem consciência, não há como saber o Theodore. Eu acho que ela ilustra em um nível profundo que mesmo quando Theodore está exibindo tantos comportamentos que parecem indicar um amor recíproco profundo e verdadeiro, ele realmente não o possui.

O que não devemos aprender com o filme HER ? Essa interação com pessoas computacionais falsas irá satisfazer e nutrir-nos profundamente.

Se eu estiver correto que muitos de nós sintam o relacionamento entre Theodore e Samantha como vazio e um pouco assustador, então não tenho certeza de que reconheçamos o quanto nosso próprio mundo se moveu assim. Twitter Facebook Nation. Nação Gamer. Estamos criando um mundo onde as pessoas são cada vez mais autistas do ponto de vista social, se eu puder usar essa frase. E nós dificilmente sabemos que estamos fazendo isso.

No último capítulo do meu livro 2011 Nature Technological: Adaptation and the Future of Human Life , vejo como evoluímos nos últimos 50,000 anos, e então eu especulei sobre o que é possível em termos de adaptação a uma tecnologia cada vez mais tecnológica e computacional. mundo. Somos seres biológicos encarnados e, enquanto podemos nos adaptar a um mundo cada vez mais tecnológico, nem todas as nossas adaptações são boas para nós. Os elefantes se adaptam às condições em um zoológico. Mas eles não prosperam como elefantes. Eles marcam seus pés por horas a fio em comportamento neurótico. E então eles se aborrecem e se tornam em grande parte cascas vazias de seus próprios eus. Eu acho que precisamos prestar muita atenção ao que precisamos, à medida que os seres humanos prosperam como uma espécie.

Precisamos de interações reais, autênticas e recíprocas com outros humanos. O filme HER termina com um gosto disso no telhado. Que alivio! Lá testemunhamos a tênue intimidade de um homem biológico e uma mulher biológica respirando juntos por um minuto, conectando-se para o real. Sabendo e sendo conhecido. Sério. Seja como for, o que quer dizer, nós o conhecemos.

Referências:

Kahn, PH, Jr. (2011). Natureza tecnológica: adaptação e futuro da vida humana. Cambridge, MA: MIT Press.

Kahn, PH, Jr., Ishiguro, H., Friedman, B., Kanda, T., Freier, NG, Severson, RL, & Miller, J. (2007). O que é um ser humano? – Rumo a benchmarks psicológicos no campo da interação humano-robô. Estudos de Interação: Comportamento Social e Comunicação em Sistemas Biológicos e Artificiais, 8, 363-390.

Searle, JR (1990). A mente do cérebro é um programa de computador? Scientific American, 262 (1), 26-31.