Instituto de Pesquisas em Neurociências do Centro Médico Wexner da Universidade Estadual de Ohio e Centro de Saúde e Desempenho Cerebral Stanley D. e Joan H. Ross
Novas pesquisas no cérebro estão alimentando avanços em campos tão diversos quanto saúde e ciência da computação. Ao mesmo tempo, esses avanços podem levar a dilemas éticos nas próximas décadas – ou, em alguns casos, muito mais cedo. Neuroética foi o tema de um painel de discussão no recente Brain Health and Performance Summit, apresentado pelo Instituto de Pesquisa em Neurociências do Centro de Medicina do Estado de Ohio e pelo Centro de Saúde e Desempenho do Cérebro de Stanley D. e Joan H. Ross.
John Banja, Ph.D., professor do Departamento de Medicina de Reabilitação e especialista em ética médica no Centro de Ética da Universidade de Emory, explicou como os insights da neurociência poderiam tornar possível o desenvolvimento de programas de computador hiperinteligentes. Simultaneamente, nossa compreensão aprofundada do cérebro expõe as deficiências inerentes até mesmo à mais avançada inteligência artificial (IA).
“Como iremos programar um computador para ter o tipo de experiência de aprendizado e conhecimento de navegação que as pessoas têm na vida?”, Perguntou Banja. Ele questionou se seria possível criar (IA) capaz de imaginação humana ou raciocínio moral. De fato, seria possível que um programa de computador reproduzisse os processos que o cérebro humano aplica a situações complexas, Banja perguntou. Como exemplo, ele representou um dilema ético para o público: um hospital deve respeitar o desejo de uma mulher de preservar o esperma do marido morto, mesmo que o marido nunca tenha consentido com tal procedimento? Ao mostrar as mãos, a questão dividiu a audiência cheia de cientistas e pessoal médico. Banja duvidou se um computador poderia ser confiável para resolver problemas que dividem até mesmo os seres humanos mais qualificados. “Como vamos programar um computador para pensar assim?”, Disse Banja, referindo-se ao processo de trabalhar com sua hipótese. “Eles são bons em reconhecimento de imagem, mas não são muito bons em amarrar um cadarço de sapato”.
As deficiências morais da IA levantam uma série de possibilidades preocupantes, especialmente porque a tecnologia necessária para criar computadores de alta funcionalidade logo será uma realidade. “Super-inteligência artificial pode ser a última invenção que os humanos já fizeram”, alertou Banja. Os computadores hiperinteligentes podem começar a ver a vida humana como uma ameaça e, então, adquirir os meios de exterminá-la – sem nunca serem controlados por sentimentos humanos de dúvida ou remorso.
Segundo Eran Klein, MD, Ph.D., neurologista e especialista em ética da Oregon Health & Science University e do Centro de Engenharia Neural Sensorimotora da Universidade de Washington, há muito menos questões abstratas que agora confrontam neurocientistas e outros profissionais de saúde do cérebro. Ele acredita que o apocalipse da IA ainda é um cenário distante, no pior dos casos. Mas os pacientes já estão recebendo terapias não-farmacêuticas que podem alterar seu humor e perspectiva, como os implantes cerebrais destinados a combater a depressão. Os tratamentos potencialmente podem mudar a vida, além de serem mais seguros e eficazes do que as drogas tradicionais. No entanto, eles também poderiam distorcer o senso de identidade do paciente. “Os pacientes sentiram que esses dispositivos permitiram que eles fossem mais autênticos”, explicou Klein. “Permitiu que eles fossem a pessoa que sempre quiseram ou não perceberam que poderiam ser.”
Ainda assim, os tratamentos distorceram a concepção que alguns pacientes tinham de sua individualidade, tornando-os inseguros quanto aos limites entre os implantes cerebrais e seu próprio livre arbítrio. “Havia preocupações sobre a agência”, disse Klein. “Os pacientes não têm certeza se o que estão sentindo é por si mesmos ou por causa do dispositivo.” Por exemplo, Klein descreveu um paciente que compareceu a um funeral e não conseguiu chorar. “Ele não sabia se era porque o dispositivo estava funcionando ou porque ele não amava essa pessoa tanto quanto ele pensava”, explicou Klein. À medida que a tecnologia melhora, Klein prevê que os pacientes e os médicos terão que equilibrar os benefícios de certas técnicas contra seus possíveis efeitos no senso de si.
Não é aí que as grandes questões terminarão. Para James Giordano, Ph.D., chefe do Programa de Estudos de Neuroética do Centro Pellegrino de Bioética Clínica no Centro Médico da Universidade de Georgetown, a neurociência poderia mudar a forma como a sociedade aborda questões cruciais da natureza humana – algo que poderia ter grandes implicações para a lei. privacidade e outras áreas que não parecem ter uma conexão direta com a saúde do cérebro. Giordano previu que um novo campo de “neuro-lei” poderia emergir, com cientistas e juristas ajudando a determinar o status adequado da neurociência no sistema legal.
Quando, por exemplo, deveriam os entendimentos neurológicos do comportamento humano ser um argumento admissível para a inocência de um réu? A neurociência permite uma compreensão granular de como os cérebros individuais funcionam – o que cria uma riqueza de informações que o campo da medicina poderia abusar. “As ciências cerebrais estão preparadas para nos proteger ou, de alguma forma, nossa privacidade está sendo impugnada?”, Perguntou Giordano. Ecoando Klein, Giordano se perguntou se a ciência do cérebro poderia tornar perigosamente fácil moldar a personalidade e o senso de identidade de uma pessoa, potencialmente contra a vontade de um paciente ou a falta de uma compreensão das implicações de uma determinada terapia. “Podemos ‘abolir’ a dor, a tristeza, o sofrimento e expandir a capacidade cognitiva emocional ou moral?”, Perguntou Giordano. A neurociência poderia criar novas linhas de base de normalidade médica ou comportamental, mudando assim nossa ideia do que é e do que não é aceitável. “Qual será a nova cultura quando usamos a neurociência para definir o que é normal e anormal, quem é funcional e disfuncional?”
Giordano alertou que, com a rápida melhoria da tecnologia, a necessidade de respostas se tornará cada vez mais urgente. “Verificação da realidade”, Giordano disse: “Esta coisa está chegando.”
