Você é mais inteligente do que um carro auto-dirigido?

Em 1967, o filósofo britânico Philippa Foote surgiu com "o problema do carrinho". Filósofos e outros já debateram esse dilema moral desde então. Frustrado de forma mais sucinta, o problema do carrinho pergunta:

O motorista de um bonde fugitivo certamente atingiu e matar cinco trabalhadores redirecionam o bonde para outra pista para que ele mata apenas um trabalhador?

James Lin/FreeImages
Fonte: James Lin / FreeImages

Numerosas permutações desse problema ostensivamente simples foram apresentadas. Agora, há um novo livro que reúne muitos desses argumentos: The Trolley Problem Mysteries, de FM Kamm, que ensina filosofia e política pública em Harvard, e editada por Eric Rakowski, professor de direito da Universidade da Califórnia em Berkeley.

O seu carro é inteligente?

O que torna esta velha questão filosófica especialmente oportuna neste momento é que os carros de auto-condução podem ter que ser projetados usando algoritmos para tornar precisamente esses tipos de decisões de vida e morte.

No excelente Los Angeles Times Op-Ed Seu carro sem motorista matará você para que outros possam viver ?, nós aprendemos, por exemplo, que pode vir um momento em que seu carro toma uma decisão que você não gosta. Citando o op-ed:

É 2025. Você e sua filha estão andando em um carro sem motorista …. O veículo autônomo ronda um canto e detecta um cruzamento de crianças. Ele freia, mas sua pista é inesperadamente cheia de areia de um recente slide de rock. Não pode obter tração. Seu carro faz alguns cálculos: se continuar a travagem, há 90% de chance de matar pelo menos três crianças. Deve salvá-los dirigindo você e sua filha para fora do penhasco?

… Os carros sem condutor serão programados para evitar colisões com pedestres e outros veículos. Eles também serão programados para proteger a segurança de seus passageiros. O que acontece em uma emergência quando esses dois objetivos entraram em conflito?

Você acha assustador que um engenheiro em algum lugar esteja programando seu carro para decidir se deve ou não matá-lo?

A CRIATIVIDAD É A RESPOSTA?

Nós tentamos o problema do trole na nossa neta de cinco anos de idade. Como seria de esperar, sua resposta foi emocional e também criativa. Ela continuou mudando o problema de maneiras pequenas para que ninguém se machucasse. Não aceitar a premissa como dado pode ser uma maneira de programar nossas máquinas para determinar uma terceira opção melhor que as duas primeiras, se houver uma.

Outra pergunta: pode (deve) um médico cortar uma pessoa saudável para colher seus órgãos para que cinco pessoas doentes possam viver? Claro que não. O Trolley Problem Mysteries entra em alguma profundidade (mas com clareza surpreendente para conceitos tão complexos) para diferenciar entre matar e deixar morrer.

Então, há a situação em que você tem que decidir se desistir de seu conservador de vida para que outro possa viver, e toda permuta possível disso. Cuidado, entretanto: assim que você chegar a uma decisão intuitiva instantânea, mais detalhes são adicionados à questão, que pode fazer você coçar a cabeça com perplexidade.

Se você gosta de pensar e discutir dilemas morais com seus amigos, obtenha uma cópia do The Trolley Problem Mysteries . E certifique-se de que quem projeta seu carro futuro auto-dirigido é sábio o suficiente para programá-lo racionalmente (ou para seu benefício pessoal, o que pode não ser o mesmo).

Copyright (c) 2016 por Susan K. Perry, autora de Kylie's Heel