Se você fez um curso de ética nos últimos dez anos, provavelmente está familiarizado com o Trolley Problem, um experimento de pensamento desenvolvido pelo filósofo britânico Philippa Foot. Se você nunca soube desse problema, deixe-me descrever o cenário para você.
Imagine que você está em uma colina e vê que há um trem de alta velocidade, que não pode ver em torno da curva. Cinco pessoas estão ligadas às faixas. Seu destino parece selado. Contudo, como a sorte teria, você fica parado ao lado de uma mudança. Se você jogar o interruptor, o trem será desviado para outra pista antes de atingir as vítimas infelizes.
O que você faz? Desvie o trem, é claro.
Mas há um problema. No lado oposto, uma pessoa está cuidando de seu próprio negócio. Então, se você derrubar o trem, uma pessoa vai morrer.
Agora, o que você faz? O problema é um pouco mais difícil. Ainda a maioria das pessoas diz que iria lançar o interruptor porque, ao fazê-lo, eles salvaram cinco vidas à custa de uma. Isso é reflexo de uma maneira de pensar sobre problemas éticos – a melhor ação é aquela que leva ao maior bem para o maior número. É um cálculo que orienta muito o pensamento.
Mas, como os filósofos costumam fazer, tornam as coisas mais complicadas ao mudar as condições. Uma variação é imaginar que você está em uma ponte eo trem é dirigido para as cinco pessoas. Não há nenhum interruptor desta vez. Mas nem tudo está perdido. Acontece que você está ao lado de uma pessoa muito grande, alguém tão grande que não há dúvida de que se você fosse empurrá-los e em frente ao trem, o trem pararia antes de atacar os cinco.
Agora, o que você faria? Embora o resultado seja o mesmo – salvar cinco vidas sacrificando uma – a maioria das pessoas não empurraria a pessoa para mais. Ao colocar literalmente suas mãos em alguém, o resultado é transferido de um cálculo para uma emoção, desde as mortes sendo uma estatística, até uma morte sendo uma tragédia do seu próprio fazer.
Embora muitos experimentos de pensamento sejam ótimos para a discussão em turma sem qualquer aplicação aparente da vida real, o Trolley Problem está na vanguarda da revolução tecnológica de hoje. Os carros sem excitadores, ainda em fase de desenvolvimento, mas certos de aparecer no showroom nos próximos anos, terão de ter programado neles uma resposta para este experimento mental.
Imagine que na frente do seu carro sem motorista, cinco crianças param na sua frente. O carro, programado para segurança, desvia para evitar bater neles. Mas digamos que, ao fazê-lo, tem que atacar um pedestre na calçada. Cinco por um. Mas e se ao invés de acertar uma pessoa, para evitar bater nas crianças, ele caiu em uma parede, matando o motorista.
Você pode imaginar uma série de variações. Aqui estão apenas dois: em vez das crianças da escola, são pessoas idosas que retornam ao centro geriátrico; Em vez de um estranho na calçada, é seu parente.
Já foram tomadas decisões semelhantes. Os militares devem decidir quem e quantos morrerão para realizar uma missão. Os procedimentos de triagem hospitalar são outro exemplo, assim como o estabelecimento de protocolos para transplantes em relação a órgãos que são escassos. A política da polícia em relação a situações de atirador ativo é ignorar aqueles que precisam de assistência e ir atrás do atirador em vez disso.
Independentemente do algoritmo que os programadores do Silicon Valley criem para carros sem excitadores, não irá satisfazer a sensibilidade moral de todos. E isso é porque este é um dilema ético com respostas contraditórias. Uma coisa é sentar na frente de um computador para chegar a uma decisão moral. É outro estar no carro quando a decisão é pessoal.
Talvez a melhor abordagem seja permitir que os drivers escolham qual das opções que eles querem. Outra é desligar o programa, caso em que o ponto de ter um carro sem condutor já não importa.
