À medida que a humanidade corre ainda mais no século XXI, enfrentamos problemas sem precedentes em escala e magnitude. A maior e mais complexa é a mudança climática, que o filósofo Dale Jamieson chamou de "o maior problema de ação coletiva do mundo". As causas desse problema são diversas, espalhadas entre milhares de pessoas por espaço e tempo, com as nações ricas e industrializadas com mais da culpa. Nem alguém se sente diretamente responsável porque simplesmente fazemos nossas vidas diárias: dirigir para o trabalho, fazer compras no supermercado e buscar nossas carreiras. Mesmo assim, as emissões de carbono de nossos estilos de vida aquecem o planeta, e essa crise climática afetará pessoas reais, bem como os animais não humanos e os ecossistemas naturais. Juntamente com a crise climática, serão aumentados os desastres naturais e uma diminuição das terras aráveis e da água potável. As pessoas que vivem em sociedades em desenvolvimento, especialmente em países que se encontram perto do nível do mar, terão o maior peso, enquanto aqueles que vivem em países ricos terão alguma proteção. É claro que a desigualdade irá dispersar os impactos, mesmo dentro das nações ricas, à medida que a elite se isolar das mudanças climáticas enquanto deixa as comunidades marginalizadas se defenderem.
À medida que a ciência ea tecnologia se movem rapidamente, a ética e a política que podem diminuir o impacto da desigualdade se estancam. Ainda não temos uma resposta política realista à desigualdade, especialmente quando aplicado às mudanças tecnológicas. É bastante fácil ver as sociedades divididas em ultra-ricos, que têm acesso a tecnologias que se estendem pela vida, como órgãos sintéticos e próteses computacionais, e um proletariado empobrecido, que existem em grande parte para produzir os produtos que os ricos consomem. Esta seria apenas a extensão lógica das tendências atuais, extrapoladas no futuro próximo. O ar limpo e a água potável podem vir a ser apenas mais uma vantagem que os ricos desfrutam em detrimento dos muitos. A biotecnologia será a nova cirurgia plástica, pois os poucos privilegiados são redesenhar seus corpos como acessórios de moda. Ao mesmo tempo, a inteligência artificial penetrará cada vez mais na sociedade, assumindo muitas funções básicas anteriormente desempenhadas pelos seres humanos, criando uma grande oferta de trabalhadores excedentes e exacerbando a instabilidade social.
Tenho observado o movimento Singularidade com algum interesse por vários anos. Estas são as pessoas que acreditam em uma versão tecnológica da Segunda Vinda, em que máquinas divinas salvam os seres humanos do envelhecimento e da morte. As máquinas superintelligent curarão o câncer, encontrarão novas fontes de energia e permitirão que as pessoas adaptem seus corpos e colonizem o espaço exterior. As pessoas de singularidade geralmente são hiper-otimistas, como tudo o que tem a fazer é viver mais duas décadas e tudo será dourado. Eles emprestam tropos religiosos sem pensar muito nas conseqüências de fazê-lo, como se não houvesse nenhuma desvantagem para prever o Fim da História. Eles ignoram em grande parte a questão da desigualdade econômica e prestam pouca atenção às mudanças climáticas, porque a tecnologia irá consertar tudo.
Na verdade, acredito em alguns aspectos da hipótese da singularidade. Eu acho convincente que a inteligência humana será atendida e superada por mentes sintéticas no futuro próximo (veja Ray Kurzweil sobre este ponto). Fico feliz que alguns tecnólogos, como aqueles do MIRI, estão prestando atenção às questões éticas apresentadas pela superinteligência. Mas ainda não vejo como os avanços tecnológicos sozinhos poderiam enfrentar a desigualdade global e as mudanças climáticas. Na verdade, as correções tecnológicas parecem apenas uma outra maneira de evitar o problema, de adiar ações para o futuro quando precisamos agir agora. Dê uma olhada no que está acontecendo em países como Bangladesh ou nas nações baixas da ilha. Essas pessoas precisam de um terreno sólido para viver e beber água potável: será um consenso para milhões de refugiados climáticos que as coisas serão melhores em algumas décadas.
A tecnologia sozinha não apresenta soluções éticas ou políticas. Grande parte da pesquisa de robótica, por exemplo, está sendo feita com financiamento militar, para projetar máquinas de matar mais perfeitas. Para produzir sociedades mais justas e sociedades mais ecologicamente sustentáveis, precisamos absolutamente de soluções tecnológicas, mas também precisamos de equidade básica. É possível imaginar um algoritmo para uma governança justa, mas não vejo que ninguém faça esse trabalho. E todas as teorias éticas conhecidas têm grandes falhas, de modo que são facilmente exploradas. Se pudermos imaginar uma inteligência divina, seria executado um programa de ética kantiana? Isso significaria doom para o mundo natural. Seria usando a teoria utilitarista? Isso permitiria que a superinteligência matasse um grande número de pessoas, desde que a felicidade geral fosse aumentada. Uma inteligência artificial poderia colocar o ecofeminismo em prática? Poderia ser baseado no socialismo democrático? Possivelmente. Mas até agora, os tecnólogos parecem ser felizes com os ricos obtendo os primeiros frutos e deixando todos os outros experimentar os benefícios de novas tecnologias, em uma versão baseada em silício do Reagan-Thatcher.
E o que é ainda mais perturbador é uma espécie de desdém pela teoria política e ética. Estamos lidando com as conseqüências da política baseada no mercado há décadas, e os resultados não foram bons. A tecnologia não tem mais propriedades carinhosas do que um mercado livre. Essas propriedades atenciosas precisarão ser construídas em novas arquiteturas desde o início e terão que ir além do simples reconhecimento facial e simular emoções. Se eu fosse projetar nossos novos senhores de robôs, eu faria para que eles protejam todas as espécies e não apenas a vida humana. As leis da robótica de Asimov não chegam longe o suficiente. Eu me certificaria de que eles entendessem a biologia evolutiva e preservavam os ecossistemas, colocando a humanidade em tantas relações simbióticas quanto possível. Eu gostaria que eles alcançassem a igualdade econômica não completa, mas certamente reduziria a desigualdade, domesticando alguns dos excessos do capitalismo. Gostaria que os nossos senhores criassem comunidades habitáveis onde as pessoas pudessem caminhar e andar de bicicleta e viver perto de parques e florestas. Gostaria que o "zoológico das pessoas" fosse muito legal.
Eu acho que a Singularidade pode muito bem ser uma coisa real no horizonte e não apenas uma fantasia, mas temos que decidir agora se será utópico ou distópico. Nós também não podemos dar ao luxo de deixar as fichas cair onde elas podem. Aqueles que trabalham em campos técnicos devem levar o melhor, a maioria das pesquisas de humanidades de ponta e construí-lo em seus sistemas inteligentes. Caso contrário, poderíamos acabar com as novas tecnologias que funcionam com a ética ultrapassada. Chegará o momento em que precisamos de um motor de ética, um algoritmo de economia política e as apostas para implementação serão muito altas. Serão necessárias mais cooperação em todas as disciplinas para que a superinteligência não seja apenas muito inteligente, mas também atenciosa e sábia. Essa é uma ordem muito mais alta do que fazer painéis solares mais eficientes ou fazer drones para entregar pizza. E temos que fazer tanto quanto possível entretanto, com nossos cérebros úmidos e tecnologias antigas, para tornar o mundo um lugar melhor e mais justo.