Em uma publicação recente, sugeri que as experiências sexuais artificiais no futuro irão rivalizar, ou superar, a coisa real. O medo da escravização por máquinas inteligentes e o medo de máquinas mais inteligentes que nós é um elemento básico da ficção científica seguindo a liderança de Isaac Asimov. Agora, um cientista de celebridades, Stephen Hawking, está assustado. O resto de nós deveria ser?
Por que Hawking está assustado
O ponto de partida da Hawking é um novo filme, a Transcendence, estrelado por Johnny Depp. O filme envolve versões de robôs de seres humanos que expressam toda a gama de emoções humanas com poder analítico superando a inteligência coletiva de todos na Terra ao longo de toda a história.
Esperamos que a ficção científica exagere, é claro, mas há um sentido em que nossos piores medos já foram realizados. Vivemos em uma era em que os computadores já são melhores do que os humanos no xadrez, e até mesmo em perigo. Os carros auto-dirigidos são mais seguros do que aqueles controlados por operadores humanos. Os planos agora são principalmente impulsionados por programas de computador e o arranjo de aviões no céu à medida que aguardam pistas é uma maravilha da tecnologia digital.
Os computadores lêem algumas varreduras médicas melhor do que os médicos e são ainda melhores no teste de hipóteses científicas do que a maioria dos cientistas. Os computadores ainda estão trêmulos ao jogar esportes tridimensionais como o futebol, mas estão melhorando rapidamente, graças, em parte, ao desenvolvimento de membros prostéticos inteligentes.
Mais perto de casa, o Google sabe o que quero pesquisar antes de terminar de digitar meu pedido. Bots gravar meus movimentos na internet e me acompanhar em vários sites sugerindo produtos para mim comprar. Alguns ajudam a patrulhar a internet à procura de pechinchas adaptadas às minhas necessidades.
A tecnologia já é muito melhor do que qualquer um de nós. Se devemos nos preocupar é em grande parte uma questão de saber se os robôs estão bem dispostos para com os seres humanos e se esse relacionamento é estável. Este problema é bem capturado pela relação entre Jeeves, o mordomo e Bertie Wooster, o empregador, nos romances da PG Wodehouse.
Confiando em Jeeves
Bertie Wooster sempre podia confiar em Jeeves e seu relacionamento era certamente previsível e tão estável como o sistema de classe britânico no qual se baseava. Mesmo que Jeeves fosse mais esperto do que Wooster e melhor em tomar informações relevantes do meio ambiente, Wooster não precisava se preocupar em ter sua posição usurpada.
Ter um mordomo inteligente era uma vantagem, assim como ter um jardineiro musculoso seria, mas não era uma ameaça porque Wooster confiava que Jeeves usasse sua inteligência para benefício do mestrado. Wooster não se preocupou com Jeeves subvertendo a ordem social do que preocupava o jardineiro que entra nas janelas francesas para colocá-lo baixo com o golpe de uma pá ao lado da cabeça. Não há revoluções camponesas em Wodehouse.
Não há equivalente a um sistema de classe rígido para controlar os robôs, embora Isaac Asimov sugerisse que os robôs deveriam ser sempre programados de forma a garantir que seus esforços fossem direcionados para servir o bem da humanidade. Isso pode ficar complicado, particularmente em um mundo futuro onde os robôs estão se projetando.
Hawking reconhece que as tecnologias futuras podem nos ajudar a erradicar os problemas humanos de longa data de guerra, doença e pobreza. No entanto, ele desconfia dos problemas em potencial:
"Pode-se imaginar essa tecnologia superando os mercados financeiros, inventando pesquisadores humanos e desenvolvendo armas que nem sequer podemos entender", afirmou.
Em uma época de comércio de alta velocidade, pode-se argumentar que um desses obstáculos já foi aprovado e a inteligência artificial já é muito boa em fazer ciência. E quem realmente entende o que está acontecendo nas fronteiras do novo desenvolvimento de armas.
No entanto, a pergunta mais básica a perguntar sobre AI não é se é potencialmente perigosa, mas se é confiável.
Por que realmente nos devemos preocupar?
Muitas distopias de ficção científica concebem que os robôs se levantem e desaprovassem o controle dos líderes humanos. Essa é provavelmente a última coisa de que precisamos nos preocupar, a menos que os robôs sejam controlados por uma inteligência humana maliciosa.
Há muitas razões pelas quais a inteligência artificial pode ser ameaçadora, mas eu colocaria acidentes bem acima da malícia. Alguns futuristas preocupam-se de que minúsculas entidades auto-replicantes poderiam envolver o mundo causando colapso ecológico – um apocalipse de nanotecnologia conhecido como a "hipótese do goo cinza".
Não é difícil imaginar como os vírus informáticos podem infectar muitos sistemas de controle para que os mercados financeiros congelem, a rede elétrica ficou preta e os aviões colidiram no ar através dos aeroportos, enquanto os carros auto-dirigidos arvoravam paredes. Nem pense em um robô que realiza cirurgia cardíaca quando seu software se torna comprometido!
