O surgimento da máquina sensível é um antigo tropo na ficção científica. E nunca é bom para a humanidade. O Terminator , The Matrix e eu, Robot são exemplos de filmes que descrevem máquinas inteligentes ganhando consciência e depois destruindo ou subjugando seus criadores humanos.
Os blockbusters de Hollywood raramente são retratos precisos da realidade. Então, nós realmente temos algo a temer de nossas máquinas inteligentes? Alguns cientistas pensam que é bastante razoável ter medo da AI.
Quando o flop de bilheteria Transcendence estreou em 2014, o físico notável Steven Hawking e seus colegas escreveram um comentário para The Independent , um dos principais jornais britânicos. Observando a forma como a inteligência artificial amplifica amplamente a inteligência humana, eles observam: "O sucesso na criação de AI seria o maior evento na história humana". Mas, em seguida, vem o aviso: "Infelizmente, também pode ser o último, a menos que aprendamos a evitar os riscos ".
Como com qualquer tecnologia nova, precisamos pesar cuidadosamente os benefícios potenciais contra os perigos – e encontrar formas de mitigar os mesmos. Hawking e seus colegas indicam maneiras de que a AI possa se desviar e ter consequências não desejadas. Também poderia ser definido para fins nefastos por humanos mal intencionados. Mas os autores parecem menos preocupados com máquinas conscientes destruindo intencionalmente a humanidade.
Em seu novo livro The Evolution of Consciousness , o biólogo norueguês Bjørn Grinde ressalta que a inteligência não implica consciência. "A natureza está cheia de soluções inteligentes sem qualquer indício de consciência", escreve ele (p. 61). O mesmo pode ser dito de nossas máquinas.
Não há uma única definição de inteligência que todos concordem, mas há um consenso geral de que inclui a capacidade de aprender com a experiência, se adaptar a um ambiente em mudança, tomar decisões e agir de acordo com seu próprio interesse.
A vida existe no planeta há mais de três bilhões de anos, principalmente na forma de organismos unicelulares. Não foi até a evolução dos neurônios e sistemas nervosos há 600 milhões de anos que a inteligência nasceu.
Você pode argumentar que a capacidade dos micróbios para se mover em direção aos nutrientes e longe das toxinas é evidência de inteligência sem um sistema nervoso. Mas Grinde sustenta que esses movimentos podem ser explicados em termos de processos químicos.
Também não temos motivos para assumir inteligência por parte das plantas. Seu crescimento é guiado pela física da gravidade e da luz, e se eles florescem ou perecem é uma questão de sorte cega. As sementes que brotam em solos ricos e a luz do sol prospera, enquanto aqueles que pousam em um solo pobre e sombra desaparecem. E se as condições mudam, uma planta não pode se mover para uma localização melhor.
Apenas os animais podem abordar oportunidades e evitar ameaças, e isso é porque eles têm sistemas nervosos. Todo o propósito de um sistema nervoso é permitir que um organismo interaja com seu ambiente para o objetivo final de obter seus genes na próxima geração.
Se você não se move, você não precisa de um cérebro. Apenas pergunte a um marinho. Na sua juventude, nade como um girino, mas na idade adulta atribui-se a uma rocha onde passa o resto da vida. Seu primeiro ato depois de se estabelecer é devorar seu próprio cérebro.
Os animais apresentam comportamento inteligente porque possuem sistemas nervosos. Mesmo o nematóide humilde, com apenas 302 neurônios, pode aprender a distinguir entre bactérias que são boas para comer e aquelas que a deixaram doente. As abelhas têm minúsculos cérebros de cerca de um milhão de células, e eles não só aprendem a boa comida com o mal, mas também podem comunicar a localização das fontes de comida para suas colméias. Muito surpreendente para um cérebro de abelhas!
Um polvo tem um cérebro cem vezes o tamanho de uma abelha, tornando-se um verdadeiro gênio do mundo subaquático. Esses cefalópodes podem aprender a navegar labirintos complexos, usar ferramentas e até mesmo aprender observando o que os outros estão fazendo. Então, um polvo é claramente inteligente, mas tem consciência? Alguns neurobiologistas dizem: "Talvez". Mas Grinde está mais inclinado a dizer: "Talvez não".
Grinde não é apenas uma espécie chovinista. Em vez disso, seu intestino diz que as abelhas e os polvo não estão conscientes. Você provavelmente não está ciente disso, mas você realmente tem um segundo "cérebro" no estômago. Estritamente falando, é uma rede de neurônios que corre da boca ao ânus que controla a atividade do trato gastrointestinal. Embora pequeno em comparação com essa gigantesca mancha neural dentro de seu crânio, em 500 milhões de neurônios é cinco vezes maior que o tamanho de um cérebro de polvo.
O cérebro "intestino" realiza seu trabalho com muito pouca contribuição do grande cérebro no andar de cima. Na verdade, o intestino só se comunica com o cérebro em uma base de necessidade de saber, principalmente quando algo foi terrivelmente errado. Atualmente, você desconhece as bactérias tóxicas que estão se multiplicando e comendo rapidamente no forro do estômago. Mas, momentaneamente, seu cérebro "intestino" enviará um alarme, e é somente quando a mensagem atinge o cérebro principal que você percebe que está prestes a ficar doente. (É também o seu cérebro principal que o dirige para o banheiro mais próximo).
Se o número de neurônios é uma medida aproximada de inteligência, seu intestino é cinco vezes mais inteligente que um polvo. E se o seu intestino não tem consciência, por que devemos assumi-lo por parte de um cefalópodo baixo? Em outras palavras, a inteligência por si só não é suficiente para produzir a consciência.
Em vez disso, Grinde argumenta que a consciência surge das emoções básicas de dor e prazer, que proporcionam motivação para o comportamento e conduzem a uma aprendizagem rápida. Os estados emocionais são gerados por certas estruturas do prosencéfalo, como o córtex cerebral e o sistema límbico. Essas estruturas são bem desenvolvidas em mamíferos, e também existem em formas mais primitivas em aves e répteis, mas não em outros animais. Em outras palavras, a consciência é construída sobre a emoção, não a inteligência.
No tropo de ficção científica, as máquinas tornam-se cada vez mais inteligentes até que passem algum limiar, momento em que a consciência de repente surge. Mas onde exatamente esse limiar é? Talvez seja na chamada singularidade, quando as máquinas se tornam mais inteligentes do que os humanos, seja o que for que isso signifique.
No filme Transcendência , os roteiristas passam o problema do limiar de consciência. Especificamente, eles têm o inventor do sistema inteligente de alguma forma carregam sua própria consciência no computador. Em vez de a máquina se tornar como o homem, o homem é colocado dentro da máquina.
Mas então a história não é mais sobre o AI destruindo intencionalmente a humanidade. Em vez disso, trata-se de uma pessoa usando AI contra seus companheiros humanos. E esse é o perigo de AI que Steven Hawking nos avisa.