Tecnologia projetada para dependência

Quais são os perigos dos loops de feedback digital?

Uma das coisas que Wade L. Robinson discute em seu livro, Engineering Ethics , é a importância de evitar desenhos “provocadores de erros”, nos quais o artefato tecnológico não apenas permite a possibilidade de falibilidade humana, mas direciona ativamente o usuário para o direção do dano. Ele gasta muito tempo discutindo os botões do fogão, por exemplo. Eu imagino que a maioria de nós teve a frustração de pensar que estamos ativando um queimador do fogão, digamos a frente esquerda, apenas para descobrir que outro queimador, o direito traseiro, realmente aqueceu. Acontece que cada fabricante de fogão tem uma maneira ligeiramente diferente de alinhar os botões aos queimadores, e esse problema de projeto é surpreendentemente complexo. Na maioria das vezes, a incompatibilidade entre maçanetas e queimadores simplesmente causa frustração, mas pode causar um incêndio em alguns casos, e leva apenas um ou dois minutos para que um incêndio doméstico atinja níveis fora de controle. Robinson também discute um acidente de avião na Colômbia que foi causado por uma falha no software do piloto automático e outras instâncias de problemas de projeto que causaram ferimentos e morte, como as falhas no interruptor de ignição nos carros da GM em 2015.

Fonte: Depósito Fotos

As empresas de tecnologia agora enfrentam críticas por problemas causados ​​pelo design. Recentemente, muita discussão foi focada em empresas de mídia social e na maneira como elas manipulam a psicologia humana para manter os olhos colados na tela. Existe o problema do “tempo chupar” relacionado à verificação compulsiva do Facebook, mas também há problemas sociais que essas tecnologias parecem estar exacerbando. Até mesmo alguns executivos de tecnologia têm se juntado às críticas dos gigantes da tecnologia do Vale do Silício ou estão sendo forçados a ficar na defensiva depois de anos de entusiasmo de olhos arregalados pelas mídias sociais. Um vídeo de uma entrevista da Stanford com o ex-executivo do Facebook, Chamath Palihapitiya, vem circulando pela internet, enquanto Palihapitiya dirige críticas absolutamente devastadoras aos gigantes das mídias sociais. “Os ciclos de feedback de curto prazo orientados pela dopamina que criamos estão destruindo a forma como a sociedade funciona”, diz Palihapitiya, tendo se cansado da necessidade de ganhos de curto prazo financiados por capital em detrimento da qualidade de vida e do diálogo cívico. “É literalmente um ponto agora em que acho que criamos ferramentas que estão destruindo o tecido social de como a sociedade funciona. Isso é realmente onde estamos. Eu encorajaria todos vocês, como futuros líderes do mundo, a realmente internalizar quão importante isso é. Se você alimentar a besta, essa besta irá destruí-lo. ”O fato de que essa crítica vem de um membro de alto nível técnico torna isso muito mais chocante.

• Como funciona a terapia: o que significa “processar uma questão”
• Selfitis: Notícias falsas ou doença mental?
• Os corvos fazem as pazes depois de brigar, depois procuram consolo
• Mudando a narrativa (parte 1)
• Na Consciência

Pense por um segundo sobre como algumas das tecnologias mais poderosas que o mundo já viu estão sendo usadas agora para não solucionar a fome no mundo ou enviar astronautas à Lua, mas fazer com que as pessoas cliquem em anúncios e comprem coisas na Amazon. Os laços de feedback das mídias sociais também impulsionam a polarização política e o viés de confirmação, pois somos constantemente empurrados na direção de conteúdo que se alinha com o que já acreditamos e se encaixa nos grupos demográficos aos quais já pertencemos. À medida que nos acostumamos com a fluência da tecnologia em nossas vidas, isso parece completamente normal. Aqueles de nós que se lembram da vida antes da internet serão cada vez menos, e, eventualmente, ninguém saberá como era a vida sem acesso constante à internet e às mídias sociais. Ninguém se lembrará de como foi jantar sem tirar uma foto ou ter uma conversa sem fazer referência a um meme. Toda essa “ruptura” é impulsionada por tecnologias projetadas propositadamente para serem viciantes.

Nir Eyal, um amigo meu da faculdade, escreveu um livro chamado Hooked: Como construir produtos formadores de hábito , no qual ele descreve, passo a passo, os truques de condicionamento operante usados ​​para tornar um aplicativo viciante. Utilizando recompensas variáveis, nas quais um “tratamento” digital, como o Reddit upvotes e gold, as gemas e moedas em vários jogos, as curtidas no Facebook etc., que às vezes só são distribuídas, o usuário antecipa a ligeira investida do recompensa fugaz. Como a recompensa não é confiável, o comportamento nervoso é acionado, no qual sentimos que temos que continuar verificando as mensagens, curtidas e atualizações de status. Eyal é um consultor para empresas que buscam desenvolver essas características de formação de hábito em seus produtos, mas, para seu crédito, ele inclui uma seção sobre ética em seu livro, intitulada “A moralidade da manipulação”, e ele evita a armadilha de enganando a responsabilidade por produtos viciantes para o usuário final. Ele enfatiza que os projetistas devem levar em consideração o usuário final ao oferecer um produto ou serviço digital. Mas ele também reconhece implicitamente que estamos realizando um experimento massivo e descontrolado sobre a psique humana com o advento das mídias sociais e da publicidade digital.

Na minha experiência, algumas pessoas têm a capacidade de anular o impulso viciante e outras menos. Todos nós, até certo ponto, podemos dizer a nós mesmos: “Ok, se eu percorrer todo o caminho até o final deste feed, ele apenas carregará um novo lote de entradas.” A natureza contínua dos feeds no Facebook e no Reddit não há pontos de parada naturais onde faria sentido apenas sair do surf. Aplicativos que deslizam para a esquerda e para a direita significam que há loops em todas as direções: para cima, para baixo e para os lados. Então, podemos logicamente saber que o feed continua indo para sempre, mas podemos dar o próximo passo e desconectar da plataforma? Existem vários sites dedicados ao vício em videogames, sendo que alguns deles, World of Warcraft, são o exemplo mais famoso, levando os usuários a deixar seus empregos, negligenciarem as crianças e se divorciarem – tudo para continuar jogando. À medida que os jogos se tornam ainda mais imersivos, com realidade aumentada e recursos de realidade virtual, combinados com incentivos monetizados e condicionamento embutido, os aspectos que causam dependência parecem aumentar nos próximos anos. Até agora, o uso do Facebook e Twitter é menos provável de ser estigmatizado do que o jogo compulsivo de videogame, mas eles são indiscutivelmente tão viciante.

• Menos tecnologia, mais conversa: promovendo o desenvolvimento da fala em crianças
• Suplementos Alimentares Podem Proteger as Mentes dos Cães Envelhecidos?
• Por que tantos americanos perderam a confiança em fatos?
• Como ler mentes
• A vida como bilíngüe II

Você pode estar lendo isso e pensando: “Ok, então as pessoas estão checando seus telefones o tempo todo, postando fotos de si mesmas no Instagram, e ficando viciados em joguinhos idiotas, mas qual é o problema? Onde está o mal? ”Bem, começando com a morte real, o CDC estima que, todos os dias nos Estados Unidos, nove pessoas são mortas e 1000 são feridas como resultado da condução distraída. Embora a condução distraída não seja novidade (os americanos comem hambúrgueres e batatas fritas enquanto dirigem há décadas), enviar mensagens de texto enquanto dirige é particularmente perigoso porque combina vários tipos de distração. Olhar para um texto tira os olhos do motorista da estrada (distração visual), pelo menos uma das mãos do volante (distração manual) e a mente da tarefa (distração cognitiva). É fácil dizer que as pessoas não devem enviar mensagens de texto e dirigir, e muitos estados e países aprovaram leis nesse sentido. Mas o problema de design, o aspecto “provocador de erros” da tecnologia, não foi abordado de maneira significativa. Parece provável que mais acidentes ocorram, como o recente descarrilamento de trem em Washington, no qual o condutor estava distraído, possivelmente como resultado do uso do celular, e três pessoas foram mortas. Uma solução abrangente ligaria o celular ao maquinário pesado de tal maneira que o motor não rodaria sem que certas características do celular fossem desativadas.

Para mudar para danos mais intangíveis, o problema da estagnação salarial tem recebido muitas manchetes nos últimos anos, à medida que a desigualdade de renda cresce. Enquanto isso, a produtividade disparou. O excesso de produtividade foi direcionado para o aumento dos lucros corporativos e dos salários dos executivos de nível superior, mas os trabalhadores foram praticamente excluídos dos benefícios monetários. Alguns dos ganhos de produtividade e eficiência, suspeito, estão indo diretamente para o uso da mídia social, na ausência de aumento de salários. Mesmo que os trabalhadores se sintam mais estressados ​​e menos valorizados do que nunca, eles não estão trabalhando menos horas. Em vez disso, eles canalizam o estresse e a insatisfação relacionados ao trabalho nas mídias sociais e nos jogos digitais, em um ataque de desaceleração de grandes proporções. Atualmente, os usuários nos Estados Unidos gastam cerca de cinco horas por dia em smartphones, com a televisão sendo agora superada pelo tempo gasto em aplicativos. Em vez de um dia de trabalho mais curto e mais comprimido, o trabalho agora se espalha ao longo das horas de vigília, com frequentes “intervalos” nas mídias sociais. Naturalmente, essas “interrupções” são na verdade trabalho não remunerado realizado em nome das próprias empresas de mídia social. Todas as fotos de férias, todos os e-mails, todas as interações digitais são agora um vetor para a especulação de big data. Isso não seria um problema se a satisfação com a vida e a saúde geral estivessem realmente aumentando, mas parece que a renda está estagnada e a expectativa de vida está realmente diminuindo em alguns casos.

De acordo com um artigo do economista Devrim Dumdalug na International Review of Economics , os níveis de renda nos Estados Unidos dobraram no período do pós-guerra, mas a felicidade auto-relatada quase não se alterou. Desde a crise econômica de 2007-2008, temos uma situação de aumento de produtividade, mas com salários estagnados. Novamente, isso não seria um problema se os trabalhadores fossem geralmente felizes e saudáveis, mas em vez disso, temos enormes problemas de saúde pública como obesidade, diabetes e pressão alta, além de taxas mais altas de depressão e ansiedade, sugerindo que o entretenimento digital não é a melhor maneira de passar o tempo de lazer. Dada a escolha entre um passeio fora e vinte minutos no Facebook, a melhor escolha para a saúde mental e física seria dar um passeio lá fora. Meu ponto principal aqui é que as pessoas não estão fazendo a escolha por uma saúde melhor por causa dos recursos aditivos embutidos na tecnologia. Em vez de simplesmente culpar o usuário final, devemos responsabilizar as empresas de tecnologia pela forma como elas promovem deliberadamente o comportamento de dependência.

Precisamos parar de usar palavras como “viciante” e “disruptivo” como se fossem elogios e exigir que as corporações e os governos levem em conta o bem público ao projetar e regulamentar novos produtos e serviços. A tecnologia por si só não melhora nossas vidas automaticamente: ela deve ser usada de maneiras conscientes e deliberativas para melhorar nosso bem-estar. Designers e engenheiros devem parar de criar distrações nos sistemas que usamos, porque nossa segurança e bem-estar estão em jogo. Enquanto isso, parece que somos deixados à nossa própria sorte (sem trocadilhos) para parar de rolar para baixo e começar a viver o tipo de vida que queremos viver. O primeiro passo é perceber que o vício é construído diretamente no aplicativo e se tornar usuários mais conscientes da mídia social. Então, podemos começar a recuperar nosso tempo, a viver vidas mais sadias, pacíficas e saudáveis. Não precisamos desistir da tecnologia, mesmo que isso fosse possível, mas precisamos ser mais cuidadosos ao usá-la.