A China está desenvolvendo um sistema digital para rastrear e avaliar sua população de 1,3 bilhão de pessoas. O sistema excita comparações com os filmes de Orwell 1984 e distópicos, mas é apenas um uso de dados importantes para gerenciar pessoas. Kai Strittmatter, que informou sobre a cultura chinesa para o jornal alemão Sueddeutsche Zeitung, resume o novo programa em "Punkteregime" ou "Regime de pontos" (19 de maio de 2017).
Algumas aplicações para o sistema já estão em testes. Quando você baixa "Honest Shanghai", o aplicativo verifica seu rosto ao se registrar e recupera dados da internet. Como uma classificação de crédito nos EUA, o aplicativo usa algoritmos para avaliar suas transações financeiras (contas pagas no prazo?) E classificar sua credibilidade.
Até 2020, o sistema está planejado para incluir todos os chineses em um "sistema de confiabilidade social". A idéia não é apenas facilitar transações comerciais mais seguras e mais seguras, mas também melhorar o comportamento individual. Como em Orwell em 1984, grandes dados, redes sociais e um sistema de pontos digitais usarão recompensas e desincentivos ou punições definitivas para criar uma nova pessoa modelo. Um funcionário da cidade de Rongchen declara: "Queremos civilizar pessoas".
Zhang Zheng, Decano da Faculdade de Economia da Universidade de Pequim, explica: "Como você trata seus pais e seu cônjuge, todas as suas ações sociais, se e como você cumpre as regras morais – isso também não lhe diz sobre sua confiabilidade?"
De acordo com o diretor do projeto piloto em Rongchen, o sistema classificará todas as empresas e cidadãos na China. No projeto piloto, todos começam com 1000 pontos. O comportamento aprovado melhora a sua pontuação. Você "pode ser um cidadão AAA (" modelo de honestidade ", mais de 1050 pontos). Mas um deslizamento para 849 pontos é o "nível de alerta". Abaixo de 599 pontos, classificado como "desonesto", seu nome será na lista negra, publicado e você se tornará o "objeto de monitoramento significativo". Isto é especificado no manual oficial de Rongcheng de as "Medidas Administrativas para a Confiabilidade de Pessoas Naturais".
Você pode ver algumas metáforas profundas no sistema. Assemelha-se a jogos baseados em pontuação, combinados com os processos padronizados de uma fábrica. Medir o valor por pontuação evoca comércio e negócios, especialmente contabilidade. Como a maioria das tecnologias informáticas, torna uma teoria do traço e uma árvore de decisão mais importante do que a vida interior.
Os entusiastas fazem o som do sistema saudável como um programa de TV, com salvaguardas integradas para flexibilidade e justiça. Mas se a história é um guia, o Partido Comunista e as grandes empresas preferirão um sistema muscular que melhore o controle social. Resta saber se algum design pode excluir incompetência ou corrupção.
De certa forma, o esquema ecoa a promoção corporativa de privilégios nos EUA, onde um certo nível de gastos ou "lealdade" do cliente qualifica você para tratamento especial. Mas quando os dissidentes chineses não concordam com a festa, eles geralmente não desaparecem no salão Elite Club de uma companhia aérea.
Os entusiastas evitam o espectro da punição, sugerindo que classificações negativas podem remodelar o cidadão, limitando os privilégios sociais, como acesso a livros de biblioteca ou viagens. Mas, por mais gentil que os eufemismos, a influência sobre os outros é obrigada a ter um elemento coercivo. Mesmo a utopia precisa das proteções da lei e do devido processo.
O sonho do New Man foi o pesadelo do século XXI do totalitarismo. Quem controlará os controladores? Quem irá policiar a polícia? Quem resolverá a confusão da prática empresarial com a governança? O objetivo é estimular o auto-controle ao disfarçar o controlador.
Nos EUA, como mostram a publicidade e os recentes ciclos eleitorais, os mineiros de grandes dados imaginam algoritmos que podem prever as escolhas das pessoas. O sonho é que, com informações suficientes, um programa poderá provocar e controlar as preferências intuitivas e ainda inconscientes do consumidor ou do eleitor.
As mídias sociais, como o Facebook e os empreendimentos acadêmicos, como o Projeto de bem-estar mundial e a promessa da minha personalidade, fortalecem a liberdade individual. Eles assumem que a maquinaria psicológica pode atualizar valores autênticos, senão simplesmente latentes em nós. Mas em todos esses esforços para ajudar a borboleta fora do casulo, as ferramentas e os pressupostos do projeto colorem a borboleta.
E é claro que alguns caçadores de borboletas estão francamente interessados em aperfeiçoar as ferramentas para venda ao melhor postor. Em uma apresentação do YouTube, o CEO da Cambridge Analytica afirma ter combinado respostas de teste de personalidade com dados das mídias sociais para produzir "perfis psicográficos". Supostamente, seus "modelos que predizem traços de personalidade para todos os adultos na América" desempenharam um papel nas últimas eleições . Mas "é importante lembrar que este vídeo tão discutido é um campo de vendas". [1]
Apesar de diferentes ênfases, o interesse chinês e americano no controle social se sobrepõem. Conforme demonstrado pela nova histeria sobre imigrantes ilegais e terrorismo, e investimentos governamentais maciços na vigilância, os EUA compartilham a ansiedade chinesa de que a escala da vida excede os constrangimentos tradicionais. Funcionários de imigração dos EUA estão penteando registros que procuram até mesmo infrações menores que poderiam justificar a expulsão.
Ao mesmo tempo, ambos os países nutrem ambições que procuram uma recompensa de novas ferramentas de controle. Algumas das ferramentas são uma propaganda grosseira, como a parede mexicana, mas outros estão explorando as profundezas da tecnologia eletrônica de dados e da natureza humana. Por que a histeria? No momento, a escala de vida atingiu um ponto de inflexão. Grandes números desafiam o cérebro, sejam eles populações, comércio ou figuras ambientais. E a competição torna nervosos os seres humanos de alta tensão, uma vez que a metáfora profunda é combate. Você vê a histeria no acúmulo de poder e dinheiro no topo, uma arma sob cada travesseiro e ataques vergonhosos aos trabalhadores pobres e ao direito do trabalho.
Os chineses têm um sistema de vigilância de mil pontos. Os EUA têm o slogan smarmy "mil pontos de luz". Ambas as culturas estão tentando inventar narrativas que controlam a realidade incansável sem deixar cicatrizes antiestéticas. É um projeto antigo. Vamos ver como funciona esta vez.
Em suas Notas de Underground, Dostoyevsky prometeu que alguns humanos são desafiadoramente perversos e, portanto, serão desafiadoramente livres. Os céticos prevêem que alguns chineses encontrarão maneiras em torno do sistema de classificação e suas prováveis corrupções. Somos animais sociais, mas também criaturas competitivas e tortuosas. A mesma mentalidade que permite aos comerciantes intuir o que outros valorizam também pode imaginar o que os engana. À medida que nos vemos ao nosso redor hoje, podemos lamentar a decepção, mesmo quando a multidão está aplaudindo um espetáculo de magia que se engana.
Recursos utilizados neste ensaio:
1. Tamsin Shaw, "Manipuladores invisíveis de sua mente", New York Review of Books (20 de abril de 2017), 64.