Três Mitos sobre Crianças e Algoritmos

O que o YouTube Kids e o ClassDojo têm em comum?

À medida que mais e mais desenvolvedores estão aperfeiçoando suas análises de aprendizado, sistemas de gerenciamento de sala de aula e recomendações de leitura personalizadas, vamos pensar criticamente sobre as suposições mais amplas subjacentes ao atual design de algoritmos.

Não há dúvida de que os algoritmos são vitais para a funcionalidade da Internet. Por meio do aprendizado de máquina, os algoritmos podem automatizar pesquisas e desenhar dados grandes para fornecer recomendações personalizadas que poderiam tornar o aprendizado das crianças mais eficaz. Mas a frase “Algoritmos BIBO” (Bias In e Bias Out) explica que mesmo os algoritmos mais poderosos desenvolvidos pelo grupo FANG (Facebook, Amazon, Netflix e Google) não estão livres de preconceitos e erros.

O desejo da indústria de educar as crianças e remover preconceitos está lá, mas a questão é grande demais para ser resolvida da noite para o dia. Evidências de viés inconsciente e até mesmo intencional, propagadas por IA em sistemas para adultos, devem ser um alerta suficiente antes de nos apressarmos para a educação algorítmica. Aqui estão algumas perguntas que os adultos podem colocar, e alguns equívocos, para nos ajudar a avaliar a importância dos algoritmos na aprendizagem das crianças:

1. Introduzir algoritmos para nossa classe / família melhorará o aprendizado das crianças.

• (Quem) futuro de (o que) trabalho
• O que está realmente acontecendo quando nos sentimos autênticos?
• Xadrez improvisado
• As mulheres envelhecem mais lentamente que os homens?
• Quanta dor você sente?

O problema das recomendações personalizadas foi totalmente exposto em relação às bolhas de filtro online. Como os algoritmos são projetados para agregar conteúdo semelhante, eles criam câmaras de eco nas mídias sociais e nos feeds de notícias. Adotar o mesmo design para aprender significa que as crianças estão menos expostas a desafios cognitivos e coisas de que não gostam. Isso pode ser benéfico para a sua motivação e engajamento, mas, para aprender a se manter, as crianças devem receber conceitos que expandam suas mentes e nem sempre correspondam às suas preferências.

Alguns provedores reconhecem essas limitações e, em vez de personalizar o conteúdo, seus algoritmos recomendam os mesmos tópicos em um ritmo diferente ou em uma sequência diferente. Algoritmos mais avançados começam a expandir os horizontes das crianças, uma vez que recomendam conteúdo de dificuldade gradualmente crescente. Isso, no entanto, só poderia funcionar em um ambiente de aprendizado adequado, onde há um banco de dados sólido para acomodar os mais altos e os mais baixos realizadores. Seria muito ambicioso, nesse estágio, esperar um algoritmo tão sofisticado para todo o sistema educacional sem se deparar com o problema das notícias falsas.

2. Recomendações personalizadas democratizam o aprendizado das crianças.

Quando acessamos a Internet, todos utilizamos algoritmos e nosso uso contínuo deles torna-os mais inteligentes. Notavelmente, a base de usuários atual é desproporcionalmente maior que a base de desenvolvedores de algoritmos. Muitas tomadas de decisão que afetam bilhões de pessoas em todo o mundo são feitas por apenas alguns milhares de pessoas. Como resultado, os gigantes da tecnologia estão bem à frente do entendimento do público em geral sobre como os algoritmos funcionam. Mesmo alguns senadores dos EUA parecem não saber como funciona a economia algorítmica, como demonstrado durante a audiência do comitê do senado de Mark Zuckerberg.

DigiLitEY: Crianças e Algoritmos

Fonte: Natalia Kucirkova, DigiLitEY

Simplificando, o atual design de algoritmos é meritocrático, não democrático. Aplicado à educação, significa que aqueles com uma vantagem inicial, ou seja, aqueles que têm algum conhecimento prévio, serão beneficiados e podem desenvolver ainda mais esse conhecimento. Isso ocorre porque os algoritmos se adaptam à criança, eles não instruem a criança. Se os algoritmos tivessem sido projetados com princípios democráticos em primeiro lugar, eles seriam transparentes por design e mais voltados para a comunidade. Qualquer um poderia ver o que é recomendado e por quê. Qualquer um poderia alterar os mecanismos e seu poder seria distribuído de maneira justa e igual.

3. Algoritmos garantem a segurança online das crianças.

Para evitar a proliferação de vídeos perturbadores direcionados a crianças pequenas, tanto o Google quanto o Facebook investiram em um grande número de moderadores e verificadores de conteúdo humano. No entanto, até mesmo os administradores do YouTube para crianças reconhecem corretamente que “nenhum filtro é 100% preciso”. Portanto, a confiança total no “modo restrito” do YouTube não garante que o seu filho não veja vídeos incômodos da Peppa Pig. É simplesmente um fato da vida que existem mais criadores de conteúdo em potencial e, lamentavelmente, muitos com más intenções, do que aqueles que denunciam vídeos abusivos. Proibição e censura de órgãos reguladores nacionais e internacionais também não são uma solução completa. Seria um passo atrás para incentivar um modelo que garanta a segurança das crianças às custas da liberdade de explorar. Um novo conjunto de algoritmos, verificações de qualidade e regulamentações da comunidade precisará ser desenvolvido para garantir um equilíbrio entre as contribuições criativas e a proteção de usuários vulneráveis.

Muitas vezes nos dizem que “AI é o futuro”, mas também que “um punhado de empresas de tecnologia controlam milhões de mentes”. Se queremos que os algoritmos de IA melhorem o futuro de todas as crianças, precisamos tocar no botão de pausa na infância algorítmica e pensar criticamente sobre o que atrai a atenção das crianças. Precisamos de algoritmos transparentes que correspondam ao conteúdo cuidadosamente selecionado para as preferências e necessidades das crianças com as da comunidade mais ampla. Esta não é uma visão idealizada e tecnófila de alguns acadêmicos. É uma condição essencial para garantir que a educação personalizada não se converta em educação comercializada.

Referências

O Gabinete do Comissário das Crianças (2018). Quem sabe o que sobre mim? Um relatório do Comissário da Criança sobre a recolha e partilha de dados das crianças, https://www.childrenscommissioner.gov.uk/wp-content/uploads/2018/11/who-knows-what-about-me.pdf

Kucirkova, N., Falha, J., Pera, S. Huibers, T. (2018) Algoritmos para crianças: o que pais e educadores precisam saber, DigiLitEY, Reino Unido: http://digilitey.eu/publications/digilitey-publications

Manolev, J., Sullivan, A. & Slee, R. (2018) O datafication de disciplina: ClassDojo, vigilância e uma cultura de sala de aula performativa, Aprendendo, Mídia e Tecnologia, DOI: 10.1080 / 17439884.2018.1558237