Você pode lidar com a verdade sobre a pesquisa?

Antes de considerar os resultados da pesquisa como certos, lembre-se de todos os motivos para não fazê-lo.

MEME

Fonte: MEME

Você consegue lidar com a verdade? Alguns de vocês podem lembrar do discurso de Jack Nicholson no stand de A Few Good Men. Muitas vezes me lembro dessa frase quando discuto descobertas de pesquisas. Infelizmente, não é porque as descobertas são perturbadoras, embora muitas sejam, mas porque, como todo bom cientista psicológico sabe, a pesquisa não lhe dá verdades. Esta é uma verdade a ter em conta quando ler as manchetes que proclamam “Research shows…”.

Pessoas gostam de obter respostas definitivas. Nós amamos quando a ciência pode nos dizer o que fazer. Às vezes, nos enganamos ao pensar que a última descoberta sobre um tópico (especialmente se ele sustenta nossa visão) é a verdade sobre esse tópico. Coma isso por saúde. Não faça isso por felicidade. Quando você é experiente no empreendimento científico, sabe que um estudo não pode ser o fim da história. Um estudo científico apenas apóia uma hipótese. Uma das duas palavras mais frustrantes que tenho para discutir sobre pesquisa é “depende”. Mas essa é a verdade. Você pode lidar com isso?

Comportamento é complexo, que é uma das principais razões pelas quais é difícil obter respostas definitivas. Os resultados podem mudar dependendo de como a pesquisa foi realizada, quais variáveis ​​foram medidas, como os participantes foram recrutados, o tamanho da amostra, o contexto em que o estudo foi realizado e uma série de outros fatores. Atul Gawande escreveu sobre isso de forma persuasiva em relação à medicina, onde ele realizou a cirurgia sobre a medicina em si, mostrando que ela era complicada, desconcertante e profundamente humana, nada perto dos “médicos idealizados têm todas as respostas” que muitos acreditam que seja.

Também sabemos que os resultados dos estudos nem se replicam. Você pode estar mais propenso a pensar em algo como a verdade se obtiver o mesmo resultado todas as vezes. Houve muitas falhas de replicação na ciência, novamente atestando a complexidade da pesquisa. Mesmo se você repetir a metodologia de um estudo completamente, você ainda pode não obter os mesmos resultados. Mas fica pior.

Se as questões de replicação não foram suficientemente ruins, agora há evidências de que muitos cientistas não foram totalmente honestos sobre como fizeram suas pesquisas. No caso mais recente, o Dr. Brian Wansink demitiu-se da Cornell University depois que uma investigação de um ano mostrou que ele cometeu má conduta acadêmica. De fato, apenas no último mês, seis de seus artigos foram recolhidos pelo prestigiado Journal of American Medical Association (JAMA). Muitos de seus estudos anteriores sobre alimentação são agora suspeitos. Mas fica ainda pior.

Aparentemente, mesmo os mesmos dados geram resultados diferentes dependendo de quem analisa. Nesta semana, Silberzahn e colegas (Silberzahn et al. 2018) publicaram um estudo de abertura dos olhos. Vinte e nove equipes, envolvendo 61 cientistas, testaram uma questão: os árbitros de futebol são mais propensos a dar cartões vermelhos para jogadores de tons escuros do que para jogadores de tons claros? Aqui está o kicker. Todos receberam o mesmo conjunto de dados. Os resultados variaram. Vinte equipes disseram que sim. Nove equipes disseram NÃO. Destes yay e nay-sayers, a força do efeito foi diferente.

APS

Fonte: APS

Por quê isso aconteceu? Os cientistas usaram diferentes análises para testar as questões. Grupos diferentes controlados por diferentes fatores. Enquanto alguns grupos controlaram sem fatores, outros controlaram até sete fatores diferentes. Mas lembre-se que o conjunto de dados era exatamente o mesmo.

Este estudo é um lembrete surpreendente de algo que raramente se fala. O que o pesquisador faz com os dados faz o mundo de uma diferença. Nós não estamos falando de pesca para resultados, fabricando números ou, pior, falsificando resultados. Este estudo foi uma janela aberta sobre como os pesquisadores são moldados por seus hábitos. Os pesquisadores têm análises de animais de estimação e definem maneiras que eles tendem a usar quando se aproximam de pesquisas. A grande revelação aqui é que essas idiossincrasias podem fazer a diferença no fato de uma descoberta ser vista como verdadeira ou falsa.

Nenhum estudo de pesquisa lhe dá a verdade. Cada um tem muitas limitações. Certifique-se de tratar os principais achados com a cautela necessária e não se deixe levar por nenhum estudo. A ciência é autocorretiva e a inconsistência nos leva a fazer ciência melhor. E isso é bom para todos nós.