A Ilusão do Saber: quando a convicção ocupa o lugar do conhecimento

Ilusão de profundidade explicativa, psicologia das massas e a fabricação das certezas na civilização algorítmica

Ensaio Fundamental — Observatório

Introdução — A estranha segurança de quem acredita saber

Existe uma situação curiosa na experiência humana: quanto mais familiar nos parece determinado assunto, mais facilmente podemos acreditar que o compreendemos. Reconhecemos suas palavras, identificamos seus elementos, acompanhamos explicações sobre ele e, pouco a pouco, desenvolvemos a sensação de que dominamos o seu funcionamento. Entretanto, quando somos convidados a explicar detalhadamente as relações entre suas partes, as causas que o determinam e as consequências que produz, descobrimos que nosso conhecimento talvez seja muito menos consistente do que imaginávamos.

Essa distância entre o conhecimento que acreditamos possuir e aquele que efetivamente conseguimos explicar constitui o núcleo de um fenômeno estudado pela psicologia cognitiva: a Ilusão de Profundidade Explicativa, conceito desenvolvido pelos pesquisadores Leonid Rozenblit e Frank Keil em um artigo publicado em 2002, na revista científica Cognitive Science.

Os pesquisadores demonstraram que as pessoas tendem a superestimar a precisão, a coerência e a profundidade de suas explicações sobre fenômenos complexos. A dificuldade aparece quando precisam descrever os mecanismos causais que fazem alguma coisa funcionar. Uma impressão geral de compreensão, suficiente para reconhecer ou utilizar um objeto, não corresponde necessariamente à capacidade de explicar o seu funcionamento.

O problema, contudo, ultrapassa a relação entre indivíduos e objetos cotidianos.

Quando deslocamos essa observação para a política, a economia, a cultura e a circulação contemporânea de informações, encontramos uma questão mais abrangente: o que acontece quando a sensação subjetiva de saber passa a ocupar o lugar da investigação, da reflexão e da compreensão crítica?

Vivemos em uma época na qual o acesso à informação se expandiu extraordinariamente, mas essa expansão não garante, por si só, um crescimento equivalente da capacidade de compreender os processos que organizam o mundo. Podemos acompanhar diariamente acontecimentos políticos, crises econômicas, descobertas científicas e transformações tecnológicas sem necessariamente compreender suas determinações profundas.

A abundância de informações pode coexistir com a fragilidade das explicações.

É nesse espaço, situado entre a informação disponível e a compreensão efetiva, que a ilusão de profundidade explicativa adquire relevância para uma investigação sobre a consciência, a ideologia e a civilização algorítmica.

1. O conhecimento aparente e os limites da consciência

Para compreender a natureza desse fenômeno, precisamos distinguir algumas operações que frequentemente confundimos: reconhecer uma informação, recordar uma explicação, saber executar um procedimento e compreender as relações causais que tornam determinado fenômeno possível.

Essas capacidades podem se complementar, mas não são equivalentes.

Uma pessoa pode utilizar um computador com desenvoltura sem conhecer os mecanismos físicos e lógicos envolvidos em seu funcionamento. Pode reconhecer os efeitos de uma política econômica sem compreender os processos que os produzem. Pode acompanhar um debate sobre inteligência artificial e dominar seu vocabulário sem conhecer os princípios matemáticos, estatísticos e computacionais envolvidos nos sistemas discutidos.

Nada disso representa necessariamente uma deficiência. A vida social depende da especialização e da divisão do conhecimento. Nenhum indivíduo poderia dominar integralmente todos os campos necessários ao funcionamento de uma sociedade complexa.

A dificuldade começa quando deixamos de reconhecer essa dependência e passamos a confundir familiaridade com domínio.

Rozenblit e Keil investigaram essa discrepância por meio de estudos nos quais participantes avaliavam o quanto compreendiam determinados dispositivos e, posteriormente, precisavam produzir explicações detalhadas sobre seu funcionamento. A elaboração dessas explicações frequentemente revelava lacunas que não haviam sido percebidas na avaliação inicial.

O exercício de explicar tornava visíveis os limites da própria compreensão.

Essa descoberta nos conduz a uma questão epistemológica fundamental: como podemos avaliar a qualidade do nosso conhecimento se a própria consciência que o avalia pode superestimar aquilo que sabe?

Não basta possuir informações sobre um fenômeno. É necessário, em determinadas circunstâncias, conseguir estabelecer relações entre elas, distinguir causas de coincidências, reconhecer condições de validade e identificar aquilo que permanece desconhecido.

A consciência humana não opera como um arquivo perfeitamente organizado, no qual todas as informações estão acompanhadas de uma avaliação precisa de sua confiabilidade. Nossas representações do mundo são parciais, dependem da experiência e frequentemente recorrem a modelos simplificados que nos permitem agir sem precisar reconstruir intelectualmente cada processo envolvido.

Essa simplificação é indispensável. O problema não está em possuir modelos incompletos, mas em perder a percepção de sua incompletude.

Há uma diferença decisiva entre dizer “compreendo suficientemente esse fenômeno para determinada finalidade” e afirmar “compreendo profundamente como esse fenômeno funciona”.

A primeira declaração reconhece limites e contextos. A segunda pode ocultá-los.

A ilusão de profundidade explicativa surge justamente quando a segurança subjetiva deixa de acompanhar a extensão real da compreensão.

2. A diferença entre opinião, informação e conhecimento

A sociedade contemporânea atribui enorme importância à capacidade de formular opiniões. Nas redes sociais, somos constantemente convidados a interpretar acontecimentos, julgar comportamentos, avaliar decisões políticas e tomar posição diante de questões que atravessam diferentes áreas do conhecimento.

A velocidade dessa dinâmica favorece uma inversão: em vez de construirmos nossas opiniões a partir de uma investigação progressiva, frequentemente começamos pela opinião e selecionamos, depois, as informações que parecem confirmá-la.

A informação passa a funcionar como instrumento de sustentação da convicção.

Para compreender essa inversão, convém estabelecer algumas distinções.

A informação é um conteúdo que pode ser transmitido, registrado e recuperado.

O conhecimento pressupõe alguma forma de compreensão, contextualização ou domínio desse conteúdo. A opinião expressa um julgamento, uma interpretação ou uma posição que pode estar fundamentada em conhecimentos consistentes, mas também pode resultar de impressões, experiências parciais, preferências e influências sociais.

Essas categorias não constituem compartimentos absolutamente separados. O conhecimento científico, por exemplo, também envolve interpretações e permanece aberto à revisão. A diferença está nos procedimentos pelos quais as afirmações são examinadas, confrontadas com evidências e submetidas à crítica.

O conhecimento não se torna confiável porque alguém o defende com convicção. Sua confiabilidade depende das razões que o sustentam, da qualidade das evidências disponíveis e da possibilidade de revisão diante de novos argumentos.

Entretanto, a experiência subjetiva da certeza pode produzir uma impressão enganosa. Uma ideia familiar, repetida inúmeras vezes e compartilhada por pessoas em quem confiamos, pode adquirir a aparência de uma verdade evidente.

Nesse processo, a repetição substitui parcialmente a investigação, enquanto a familiaridade produz uma sensação de domínio.

O indivíduo reconhece a explicação e interpreta esse reconhecimento como sinal de que a compreende. Mas reconhecer uma narrativa não significa conseguir reconstruir seus fundamentos.

É possível saber o que determinada corrente política afirma sem compreender as relações econômicas que ela pretende explicar. É possível repetir conceitos da psicanálise, da neurociência ou da física sem dominar os argumentos que os fundamentam. É possível utilizar palavras como liberdade, consciência, democracia, energia, evolução e informação sem examinar os diferentes significados que elas assumem em cada disciplina.

O vocabulário pode ser correto e, ainda assim, a compreensão permanecer superficial.

Essa constatação não deve servir para desqualificar o conhecimento cotidiano.

Ao contrário: ela nos convida a reconhecer que o saber humano possui graus, condições e limites.

A maturidade intelectual começa quando deixamos de tratar toda familiaridade como domínio e passamos a perguntar o que, exatamente, somos capazes de explicar.

3. A psicologia das massas e a fabricação das certezas coletivas

Se a ilusão de profundidade explicativa pode ocorrer individualmente, sua relação com a vida coletiva merece atenção especial.

As sociedades não são formadas por indivíduos que constroem isoladamente todas as suas representações do mundo. Aprendemos a interpretar a realidade por meio da linguagem, da educação, das instituições, das tradições culturais, dos meios de comunicação e dos grupos aos quais pertencemos.

Grande parte do que sabemos depende da confiança em outras pessoas e em sistemas especializados de produção do conhecimento.

Essa dependência é inevitável. Ninguém precisa reproduzir pessoalmente todos os experimentos da química, todas as observações astronômicas ou todos os cálculos necessários para utilizar conhecimentos científicos consolidados. O desafio consiste em distinguir a confiança racional em processos confiáveis da adesão irrefletida a afirmações que não foram adequadamente examinadas.

A dimensão coletiva do conhecimento torna-se problemática quando a aceitação social de uma ideia passa a funcionar como substituto de sua fundamentação.

É nesse ponto que podemos estabelecer um diálogo com a psicologia das massas, especialmente com as reflexões de Gustave Le Bon, sem esquecer as limitações históricas e teóricas de sua obra.

Em Psicologia das Massas, publicado originalmente em 1895, Le Bon procurou compreender as transformações do comportamento individual em situações de aglomeração coletiva. Sua interpretação, marcada pelas concepções de sua época, enfatizava a influência da sugestão, da emoção e da liderança sobre os indivíduos reunidos em uma massa.

Embora muitas de suas generalizações sejam controversas e não devam ser aceitas como descrição universal do comportamento coletivo, sua obra permanece historicamente relevante para discutir a relação entre liderança, identificação e circulação de crenças.

A questão contemporânea, entretanto, exige uma formulação mais precisa.

Não precisamos supor que as pessoas percam necessariamente sua individualidade quando participam de grupos. Basta reconhecer que o pertencimento coletivo pode modificar a maneira como interpretam informações, avaliam argumentos e definem aquilo que consideram confiável.

Uma crença compartilhada por um grupo pode adquirir valor não apenas pelo seu conteúdo, mas também pela função que desempenha na identidade de seus integrantes.

Discordar dela pode significar, em determinadas circunstâncias, colocar em risco relações sociais, reconhecimento e pertencimento.

Assim, uma explicação pode ser preservada mesmo quando suas insuficiências se tornam perceptíveis, porque abandoná-la implicaria custos que ultrapassam o domínio intelectual.

A ilusão de profundidade explicativa pode encontrar nesse ambiente condições favoráveis: o indivíduo recebe uma narrativa pronta, aprende a reproduzi-la, encontra outras pessoas que a confirmam e passa a experimentar a concordância coletiva como sinal de sua validade.

A convicção individual recebe o reforço da certeza compartilhada.

Isso não significa que toda crença coletiva seja falsa ou que o conhecimento produzido por comunidades seja necessariamente inferior ao conhecimento individual. A ciência, por exemplo, depende de comunidades de investigação, revisão por pares e procedimentos coletivos de verificação.

A diferença fundamental está entre uma comunidade que organiza mecanismos de crítica e uma comunidade que transforma a concordância em critério suficiente de verdade.

No primeiro caso, o coletivo pode ampliar a capacidade de conhecer. No segundo, pode dificultar o reconhecimento dos próprios erros.

4. Dissonância cognitiva: quando reconhecer o erro ameaça a identidade

A dificuldade de revisar convicções não depende apenas da falta de informação.

Em muitas situações, envolve também a relação entre nossas crenças, nossas atitudes e a imagem que construímos de nós mesmos.

O psicólogo Leon Festinger desenvolveu a teoria da dissonância cognitiva, apresentada sistematicamente em seu livro A Theory of Cognitive Dissonance, publicado em 1957.

A teoria investiga o desconforto que pode surgir quando uma pessoa percebe inconsistências entre suas cognições, atitudes ou comportamentos, bem como as maneiras pelas quais procura reduzi-lo.

Imagine alguém que se considera profundamente comprometido com a racionalidade, mas descobre que defendeu publicamente uma afirmação sem fundamento suficiente. A situação cria uma tensão: reconhecer o erro exige rever a própria avaliação, admitir uma falha ou modificar uma posição já assumida diante de outras pessoas.

Uma possibilidade é examinar as evidências e corrigir a crença. Outra é procurar justificativas que preservem a posição anterior, desqualificar a fonte da informação contrária ou reinterpretar os fatos de modo a reduzir o desconforto.

Essas possibilidades não são equivalentes, e a teoria da dissonância cognitiva não implica que todos reajam da mesma maneira. Ela oferece, contudo, um instrumento importante para compreender por que a revisão de crenças pode ser psicologicamente difícil.

Quando a ilusão de profundidade explicativa se combina com esse processo, surge uma situação particularmente delicada.

O indivíduo pode acreditar que compreende profundamente um assunto e, ao mesmo tempo, encontrar dificuldades para reconhecer as lacunas dessa compreensão. Se a crença estiver associada à identidade política, moral ou social, a solicitação de uma explicação detalhada poderá ser percebida não como uma oportunidade de aprendizagem, mas como um ataque pessoal.

A discussão deixa de se concentrar na qualidade dos argumentos e passa a envolver a defesa de uma identidade.

O interlocutor já não precisa demonstrar apenas que sua interpretação está correta. Precisa também preservar a imagem de alguém que sabe, que compreende e que não se deixa enganar.

Nessas condições, admitir ignorância pode parecer uma derrota.

Entretanto, existe uma diferença fundamental entre reconhecer uma lacuna e abandonar uma posição sem reflexão. A primeira atitude pode representar um avanço intelectual; a segunda, simplesmente uma mudança de opinião.

A revisão racional exige que a pessoa examine as razões de sua convicção, identifique o que desconhece e avalie se as evidências disponíveis sustentam aquilo que acredita.

O pensamento crítico não consiste em duvidar indiscriminadamente de tudo.

Consiste em desenvolver critérios para saber quando confiar, quando questionar e quando suspender o julgamento.

A consciência de seus próprios limites não enfraquece necessariamente o conhecimento. Frequentemente, é uma de suas condições.

5. O conhecimento como construção social e a questão da ideologia

A investigação da ilusão de profundidade explicativa ganha outra dimensão quando a relacionamos à produção social das ideias.

O indivíduo não pensa fora da história. Sua linguagem, suas categorias de interpretação e os problemas que considera importantes são formados em contextos sociais determinados.

A educação, o trabalho, as instituições políticas, os meios de comunicação e as relações econômicas participam da formação das representações por meio das quais interpretamos o mundo.

Essa observação permite aproximar o problema de uma tradição de crítica social associada a Karl Marx.

Na perspectiva marxiana, as ideias não podem ser compreendidas adequadamente quando são separadas das condições materiais e das relações sociais nas quais são produzidas e reproduzidas. Isso não significa reduzir mecanicamente toda ideia a um interesse econômico imediato, mas investigar como as formas de consciência se relacionam com a organização histórica da sociedade.

Em A Ideologia Alemã, Marx e Engels desenvolvem uma crítica às concepções que tratam as ideias como se fossem independentes das condições materiais da vida social.

Essa perspectiva oferece uma pergunta importante para o nosso tema: de que maneira determinadas explicações do mundo se tornam dominantes, familiares e aparentemente naturais?

Uma representação pode adquirir legitimidade por meio de instituições, práticas culturais, discursos públicos e relações de poder que favorecem sua circulação.

Com o tempo, aquilo que foi historicamente produzido pode parecer evidente, inevitável ou simplesmente decorrente da natureza das coisas.

A dimensão ideológica não consiste apenas na existência de afirmações conscientemente falsas. Pode envolver também a naturalização de relações sociais, a seleção de determinados aspectos da realidade e a ocultação de mecanismos que seriam necessários para compreender sua organização.

A ilusão de profundidade explicativa pode ser relacionada a esse problema, mas é importante não confundir os conceitos.

A pesquisa de Rozenblit e Keil trata de uma tendência cognitiva: superestimamos nossa compreensão de mecanismos complexos. A crítica marxiana da ideologia investiga relações históricas e sociais envolvidas na produção das representações e na reprodução da ordem social.

Não são a mesma coisa.

Entretanto, podemos formular uma hipótese interpretativa: quando uma representação socialmente difundida é aceita sem que seus mecanismos sejam examinados, a familiaridade com a explicação pode contribuir para que ela pareça mais evidente e necessária do que realmente é.

Pensemos em afirmações sobre o funcionamento da economia, a distribuição da riqueza, a organização do trabalho ou a autoridade política.

Uma pessoa pode acreditar que compreende as causas da pobreza, do desemprego ou das desigualdades porque domina uma narrativa simples sobre mérito, esforço individual, eficiência ou responsabilidade pessoal. Essas dimensões podem ser relevantes em situações concretas, mas não substituem a investigação das relações estruturais que também participam da produção dos fenômenos.

O problema aparece quando uma explicação parcial se apresenta como explicação total.

Para compreender uma sociedade, é necessário investigar as relações entre indivíduos e instituições, as condições históricas de produção, os mecanismos de distribuição de recursos, os conflitos de interesse e as formas pelas quais o poder se organiza.

Não basta encontrar uma narrativa que pareça coerente. É preciso examinar o que ela explica, o que deixa de explicar e quais evidências poderiam contrariá-la.

Essa exigência vale para todas as correntes políticas, inclusive aquelas com as quais nos identificamos.

Uma perspectiva crítica não pode reivindicar para si uma imunidade epistemológica. Se pretende investigar as condições materiais da existência e as formas de dominação, também precisa submeter suas próprias interpretações à análise, à argumentação e à revisão.

A crítica da ideologia perde sua força quando se transforma em mais uma certeza protegida contra o exame.

6. A civilização algorítmica e a aparência de conhecimento

A expansão dos sistemas digitais introduziu novas condições para a circulação e a organização do conhecimento.

Buscadores, plataformas de vídeo, redes sociais e sistemas de inteligência artificial tornaram possível acessar, em poucos segundos, explicações sobre assuntos que anteriormente exigiriam consultas demoradas a livros, bibliotecas e especialistas.

Essa transformação ampliou oportunidades de aprendizagem e democratizou parte do acesso à informação. Ao mesmo tempo, modificou a maneira pela qual entramos em contato com as explicações.

Em muitos ambientes digitais, a informação aparece pronta para consumo: resumida, organizada, ilustrada e adaptada a uma linguagem de fácil assimilação.

A complexidade de um fenômeno pode ser condensada em alguns minutos de vídeo, em uma sequência de imagens ou em um texto produzido em segundos.

Essa condensação não é necessariamente um problema. Uma boa explicação didática pode tornar acessível um assunto complexo sem sacrificar seus aspectos fundamentais. O problema surge quando a facilidade de acesso é confundida com a profundidade da compreensão adquirida.

Assistir a uma explicação sobre física quântica não significa dominar física quântica. Ler um resumo sobre a história do capitalismo não equivale a compreender os debates historiográficos e econômicos envolvidos. Receber uma resposta sofisticada de um sistema de inteligência artificial não garante que saibamos verificar seus argumentos.

A apresentação convincente de uma explicação pode produzir uma sensação de entendimento maior do que aquela sustentada pelo conhecimento efetivamente assimilado.

Aqui precisamos distinguir dois fenômenos.

O primeiro é a ilusão de profundidade explicativa propriamente dita: a superestimação da capacidade de explicar mecanismos causais.

O segundo é uma hipótese sobre determinadas condições tecnológicas contemporâneas: interfaces que tornam o conhecimento imediatamente acessível podem favorecer essa ilusão quando o usuário não distingue a obtenção de uma resposta da compreensão dos fundamentos que a sustentam.

A segunda afirmação é uma interpretação a investigar, e não uma conclusão automática do estudo original de 2002.

Ainda assim, ela nos permite formular uma questão relevante: o que acontece quando uma sociedade amplia extraordinariamente sua capacidade de obter respostas sem assegurar que seus integrantes desenvolvam, na mesma proporção, a capacidade de avaliá-las?

6.1. Os algoritmos e a organização da experiência

Os algoritmos de recomendação participam da seleção dos conteúdos que encontramos em determinados ambientes digitais. Dependendo da plataforma e de seu funcionamento, essa seleção pode considerar sinais como histórico de interação, preferências inferidas, características dos conteúdos e objetivos definidos pelo serviço.

Não existe um único algoritmo nem um mecanismo universal aplicável a todas as plataformas. Cada sistema opera segundo arquiteturas, objetivos e critérios próprios.

Entretanto, quando a seleção de conteúdos privilegia determinados padrões de engajamento, podem surgir incentivos para a circulação de materiais que despertam reações intensas, simplificam conflitos ou apresentam conclusões categóricas.

É necessário cuidado para não presumir que todo conteúdo popular seja superficial ou que toda recomendação algorítmica produza polarização. O efeito depende do contexto, do desenho da plataforma, do comportamento dos usuários e de outros fatores sociais.

O ponto que nos interessa é mais específico: a repetição de uma explicação pode aumentar sua familiaridade sem aumentar proporcionalmente sua fundamentação.

Ao encontrar sucessivamente uma mesma interpretação em vídeos, comentários, publicações e debates, o indivíduo pode começar a percebê-la como uma explicação amplamente confirmada. Entretanto, a multiplicidade de aparições não significa necessariamente multiplicidade de evidências independentes.

Dez publicações que reproduzem uma mesma afirmação sem verificação não equivalem a dez demonstrações autônomas de sua validade.

A circulação pode criar uma aparência de consenso, enquanto a compreensão dos mecanismos permanece incompleta.

6.2. A inteligência artificial e a terceirização da explicação

A inteligência artificial generativa acrescenta uma dimensão nova a esse problema.

Sistemas capazes de produzir textos coerentes, explicações organizadas e respostas aparentemente abrangentes podem funcionar como instrumentos importantes de aprendizagem. Podem ajudar a comparar interpretações, esclarecer conceitos, formular perguntas e identificar caminhos de investigação.

Mas também podem produzir um efeito ambíguo.

Quando recebemos uma explicação bem estruturada, podemos experimentar a satisfação intelectual associada à compreensão antes de termos realizado o trabalho necessário para assimilá-la.

A resposta está diante de nós. As relações entre as ideias parecem organizadas.

Os termos técnicos encontram seu lugar em uma narrativa coerente.

Todavia, a capacidade de acompanhar uma explicação não significa necessariamente que conseguimos reconstruí-la, avaliar suas premissas ou reconhecer seus limites.

Existe uma diferença entre compreender uma resposta durante sua leitura e possuir um conhecimento suficientemente integrado para utilizá-lo de maneira independente em outras situações.

A questão torna-se ainda mais importante porque sistemas generativos podem produzir informações incorretas, omitir condições relevantes ou apresentar hipóteses com uma segurança retórica superior à sua sustentação factual.

A fluência de uma resposta não constitui garantia de verdade.

Por isso, a relação intelectualmente produtiva com a inteligência artificial não consiste em rejeitar a ferramenta, mas em utilizá-la de maneira que preserve a atividade crítica do usuário.

Em vez de apenas solicitar respostas, podemos pedir que os mecanismos sejam explicados, que as premissas sejam explicitadas, que as objeções sejam consideradas e que as fontes possam ser verificadas.

A tecnologia pode ampliar nossa capacidade de compreender, desde que não confundamos a facilidade de obter uma explicação com a aquisição automática do conhecimento que ela apresenta.

7. A política e a ilusão de compreender os problemas públicos

A política constitui um campo particularmente importante para investigar a relação entre convicção e compreensão.

Questões como inflação, desemprego, tributação, criminalidade, políticas sociais, mudanças climáticas e organização do Estado envolvem sistemas causais complexos, nos quais diferentes fatores interagem e produzem consequências que variam conforme o contexto.

Entretanto, o debate público frequentemente exige posições rápidas e categóricas sobre esses problemas.

É possível defender uma política sem compreender detalhadamente seus mecanismos de funcionamento. Também é possível rejeitá-la com base em uma explicação intuitiva que ignora condições relevantes para avaliar seus efeitos.

Isso não significa que apenas especialistas possam participar legitimamente do debate político. A democracia depende da participação dos cidadãos, e as decisões públicas envolvem valores, interesses e experiências que não podem ser reduzidos ao conhecimento técnico.

A questão é outra: como formar julgamentos políticos responsáveis quando os problemas discutidos ultrapassam nossa compreensão imediata?

Uma contribuição importante para essa discussão surgiu em pesquisas posteriores sobre a relação entre a ilusão de profundidade explicativa e as atitudes políticas.

Em um estudo publicado em 2013, Philip Fernbach e colaboradores investigaram se solicitar às pessoas que explicassem como determinadas políticas públicas funcionariam poderia reduzir a intensidade de suas posições. Os resultados iniciais indicaram que o exercício de explicar mecanismos e consequências podia reduzir tanto a confiança no próprio entendimento quanto a extremidade de algumas opiniões políticas.

Em 2022, Steven Sloman e Marc-Lluís Vives voltaram a examinar essa relação.

Seus resultados indicaram que o efeito não era universal: a redução da extremidade das atitudes apareceu para questões fundamentadas em consequências, mas não para aquelas associadas a valores considerados inegociáveis. Os autores também discutiram as dificuldades de generalizar resultados anteriores.

Essas pesquisas sugerem uma possibilidade importante, mas não autorizam concluir que pedir explicações sempre reduz a polarização ou modifica qualquer convicção política.

O que podemos extrair delas é uma hipótese promissora: em determinadas circunstâncias, obrigar-nos a explicitar os mecanismos pelos quais acreditamos que uma política produz seus efeitos pode revelar lacunas, moderar a confiança e abrir espaço para uma avaliação mais cuidadosa.

Considere uma proposta econômica.

Em vez de perguntar apenas se somos favoráveis ou contrários a ela, podemos investigar:

• Qual problema específico a proposta pretende resolver?

• Por quais mecanismos ela produziria os resultados esperados?

• Quais condições precisam existir para que esses mecanismos funcionem?

• Quem receberia os benefícios e quem arcaria com os custos?

• Quais efeitos indiretos poderiam surgir?

• Que evidências nos fariam rever nossa avaliação?

Essas perguntas não eliminam os conflitos de valores nem substituem o debate político. Elas ajudam a distinguir uma preferência legítima de uma afirmação causal que precisa ser examinada.

Uma pessoa pode compreender os mecanismos de uma política e continuar discordando dela por razões morais, distributivas ou sociais. O conhecimento não determina automaticamente os valores que devemos adotar.

Entretanto, quando os argumentos dependem de previsões sobre o funcionamento do mundo, precisamos investigar se essas previsões possuem fundamento suficiente.

A maturidade democrática exige mais do que a liberdade de expressar convicções. Exige também condições para que as convicções possam ser discutidas, fundamentadas e revistas.

8. A fabricação de certezas nas comunidades digitais

As comunidades digitais podem ampliar o acesso a perspectivas diferentes,

aproximar pessoas com interesses comuns e favorecer a construção coletiva do conhecimento. Ao mesmo tempo, podem criar ambientes nos quais determinadas explicações são continuamente reforçadas e as interpretações divergentes são recebidas com desconfiança.

A formação de comunidades intelectuais não é, por si só, problemática. Pesquisadores, artistas, profissionais e cidadãos aprendem uns com os outros justamente porque compartilham experiências, discutem problemas e constroem referências comuns.

A dificuldade surge quando o pertencimento se torna um critério de validade.

Em um ambiente assim, a afirmação de uma pessoa considerada confiável pelo grupo pode ser aceita antes de qualquer exame de suas evidências. Uma interpretação contrária pode ser rejeitada por vir de alguém classificado como adversário, independentemente de sua qualidade argumentativa.

A avaliação do conteúdo passa a depender excessivamente da identidade de quem o apresenta.

A ilusão de profundidade explicativa pode ser reforçada quando os participantes compartilham explicações que parecem completas porque são mutuamente reconhecidas, embora não tenham sido submetidas a uma análise causal suficientemente rigorosa.

A certeza deixa de ser apenas uma experiência individual e passa a integrar a cultura do grupo.

É importante observar que esse processo não se restringe a movimentos políticos, religiosos ou ideológicos específicos. Pode ocorrer em comunidades científicas, círculos intelectuais, grupos profissionais, fandoms e espaços de discussão cultural.

Nenhum grupo humano está automaticamente protegido contra a tendência de superestimar sua compreensão.

Uma comunidade intelectualmente saudável precisa, portanto, preservar a possibilidade de discordância fundamentada, revisão de posições e reconhecimento público de erros.

O problema não é compartilhar convicções, mas impedir que elas sejam examinadas.

Quando uma comunidade considera a dúvida uma ameaça, a ignorância pode permanecer invisível por muito tempo, protegida pela concordância dos integrantes.

Quando a dúvida é entendida como parte da investigação, a comunidade pode transformar suas lacunas em oportunidades de aprendizagem.

9. O pensamento crítico como exercício de autoconhecimento

Diante dessas questões, seria tentador concluir que a solução consiste simplesmente em adquirir mais informações.

Entretanto, o problema não é apenas quantitativo. Uma pessoa pode acumular enorme quantidade de dados e continuar incapaz de avaliar a qualidade das próprias explicações.

O pensamento crítico exige não apenas conhecimento sobre o mundo, mas também uma avaliação contínua das condições pelas quais afirmamos conhecê-lo.

Nesse sentido, a ilusão de profundidade explicativa possui uma dimensão metacognitiva: ela diz respeito à relação entre o conhecimento que possuímos e a maneira como avaliamos esse conhecimento.

A metacognição envolve processos pelos quais monitoramos e avaliamos nossas próprias atividades cognitivas. No caso em questão, significa perguntar se a segurança que sentimos corresponde à capacidade de explicar aquilo que afirmamos compreender.

Podemos desenvolver esse exercício por meio de algumas práticas.

Primeira: tentar explicar antes de consultar novamente.

Quando acreditamos conhecer um assunto, podemos procurar descrevê-lo com nossas próprias palavras, identificando as relações entre suas partes. O objetivo não é produzir uma explicação perfeita, mas descobrir onde nossa compreensão se torna vaga.

Segunda: distinguir o que sabemos daquilo que inferimos.

Uma afirmação pode estar apoiada em evidências, em uma interpretação plausível ou apenas em uma impressão. Reconhecer essas diferenças torna nossas conclusões mais precisas.

Terceira: procurar mecanismos, não apenas resultados.

Saber que dois acontecimentos ocorreram simultaneamente não demonstra que um causou o outro. Precisamos investigar os processos que poderiam conectar os acontecimentos e considerar explicações alternativas.

Quarta: identificar as condições e os limites de uma explicação.

Uma teoria pode funcionar em determinadas circunstâncias e falhar em outras. Compreender um fenômeno envolve reconhecer não apenas onde uma explicação se aplica, mas também onde deixa de ser adequada.

Quinta: procurar objeções relevantes.

Uma explicação que nunca enfrenta dificuldades pode estar sendo protegida contra evidências contrárias. Investigar objeções fortes é uma maneira de testar a qualidade de nossas convicções.

Sexta: reconhecer quando dependemos de conhecimento especializado.

Não precisamos saber tudo. Precisamos, porém, distinguir aquilo que compreendemos diretamente daquilo em que confiamos porque depende do trabalho de outras pessoas.

Essas práticas não eliminam a possibilidade de erro. Elas podem, contudo, melhorar a correspondência entre nossa confiança e o conhecimento que efetivamente possuímos.

A finalidade do pensamento crítico não é produzir indivíduos permanentemente inseguros, incapazes de decidir ou agir. É permitir que a confiança se torne proporcional às razões que a sustentam.

10. A ignorância reconhecida e a possibilidade de transformação da consciência

Existe uma diferença importante entre desconhecer alguma coisa e reconhecer que a desconhecemos.

No primeiro caso, a lacuna pode permanecer invisível. No segundo, ela se torna um objeto possível de investigação.

Essa diferença possui implicações que ultrapassam a aquisição de informações.

Ela modifica a relação do sujeito com o próprio pensamento.

Quando descobrimos que não compreendemos inteiramente algo que julgávamos conhecer, somos confrontados com os limites das nossas representações. A realidade deixa de coincidir tão perfeitamente com o modelo que havíamos construído dela.

Esse momento pode produzir desconforto, mas também pode abrir uma possibilidade de transformação.

Não se trata de afirmar que toda descoberta de ignorância conduz ao conhecimento. Às vezes, as pessoas rejeitam a constatação, sentem-se ameaçadas ou procuram novas justificativas para preservar suas crenças.

Entretanto, quando conseguimos sustentar a pergunta sem recorrer imediatamente a uma resposta defensiva, surge um espaço para a investigação.

A consciência deixa de operar exclusivamente como instrumento de confirmação e passa a participar da revisão de suas próprias estruturas interpretativas.

Essa questão estabelece um diálogo possível com a fenomenologia, especialmente com a investigação de como o mundo aparece à experiência e de como nossas formas de compreensão condicionam aquilo que percebemos.

Em Fenomenologia da Percepção, Maurice Merleau-Ponty examina a relação entre corpo, percepção e mundo, contestando a ideia de que a experiência possa ser compreendida adequadamente como simples recepção de informações por uma consciência isolada.

Não seria correto atribuir diretamente a Merleau-Ponty uma teoria da ilusão de profundidade explicativa. A aproximação aqui é filosófica: nossas relações com a realidade não dependem apenas dos objetos que encontramos, mas também das estruturas perceptivas e interpretativas por meio das quais eles adquirem sentido.

Quando nossas interpretações são colocadas em questão, podemos descobrir aspectos da realidade que antes permaneciam ocultos pela familiaridade de nossas próprias categorias.

Nesse sentido, reconhecer os limites do saber pode constituir uma experiência de abertura.

O sujeito não se torna mais consciente porque passa a desconfiar de tudo, mas porque começa a perceber a distância entre a realidade e as representações que constrói para compreendê-la.

A consciência crítica exige, assim, uma disposição para permitir que o mundo desorganize, quando necessário, nossas certezas anteriores.

11. A contradição da civilização informacional

Chegamos, então, a uma contradição que merece ser examinada.

A sociedade contemporânea desenvolveu meios extraordinários para armazenar, processar, distribuir e recuperar informações. Sistemas digitais permitem acessar bibliotecas, bancos de dados científicos, documentos históricos e instrumentos de análise em uma escala sem precedentes.

Entretanto, a disponibilidade dessas capacidades não significa que cada indivíduo possua uma compreensão proporcional da complexidade que elas tornam acessível.

O conhecimento está distribuído entre pessoas, instituições, máquinas, arquivos e redes de colaboração. Essa distribuição é uma das condições do desenvolvimento das sociedades modernas, e não um defeito que pudesse ser eliminado.

Nenhum indivíduo precisa internalizar todo o conhecimento acumulado pela humanidade para participar de sua construção.

O desafio está em compreender a natureza dessa dependência.

Podemos utilizar instrumentos cujo funcionamento não dominamos, confiar em especialistas e recorrer a sistemas que executam operações que não conseguiríamos reproduzir manualmente. Essa é uma característica normal de uma sociedade complexa.

O risco surge quando a dependência funcional é confundida com compreensão pessoal.

Utilizar uma ferramenta não equivale a dominar seus fundamentos. Acessar uma base de dados não significa compreender todos os seus conteúdos. Receber uma síntese não garante que tenhamos assimilado as relações que a sustentam.

A civilização informacional pode ampliar simultaneamente nossa capacidade coletiva de conhecer e a distância entre aquilo que está disponível socialmente e aquilo que cada indivíduo compreende de fato.

Essa não é uma contradição inevitável nem uma condenação da tecnologia. É uma tensão que precisa ser enfrentada por meio da educação, da cultura científica, do debate público e do desenvolvimento de práticas intelectuais que valorizem a compreensão, não apenas a obtenção de respostas.

O problema não é vivermos em um mundo no qual ninguém pode saber tudo.

O problema é construirmos uma cultura na qual a necessidade de reconhecer os limites do próprio conhecimento seja interpretada como fraqueza, enquanto a segurança retórica recebe recompensas sociais.

Quando isso acontece, a aparência de domínio pode adquirir mais valor do que o trabalho de compreender.

12. Uma crítica da certeza na civilização algorítmica

A civilização algorítmica não é definida apenas pela presença de computadores, plataformas digitais ou sistemas de inteligência artificial. Ela também envolve transformações na maneira como informações são selecionadas, decisões são tomadas, comportamentos são classificados e experiências são organizadas por sistemas computacionais.

Nesse contexto, a produção social das certezas adquire novas condições.

A circulação de explicações pode ser acelerada por mecanismos automatizados.

As interfaces tornam determinados conteúdos mais acessíveis do que outros.

Sistemas de recomendação podem favorecer algumas formas de atenção, enquanto a abundância de materiais disponíveis dificulta a seleção criteriosa daquilo que merece ser examinado.

Mas seria simplista atribuir aos algoritmos a responsabilidade exclusiva pelos problemas que discutimos.

As tecnologias são desenvolvidas e utilizadas dentro de instituições, mercados, estruturas políticas e relações sociais. Seus efeitos dependem tanto de características técnicas quanto dos objetivos humanos e organizacionais que orientam sua implementação.

A crítica precisa considerar essa articulação.

Sob uma perspectiva de crítica social, podemos perguntar quais formas de conhecimento são valorizadas, quais conteúdos recebem maior visibilidade e quais interesses econômicos participam da organização dos ambientes informacionais.

Sob uma perspectiva epistemológica, precisamos investigar se as condições de acesso à informação favorecem a compreensão ou apenas a familiaridade com explicações prontas.

Sob uma perspectiva política, cabe perguntar se a circulação de informações amplia a capacidade de participação consciente ou se contribui para ambientes nos quais posições categóricas são mais facilmente reproduzidas do que argumentos cuidadosamente fundamentados.

Essas perguntas não possuem uma resposta única. Dependem de pesquisas sobre plataformas específicas, práticas de uso, condições de acesso e efeitos observados.

Ainda assim, elas permitem identificar uma questão central para o nosso tempo: a capacidade de uma sociedade produzir e distribuir informações não é idêntica à sua capacidade de formar sujeitos capazes de compreender criticamente a realidade.

A primeira depende de infraestrutura, processamento e circulação. A segunda exige também educação, tempo, investigação, debate e disposição para revisar convicções.

A tecnologia pode contribuir para ambas, mas não existe garantia de que avancem na mesma proporção.

É possível construir sistemas cada vez mais eficientes para produzir respostas sem construir, automaticamente, uma cultura capaz de avaliar a qualidade dessas respostas.

É possível ampliar o alcance das informações e, ao mesmo tempo, manter frágeis os mecanismos pelos quais elas são examinadas.

É possível tornar a linguagem do conhecimento mais acessível sem tornar igualmente acessíveis todos os procedimentos necessários para compreender seus fundamentos.

Essa é uma das tensões fundamentais da civilização algorítmica: a distância entre a potência técnica de processar informações e a capacidade humana de atribuir-lhes sentido, avaliar sua confiabilidade e compreender suas consequências.

Conclusão — O saber começa onde termina a ilusão

A Ilusão de Profundidade Explicativa oferece uma contribuição importante para compreendermos os limites do conhecimento humano. Seu valor não está em demonstrar que as pessoas sabem pouco sobre tudo, mas em revelar que nossa percepção da própria compreensão pode ser imprecisa, especialmente quando precisamos explicar mecanismos causais complexos.

Ao transportar essa descoberta para a sociedade contemporânea, encontramos relações possíveis com a psicologia das massas, a dissonância cognitiva, a produção social das ideias, a polarização política e as transformações tecnológicas que organizam a circulação da informação.

Essas relações não devem ser tratadas como consequências automáticas de um único mecanismo psicológico. Cada fenômeno possui sua história, seus conceitos e suas condições específicas. Entretanto, quando examinados em conjunto, ajudam a formular uma questão mais abrangente sobre a maneira como construímos e preservamos nossas convicções.

Uma sociedade pode dispor de instrumentos extraordinários de acesso ao conhecimento e continuar enfrentando dificuldades para distinguir explicações fundamentadas de narrativas apenas convincentes.

Pode produzir enormes quantidades de informação sem garantir que seus cidadãos compreendam os mecanismos que organizam os fenômenos discutidos.

Pode transformar a expressão da opinião em uma atividade permanente e, ainda assim, oferecer poucas condições para que as opiniões sejam examinadas em profundidade.

A resposta não consiste em exigir que cada indivíduo se torne especialista em todos os assuntos. Isso seria impossível e desnecessário. Consiste em desenvolver uma cultura intelectual na qual seja legítimo reconhecer limites, formular perguntas, buscar evidências e revisar posições.

A maturidade do conhecimento não se mede apenas pela quantidade de respostas que conseguimos oferecer. Mede-se também pela capacidade de identificar as perguntas que ainda não sabemos responder.

Talvez seja necessário recuperar uma ideia frequentemente esquecida na vida pública: admitir que não compreendemos inteiramente um fenômeno não representa necessariamente uma derrota intelectual. Pode ser o primeiro passo para compreendê-lo de maneira mais rigorosa.

A certeza não é sempre inimiga do conhecimento, assim como a dúvida não é sempre sinal de inteligência. O problema começa quando a convicção se torna impermeável à investigação e a dúvida deixa de ser reconhecida como parte legítima do processo de conhecer.

Precisamos aprender a distinguir a segurança que nasce de uma compreensão fundamentada daquela que resulta apenas da familiaridade, da repetição ou do reconhecimento coletivo.

Essa distinção torna-se especialmente importante em uma sociedade na qual as explicações circulam em grande velocidade e podem alcançar milhões de pessoas antes que seus fundamentos sejam examinados.

A questão fundamental, portanto, não é apenas saber se temos acesso à informação, mas compreender que tipo de relação intelectual estabelecemos com ela.

O conhecimento exige mais do que a disponibilidade de conteúdos. Exige a capacidade de examiná-los, relacioná-los, confrontá-los com a realidade e reconhecer seus limites.

E talvez seja justamente nesse ponto que a crítica da ilusão de profundidade explicativa ultrapasse a psicologia e alcance uma questão essencial da consciência: a possibilidade de perceber que o mundo é sempre mais complexo do que as representações que construímos para compreendê-lo.

A verdadeira transformação intelectual não começa quando acumulamos respostas suficientes para eliminar todas as dúvidas. Começa quando desenvolvemos a disposição de investigar aquilo que acreditávamos já conhecer.

Saber não é apenas possuir uma explicação. É compreender por que ela pode ser verdadeira, em quais condições permanece válida e diante de quais evidências precisaríamos modificá-la.

Em uma época na qual a aparência de conhecimento pode circular com a mesma velocidade que a informação, reconhecer os limites do próprio saber torna-se não apenas uma virtude intelectual, mas uma condição para o exercício da autonomia crítica.

A civilização algorítmica necessita de sistemas capazes de processar informações.

Uma sociedade intelectualmente madura necessita também de indivíduos capazes de questionar as explicações que esses sistemas, suas instituições e suas próprias comunidades colocam diante deles.

Entre a informação recebida e o conhecimento construído existe um trabalho que nenhuma aparência de certeza pode substituir: o trabalho de compreender.

Referências bibliográficas

FESTINGER, Leon. A Theory of Cognitive Dissonance. Stanford: Stanford University Press, 1957.

LE BON, Gustave. Psychologie des foules. Paris: Félix Alcan, 1895. Publicado em português sob o título Psicologia das Massas.

MARX, Karl; ENGELS, Friedrich. A Ideologia Alemã. Obra escrita em 1845–1846.

MERLEAU-PONTY, Maurice. Fenomenologia da Percepção. Publicado originalmente em 1945.

ROZENBLIT, Leonid; KEIL, Frank. The misunderstood limits of folk science: an illusion of explanatory depth. Cognitive Science, v. 26, n. 5, p. 521–562, 2002. DOI: 10.1207/S15516709COG2605_1.

FERNBACH, Philip M. et al. Political extremism is supported by an illusion of understanding. Psychological Science, v. 24, n. 6, p. 939–946, 2013.

SLOMAN, Steven A.; VIVES, Marc-Lluís. Is political extremism supported by an illusion of understanding? Cognition, v. 225, art. 105146, 2022.

Leituras científicas complementares

• Rozenblit e Keil, artigo original sobre a Ilusão de Profundidade Explicativa: https://pmc.ncbi.nlm.nih.gov/articles/PMC3062901/

• Sloman e Vives, estudo sobre compreensão e extremismo político: https://pubmed.ncbi.nlm.nih.gov/35533417/

Nota editorial: as relações entre a ilusão cognitiva, a ideologia e a civilização algorítmica desenvolvidas neste ensaio constituem uma interpretação interdisciplinar. Não devem ser confundidas com resultados diretamente demonstrados pelos estudos experimentais citados.