A Teoria da Estupidez na Era dos Algorítmos

Dietrich Bonhoeffer, a perda do pensamento próprio e o nascimento de uma nova forma de servidão

Há ideias que atravessam o tempo porque não pertencem inteiramente à época em que foram formuladas. Elas permanecem adormecidas, esperando que a

História produza novamente as condições necessárias para que possamos compreendê-las.

A reflexão de Dietrich Bonhoeffer sobre a estupidez é uma dessas ideias.

Escrita no contexto sombrio da Alemanha nazista, durante os anos em que o totalitarismo havia transformado a sociedade alemã e milhões de indivíduos haviam passado a aceitar, repetir ou executar aquilo que, em outras circunstâncias, talvez jamais aceitassem, sua reflexão não pretendia construir uma teoria psicológica da inteligência.

Bonhoeffer estava interessado em algo muito mais inquietante.

Ele queria compreender como uma pessoa aparentemente racional pode abandonar a própria capacidade de julgamento.

E talvez seja justamente por isso que suas palavras tenham adquirido uma atualidade desconcertante.

Porque vivemos em uma época na qual nunca tivemos acesso a tanta informação — e, paradoxalmente, talvez nunca tenhamos sido tão vulneráveis àquilo que os outros pensam por nós.

A estupidez não é falta de inteligência

Para Bonhoeffer, a estupidez não deve ser confundida simplesmente com ignorância ou deficiência intelectual.

Uma pessoa pode possuir inteligência, formação, cultura e capacidade argumentativa e, ainda assim, tornar-se estúpida.

O fenômeno acontece quando o indivíduo deixa de pensar por si mesmo.

A inteligência continua presente. O que desaparece é a autonomia do julgamento.

Essa distinção é fundamental.

O indivíduo deixa de perguntar:

“Isso é verdadeiro?”

e passa a perguntar:

“O que todos estão dizendo que é verdadeiro?”

A mudança parece pequena.

Não é.

Porque, no primeiro caso, existe um sujeito examinando o mundo.

No segundo, existe alguém procurando no mundo a confirmação daquilo que já lhe foi entregue como verdade.

É nesse ponto que a estupidez deixa de ser uma característica individual e passa a adquirir uma dimensão política.

O indivíduo pode ser capturado pelo coletivo

Bonhoeffer percebeu algo extraordinariamente moderno: determinadas estruturas de poder não precisam necessariamente convencer cada indivíduo através de argumentos.

Elas precisam apenas produzir um ambiente no qual determinadas ideias se tornem tão dominantes que questioná-las passe a parecer absurdo.

O indivíduo começa então a pensar através do grupo.

A opinião coletiva transforma-se em uma espécie de prótese do pensamento.

Não é mais necessário investigar.

Não é mais necessário duvidar.

Não é mais necessário comparar fontes.

Não é mais necessário suportar a desconfortável experiência de permanecer diante de uma pergunta sem resposta.

Basta repetir.

E quanto mais pessoas repetem, mais verdadeira a afirmação parece.

Aqui encontramos uma das engrenagens fundamentais da sociedade de massas:

a repetição produz familiaridade; a familiaridade produz reconhecimento; o reconhecimento passa a ser confundido com verdade.

Bonhoeffer estava observando esse mecanismo em uma sociedade submetida à propaganda totalitária.

Nós o encontramos hoje em escala planetária.

De Goebbels ao algoritmo

Existe, evidentemente, uma diferença histórica gigantesca entre a propaganda nazista e o ambiente digital contemporâneo.

Seria intelectualmente irresponsável simplesmente equipará-los.

Mas existe uma pergunta que merece ser feita:

o que acontece quando a função de selecionar aquilo que merece nossa atenção deixa de ser exercida predominantemente por instituições humanas e passa a ser parcialmente executada por sistemas algorítmicos?

A questão não é apenas aquilo que o algoritmo nos mostra.

É aquilo que ele deixa de nos mostrar.

Em uma sociedade saturada de informação, ninguém consegue consumir tudo.

Consequentemente, toda arquitetura informacional precisa realizar uma seleção.

Alguma coisa aparece.

Outra desaparece.

Alguma opinião recebe milhões de visualizações.

Outra permanece invisível.

Algum acontecimento transforma-se em assunto mundial.

Outro, ocorrido no mesmo dia, praticamente desaparece.

A questão política fundamental deixa então de ser apenas:

“Quem controla a informação?”

e passa a ser:

“Quem controla a arquitetura da visibilidade?”

A nova estupidez não precisa proibir o pensamento

É aqui que Bonhoeffer encontra o nosso presente.

Um poder tradicional pode dizer:

“Você não pode pensar isso.”

Um poder mais sofisticado pode produzir um ambiente no qual você simplesmente não encontre razões para pensar outra coisa.

Não é necessário censurar todas as ideias.

Basta organizar a circulação delas.

Não é necessário impedir todas as perguntas.

Basta fazer com que determinadas perguntas jamais alcancem aqueles que poderiam formulá-las.

Não é necessário destruir a informação.

Basta inundar o ambiente com tanta informação que a distinção entre informação relevante e ruído se torne praticamente impossível.

A censura clássica dizia:

“Você não verá isso.”

A abundância algorítmica pode produzir algo mais sofisticado:

“Você verá tantas coisas que não conseguirá perceber aquilo que importa.”

O paradoxo da sociedade hiperconectada

Chegamos então a um dos grandes paradoxos da Civilização Algorítmica.

Estamos conectados como nunca.

Mas conexão não significa compreensão.

Temos acesso instantâneo a acontecimentos ocorridos no outro lado do planeta.

Mas acesso não significa conhecimento.

Podemos consultar milhões de documentos em segundos.

Mas informação não significa pensamento.

E talvez o mais perigoso:

podemos expressar uma opinião a qualquer momento, sem jamais termos sido obrigados a formar um pensamento próprio.

O indivíduo contemporâneo é constantemente convidado a reagir.

Curtir.

Compartilhar.

Comentar.

Responder.

Tomar posição.

Escolher um lado.

Indignar-se.

Celebrar.

Condenar.

A velocidade dessas operações é incompatível com a reflexão profunda.

Pensar exige tempo.

O algoritmo trabalha com velocidade.

Pensar exige silêncio.

A economia da atenção trabalha com estímulo.

Pensar exige dúvida.

Os sistemas de engajamento recompensam a certeza, a polarização e a reação.

Talvez esteja aqui uma das formas mais sofisticadas de estupidez produzidas pela modernidade:

não a incapacidade de pensar, mas a incapacidade de permanecer tempo suficiente em silêncio para pensar.

O algoritmo não precisa nos tornar ignorantes

Essa talvez seja a parte mais inquietante.

O objetivo de um sistema algorítmico de recomendação não precisa ser produzir ignorância.

Ele pode produzir algo muito mais eficiente:

uma inteligência permanentemente ocupada.

O indivíduo lê.

Assiste.

Comenta.

Pesquisa.

Compartilha.

Discute.

Consome podcasts, vídeos, notícias, ensaios, opiniões e análises.

Está permanentemente informado sobre alguma coisa.

Mas talvez nunca tenha tempo para perguntar:

“O que estou fazendo com tudo isso que sei?”

A acumulação de informações pode conviver perfeitamente com a ausência de reflexão.

E é exatamente aí que a intuição de Bonhoeffer se torna extraordinariamente contemporânea.

Porque a estupidez, nesse sentido, não é o oposto da inteligência.

Ela pode ser a inteligência desprovida de autonomia.

Quando pensar se torna um ato de resistência

Talvez seja necessário recuperar uma ideia quase esquecida:

pensar é um ato político.

Não porque todo pensamento precise transformar-se em militância.

Mas porque pensar significa conservar a capacidade de interromper o fluxo.

Significa poder dizer:

“Não sei.”

“Preciso verificar.”

“Talvez eu esteja errado.”

“Não concordo com meu próprio grupo.”

“Não aceito essa conclusão apenas porque milhares de pessoas a repetem.”

“Preciso compreender antes de reagir.”

Essas frases parecem banais.

Em uma sociedade orientada pela velocidade, entretanto, elas são quase revolucionárias.

O pensamento começa justamente onde termina a reação automática.

A estupidez como produto social

Talvez seja esse o ponto no qual precisamos ir além de Bonhoeffer.

Se em seu tempo a estupidez podia ser intensificada pelo pertencimento a movimentos de massa, pela propaganda e pela submissão à autoridade, hoje podemos acrescentar uma nova camada:

a estupidez pode ser sistematicamente amplificada por arquiteturas digitais.

Isso não significa que os algoritmos “criem pessoas estúpidas”.

Significa algo mais complexo.

Eles podem favorecer determinados comportamentos.

Podem recompensar determinadas formas de expressão.

Podem privilegiar conteúdos capazes de provocar reação.

Podem transformar indignação em métrica.

Podem converter atenção em mercadoria.

E quando uma sociedade inteira passa a viver dentro dessas arquiteturas, aquilo que inicialmente era apenas uma característica técnica transforma-se em uma força social.

O algoritmo deixa então de ser apenas ferramenta.

Torna-se ambiente.

E quando o ambiente começa a organizar aquilo que percebemos, desejamos e discutimos, ele participa silenciosamente da construção da realidade social.

A nova servidão não precisa de correntes

Os antigos regimes de dominação precisavam, muitas vezes, de instituições visíveis.

Exército.

Polícia.

Censura.

Prisão.

Tribunais.

A sociedade digital acrescentou formas muito mais sutis de controle.

A recompensa.

A notificação.

A recomendação.

O ranking.

O like.

A viralização.

A personalização.

O medo de desaparecer.

O desejo de reconhecimento.

A necessidade de pertencimento.

O indivíduo não precisa ser obrigado a permanecer dentro do sistema.

Ele pode desejar permanecer.

Pode trabalhar gratuitamente para alimentá-lo.

Pode produzir os próprios conteúdos que serão utilizados para capturá-lo.

Pode defender apaixonadamente a própria arquitetura de dependência.

É aqui que a reflexão de Bonhoeffer ganha uma dimensão quase profética.

Porque o poder mais eficiente talvez não seja aquele que obriga o indivíduo a obedecer.

É aquele que consegue fazer com que o indivíduo confunda obediência com liberdade.

Contra a estupidez: recuperar a interioridade

Talvez a resposta não esteja em abandonar a tecnologia.

Nem em cultivar uma nostalgia impossível de um mundo pré-digital.

A questão não é voltar ao passado.

É recuperar uma capacidade humana que nenhuma tecnologia deveria substituir:

a capacidade de julgar.

Precisamos reaprender a interromper.

A desconfiar.

A investigar.

A permanecer diante de uma pergunta.

A suportar a solidão intelectual.

A discordar.

A mudar de opinião.

A reconhecer que o algoritmo conhece nossos padrões de comportamento, mas não conhece necessariamente aquilo que somos.

E, sobretudo, precisamos recuperar o direito de não reagir imediatamente.

Porque uma civilização que transforma toda experiência em estímulo e toda resposta em dado corre o risco de perder justamente aquilo que torna o ser humano humano:

a interioridade.

Bonhoeffer diante do século XXI

Dietrich Bonhoeffer morreu em 1945, executado pelo regime nazista poucas semanas antes do fim da guerra.

Ele não conheceu a televisão como hoje a conhecemos.

Não conheceu a internet.

Não conheceu as redes sociais.

Não conheceu inteligência artificial.

Não poderia ter imaginado um mundo no qual bilhões de seres humanos carregariam no bolso dispositivos capazes de registrar, processar e transmitir praticamente qualquer fragmento da experiência humana.

Mas ele compreendeu algo que continua absolutamente atual:

uma sociedade pode destruir a autonomia do indivíduo sem necessariamente destruir sua inteligência.

E talvez essa seja uma das maiores ameaças do nosso tempo.

Não estamos diante de uma humanidade que deixou de pensar porque não possui informação.

Estamos diante de uma humanidade que corre o risco de deixar de pensar porque não consegue mais escapar do fluxo permanente de informação.

A estupidez do século XXI talvez não seja aquela do homem que nada sabe.

Talvez seja a do homem que sabe um pouco de tudo, repete aquilo que recebeu de todos e já não consegue distinguir entre aquilo que descobriu e aquilo que simplesmente lhe foi colocado diante dos olhos.

Bonhoeffer nos deixou uma advertência.

Nós precisamos decidir o que faremos com ela.

Porque talvez, em uma época na qual máquinas aprendem cada vez mais sobre nós, a verdadeira questão não seja se continuaremos inteligentes.

A questão seja outra:

continuaremos capazes de pensar por nós mesmos?