O Sujeito Algorítmico -Quando o indivíduo passou a administrar a si mesmo

Uma genealogia do poder, do sujeito moderno à inteligência artificial

Há uma transformação silenciosa acontecendo diante de nós.

Não se trata apenas da expansão das redes sociais, da inteligência artificial, dos algoritmos de recomendação ou da vigilância digital. Essas tecnologias são apenas a superfície visível de uma transformação muito mais profunda: a modificação da própria maneira pela qual o indivíduo contemporâneo se relaciona consigo mesmo, com os outros e com o mundo.

Durante séculos, o poder foi reconhecido sobretudo por sua capacidade de proibir, punir, vigiar e disciplinar. Havia instituições, fronteiras, muros, autoridades e regras. O indivíduo sabia, com relativa clareza, onde começava a autoridade e onde terminava sua própria liberdade.

Hoje, essa fronteira tornou-se muito mais difícil de localizar.

O poder contemporâneo não precisa necessariamente ordenar.

Pode sugerir.

Não precisa proibir.

Pode recomendar.

Não precisa vigiar permanentemente.

Pode fazer com que o próprio indivíduo produza voluntariamente as informações através das quais será observado.

E talvez a transformação mais radical seja esta: o poder já não precisa conhecer apenas aquilo que fizemos. Ele deseja conhecer aquilo que provavelmente faremos.

É nesse ponto que o sujeito contemporâneo começa a adquirir uma nova condição: a de sujeito algorítmico.

1. Antes do algoritmo: a longa história do controle

Para compreender o presente, é necessário recuar.

Michel Foucault mostrou que o poder moderno não poderia ser compreendido apenas como uma força exercida de cima para baixo. A modernidade desenvolveu dispositivos capazes de produzir comportamentos, hábitos e subjetividades.

A escola, a fábrica, o quartel, o hospital e a prisão não eram simplesmente lugares onde pessoas eram reunidas. Eram máquinas sociais de organização do tempo, do espaço e dos corpos.

O indivíduo moderno aprendeu a chegar no horário, sentar-se em determinado lugar, cumprir tarefas, obedecer a procedimentos, produzir segundo normas e avaliar sua própria conduta.

O poder disciplinar produzia sujeitos previsíveis.

Mas algo começou a mudar.

Gilles Deleuze percebeu essa mutação em seu célebre texto sobre as sociedades de controle. Em vez de instituições fechadas, começava a surgir uma forma de poder mais fluida, contínua e moduladora.

A fábrica cedia espaço à empresa.

O confinamento começava a ser substituído pela circulação.

A identidade fixa começava a dar lugar a uma multiplicidade de registros.

O indivíduo deixava de ser apenas uma pessoa localizada dentro de uma instituição e passava a ser acompanhado através de seus fluxos.

O que Deleuze percebeu no final do século XX hoje aparece diante de nós em uma escala que talvez ele próprio não pudesse prever.

O controle deixou de precisar de paredes.

Agora ele viaja conosco.

Está no telefone.

No relógio.

No navegador.

No cartão de crédito.

No mecanismo de busca.

No aplicativo de transporte.

Na plataforma de música.

Na plataforma de vídeo.

Na inteligência artificial que responde às nossas perguntas.

A sociedade de controle tornou-se uma sociedade de dados.

2. Do indivíduo disciplinado ao indivíduo otimizado

Mas a transformação não ocorreu apenas na tecnologia.

Ela ocorreu dentro do próprio indivíduo.

É aqui que Byung-Chul Han se torna fundamental.

O sujeito contemporâneo não é simplesmente aquele que recebe ordens. É aquele que transforma a própria vida em projeto de desempenho.

Ele precisa melhorar.

Produzir mais.

Aprender mais.

Ganhar mais.

Exibir mais.

Viajar mais.

Cuidar mais do corpo.

Desenvolver competências.

Construir uma marca pessoal.

Ser interessante.

Ser produtivo.

Ser feliz.

Ser permanentemente atual.

A coerção exterior foi parcialmente substituída por uma coerção interior.

O indivíduo tornou-se simultaneamente trabalhador, empresário e fiscal de si mesmo.

A crítica de Han à psicopolítica aponta precisamente para essa mudança: as tecnologias digitais não apenas acompanham comportamentos; elas participam da produção da subjetividade. Estudos dedicados à sua obra destacam justamente essa capacidade das tecnologias digitais de estimular participação contínua e influenciar a formação subjetiva.

A velha pergunta era:

“O que o poder quer que eu faça?”

A nova pergunta tornou-se:

“O que preciso fazer para ser melhor do que sou?”

Parece liberdade.

E, em certo sentido, é.

Mas é uma liberdade que pode ser economicamente capturada.

O sujeito trabalha sobre si mesmo.

E, ao trabalhar sobre si mesmo, transforma-se em mercadoria.

3. O paradoxo da liberdade

Aqui aparece um dos grandes paradoxos do nosso tempo.

Nunca tivemos tantas possibilidades individuais de escolha.

E talvez nunca tenhamos estado tão profundamente submetidos a sistemas que organizam essas escolhas.

Podemos escolher entre milhares de músicas.

Milhões de vídeos.

Centenas de filmes.

Milhares de produtos.

Inúmeros destinos.

Aplicativos.

Relacionamentos.

Cursos.

Profissões.

Opiniões.

Mas quem organiza a arquitetura dessas possibilidades?

A liberdade contemporânea frequentemente aparece como uma enorme vitrine.

Escolhemos livremente entre opções que não necessariamente escolhemos produzir.

É uma diferença fundamental.

O capitalismo contemporâneo descobriu que não precisa eliminar a liberdade para governá-la.

Pode organizar o campo dentro do qual a liberdade se exerce.

É nesse ponto que Deleuze e Han podem ser colocados em diálogo.

O controle não precisa mais ser uma barreira.

Pode ser uma modulação.

Não precisa dizer:

“Não faça isso.”

Pode simplesmente fazer com que outra coisa apareça primeiro.

4. O indivíduo como consumidor de possibilidades

Gilles Lipovetsky ajuda a compreender outra dimensão desse processo.

A sociedade hipermoderna é marcada pela intensificação da lógica individualista, da inovação, do consumo e da busca por experiências. O indivíduo contemporâneo já não vive apenas para possuir objetos; ele consome experiências, sensações, estilos, identidades e possibilidades. A própria literatura sobre Lipovetsky caracteriza a hipermodernidade como uma intensificação do projeto moderno, associada à expansão do consumo e à individualização.

O mercado percebeu algo decisivo:

não precisamos mais vender somente produtos.

Podemos vender versões possíveis de nós mesmos.

Uma roupa oferece uma identidade.

Uma viagem oferece uma narrativa.

Um aplicativo oferece uma rotina.

Uma rede social oferece visibilidade.

Uma plataforma oferece pertencimento.

Uma inteligência artificial oferece assistência intelectual.

O mercado começa a vender não apenas objetos, mas possibilidades de existência.

O indivíduo consome aquilo que imagina poder tornar-se.

E quanto mais possibilidades aparecem, mais urgente parece a necessidade de escolher.

Surge então uma nova forma de ansiedade:

não o medo de não ter opções, mas o medo de escolher a opção errada.

5. O sujeito sem centro

Dany-Robert Dufour radicaliza essa discussão ao investigar as transformações antropológicas produzidas pelo neoliberalismo.

O problema já não é apenas econômico.

É antropológico.

Que tipo de indivíduo uma sociedade fundada na concorrência permanente produz?

Um indivíduo cada vez mais responsabilizado por seu próprio destino.

Se fracassa, fracassou sozinho.

Se não prospera, faltou esforço.

Se não é feliz, não soube administrar a própria vida.

Se não consegue acompanhar a velocidade do mundo, precisa atualizar-se.

A sociedade pode desaparecer atrás da responsabilidade individual.

E aqui reencontramos uma questão marxista fundamental.

O capitalismo não produz apenas mercadorias.

Produz relações sociais.

Produz formas de trabalho.

Produz desejos.

Produz necessidades.

Produz subjetividades.

O sujeito não está fora do sistema econômico que o envolve.

Ele é produzido dentro dele.

6. Marx encontra o algoritmo

Karl Marx jamais conheceu um computador.

Mas sua crítica permanece extraordinariamente atual porque o objeto fundamental de sua análise não era uma máquina específica.

Era uma relação social.

O capital transforma a atividade humana em valor.

No capitalismo industrial, a força de trabalho tornou-se uma mercadoria central.

No capitalismo digital, a atividade cotidiana passou a produzir uma nova matéria-prima: dados.

Cada busca.

Cada clique.

Cada deslocamento.

Cada preferência.

Cada permanência diante de uma tela.

Cada compra.

Cada interação.

Cada imagem.

Cada palavra.

Tudo pode transformar-se em informação economicamente processável.

Shoshana Zuboff denominou essa lógica de capitalismo de vigilância: um sistema econômico no qual a experiência humana é transformada em matéria-prima para práticas de previsão e intervenção comportamental. Ela também argumenta que essa estrutura adquiriu dimensão política, afetando os próprios espaços democráticos de informação.

A diferença em relação ao capitalismo industrial é impressionante.

Antes, o trabalhador vendia sua força de trabalho durante determinado período.

Agora, sua própria existência cotidiana pode produzir valor informacional continuamente.

O trabalho termina.

O dado continua.

7. Do conhecimento do passado à previsão do futuro

Aqui chegamos ao ponto decisivo.

O algoritmo não está interessado apenas no passado.

O passado é importante porque permite calcular probabilidades futuras.

O que assistimos ontem ajuda a prever o que poderemos assistir amanhã.

O que compramos ajuda a prever o que poderemos comprar.

Onde estivemos ajuda a prever onde poderemos ir.

Quem seguimos ajuda a prever quem poderemos seguir.

O passado torna-se matéria-prima para a construção estatística do futuro.

É nesse momento que a sociedade de controle alcança uma nova dimensão.

A antiga vigilância dizia:

“Eu sei onde você está.”

A vigilância algorítmica pode dizer:

“Eu sei onde você provavelmente estará.”

A diferença parece pequena.

Não é.

Ela modifica a própria natureza do poder.

Porque conhecer o comportamento é uma coisa.

Antecipar o comportamento é outra.

E influenciá-lo antes que aconteça é uma terceira.

8. A inteligência artificial e o fim da espera

A inteligência artificial acrescenta algo novo a esse processo.

Durante muito tempo, o computador calculava.

Depois passou a pesquisar.

Depois passou a recomendar.

Agora passou a produzir.

Texto.

Imagem.

Música.

Código.

Diagnósticos.

Resumos.

Estratégias.

Hipóteses.

A máquina entrou em uma região que durante muito tempo consideramos exclusivamente humana: a produção simbólica.

Isso não significa que a máquina tenha adquirido consciência.

Mas significa que a sociedade começou a delegar às máquinas uma parte crescente das operações através das quais produzimos sentido.

E aqui surge uma questão que talvez seja mais importante do que a própria pergunta sobre se a IA substituirá empregos:

o que acontece quando começamos a terceirizar não apenas nosso trabalho, mas parcelas do nosso julgamento?

O problema não é simplesmente uma máquina pensar.

É o ser humano começar a aceitar que determinadas coisas não precisam mais ser pensadas por ele.

A diferença é enorme.

9. Quando a recomendação se torna antecipação

Durante décadas, a cultura digital nos ofereceu recomendações.

“Talvez você goste deste filme.”

“Talvez você goste desta música.”

“Pessoas como você compraram este produto.”

Parecia apenas conveniência.

Mas o sistema aprendia.

Aprendia nossos hábitos.

Nossas preferências.

Nossos horários.

Nossas hesitações.

Nossos padrões.

A recomendação era apenas a superfície comercial de uma operação muito mais profunda: a construção de um modelo probabilístico do indivíduo.

A IA generativa leva esse processo a outro nível.

Ela pode produzir algo que não existia antes em resposta a uma solicitação que talvez o indivíduo sequer soubesse formular sozinho.

Nesse sentido, a IA não apenas responde ao desejo.

Ela pode participar da formulação do desejável.

É uma mudança antropológica.

O indivíduo moderno dizia:

“Eu quero.”

O consumidor digital dizia:

“O que existe para eu querer?”

O sujeito algorítmico começa a perguntar:

“O que a máquina sugere que eu poderia querer?”

10. O perigo não é a máquina escolher por nós

Talvez seja mais fácil imaginar uma distopia na qual máquinas assumem o controle e os seres humanos tornam-se seus servos.

Mas essa imagem pode esconder um perigo mais sutil.

A verdadeira transformação talvez aconteça quando ninguém precise nos obrigar.

Quando a escolha automatizada for tão conveniente que desistiremos espontaneamente de escolher.

Quando o algoritmo selecionar nossa música porque conhece nossos gostos.

O filme porque conhece nossas emoções.

A notícia porque conhece nossas inclinações.

O caminho porque conhece nosso destino.

O texto porque conhece nossa intenção.

A resposta porque conhece nossa pergunta.

Pouco a pouco, a liberdade pode desaparecer não como uma porta que se fecha, mas como uma faculdade que deixa de ser exercitada.

Esse é talvez o paradoxo mais inquietante da civilização algorítmica:

podemos perder autonomia não porque alguém a tomou de nós, mas porque começamos a considerar desnecessário exercê-la.

11. Da sociedade de disciplina à sociedade de previsão

Podemos então visualizar uma espécie de genealogia.

A sociedade disciplinar dizia:

“Você deve.”

A sociedade de controle dizia:

“Você pode.”

A sociedade neoliberal acrescentou:

“Você deve poder.”

E a sociedade algorítmica parece avançar para outra formulação:

“Eu posso prever o que você fará.”

São quatro formas diferentes de poder.

A primeira organiza a obediência.

A segunda organiza a circulação.

A terceira organiza o desempenho.

A quarta começa a organizar a probabilidade.

É nesse último estágio que a questão da liberdade se torna especialmente difícil.

Porque a liberdade não desaparece.

Ela continua existindo.

Nós continuamos escolhendo.

O problema é que nossas escolhas acontecem dentro de ambientes cada vez mais densamente modelados por sistemas que conhecem nossos padrões antes de nós mesmos.

12. O que permanece humano?

Talvez esta seja a pergunta que devemos preservar.

Não:

“A inteligência artificial vai dominar a humanidade?”

Mas:

“Que dimensões da experiência humana não devemos entregar à lógica da otimização?”

O pensamento inútil.

A contemplação.

O silêncio.

A dúvida.

O erro.

A lentidão.

A contradição.

A imaginação que não produz imediatamente valor.

A arte que não precisa ser eficiente.

O amor que não pode ser reduzido a uma recomendação.

A amizade que não pode ser quantificada.

A política que não pode ser substituída por previsão estatística.

E talvez, acima de tudo, a capacidade de dizer:

não sei.

Porque existe algo profundamente humano naquilo que não pode ser antecipado.

13. Contra a administração algorítmica da existência

O futuro talvez não seja uma guerra entre seres humanos e máquinas.

Essa narrativa é sedutora, mas simplista.

O conflito real pode acontecer entre duas formas de organizar a existência.

De um lado, uma civilização fundada na previsão, na eficiência, na mensuração e na otimização permanente.

De outro, uma concepção de humanidade baseada na indeterminação, na criação, na experiência, na solidariedade e na possibilidade de transformar aquilo que parecia inevitável.

A questão política torna-se então inevitável.

Quem controla os sistemas que controlam as possibilidades?

Quem possui os dados?

Quem define os modelos?

Quem determina os critérios de recomendação?

Quem decide quais comportamentos são desejáveis?

Quem possui a infraestrutura?

Quem transforma previsão em poder econômico?

Quem transforma poder econômico em poder político?

A tecnologia não responde a essas perguntas.

A política responde.

E é exatamente por isso que a discussão sobre inteligência artificial não pode permanecer restrita aos engenheiros.

Ela pertence à filosofia.

À economia.

À sociologia.

À política.

À estética.

E, sobretudo, àquilo que Marx chamou de crítica das relações sociais.

14. O sujeito que ainda pode dizer não

Talvez ainda exista uma saída.

Não uma fuga romântica da tecnologia.

Isso seria impossível.

A questão não é abandonar o mundo digital, mas compreender as relações de poder que atravessam suas infraestruturas.

Não precisamos destruir os algoritmos.

Precisamos retirar deles a aparência de neutralidade.

Não precisamos rejeitar a inteligência artificial.

Precisamos decidir a serviço de quem ela será colocada.

Não precisamos abandonar a técnica.

Precisamos disputar sua finalidade social.

E talvez seja aqui que a antiga pergunta filosófica reencontre o presente.

O que significa ser livre?

Não significa simplesmente poder escolher entre opções.

Significa também poder produzir novas possibilidades.

É essa dimensão que uma sociedade inteiramente orientada pela previsão corre o risco de enfraquecer.

Porque prever é trabalhar com aquilo que provavelmente acontecerá.

Criar é produzir aquilo que ainda não existe.

E talvez a liberdade humana esteja precisamente nessa diferença.

Epílogo — O futuro não foi calculado

Deleuze percebeu a emergência de uma sociedade de controle quando os computadores ainda estavam longe de possuir a presença que têm hoje.

Han mostrou como o poder contemporâneo poderia abandonar parte da coerção externa e transformar o indivíduo em agente da própria exploração.

Lipovetsky revelou a expansão de uma cultura fundada na hiperindividualização, no consumo e na multiplicação das possibilidades.

Dufour investigou a transformação antropológica do sujeito submetido à lógica neoliberal.

Zuboff mostrou como a experiência humana poderia converter-se em matéria-prima de um capitalismo baseado na vigilância e na previsão.

Nenhum deles, isoladamente, explica o presente.

Mas juntos eles nos permitem enxergar algo extraordinário.

A história do poder talvez esteja passando de uma sociedade que disciplinava corpos para uma sociedade que modula comportamentos, depois para uma sociedade que otimiza indivíduos e, finalmente, para uma civilização que começa a calcular probabilidades humanas.

O sujeito algorítmico nasce nesse cruzamento.

Mas ele não está terminado.

E talvez essa seja a nossa última margem de liberdade.

O algoritmo trabalha com probabilidades.

O ser humano ainda pode produzir acontecimentos.

O algoritmo calcula tendências.

O ser humano ainda pode romper tendências.

O algoritmo aprende com o passado.

O ser humano ainda pode inventar um futuro que o passado não autorizava.

Por isso, a pergunta decisiva do nosso tempo talvez não seja se as máquinas serão inteligentes.

Elas já são, em determinados sentidos, extraordinariamente capazes.

A pergunta é outra:

seremos nós suficientemente livres para decidir o que faremos com a inteligência que construímos?

Porque o maior perigo da civilização algorítmica talvez não seja a máquina tornar-se humana.

Talvez seja o ser humano tornar-se aquilo que a máquina consegue prever.