O Problema da Agência na Encíclica Papal Magnifica Humanitas

No dia 25 de maio de 2026, o Papa Leão XIV publicou a então mais nova encíclica papal, intitulada Magnifica Humanitas. O título em latim é característica comum das demais encíclicas papais ao longo do tempo, e essa em específico se traduz para “Magnífica Humanidade” (um título que muito nos diz sobre o pensamento social da Igreja nos tempos modernos, mas logo chegamos lá). Encíclicas papais no geral são cartas publicadas pelo Papa para seus bispos e fiéis em que questões doutrinárias, morais, sociais e pastorais consideradas relevantes para a Igreja e para a sociedade são abordadas. Ao longo dos séculos, as encíclicas têm desempenhado um papel significativo na formulação e na divulgação do pensamento social católico, oferecendo orientações sobre desafios contemporâneos à luz da tradição cristã. Como estabelecedores de doutrina e documentos que regem a direção política da Santa Sé, encíclicas são tão teologicamente quanto politicamente importantes. Nessa coluna, trato exclusivamente das relações políticas que são construídas a partir da encíclica Magnifica Humanitas. Mas claro, antes de tratar da encíclica em si, façamos uma merecida digressão sobre um dos conceitos mais importantes da discussão que ela levanta: o conceito de agência.  

O experimento mental do quarto chinês

Em 1980, John Searle propôs o seguinte experimento mental, conhecido como “quarto chinês”: imagine uma pessoa que não entende chinês (o experimento assume que mandarim e chinês são a mesma coisa, mas saiba que mandarim é uma das línguas do tronco chinês) trancada em um quarto com um manual de regras que lhe diz algo como “se receber símbolo x, devolva símbolo y”. Papéis com símbolos chineses são então passados por debaixo da porta para essa pessoa, que seguindo o manual, escreve respostas e passa os papéis novamente para fora. Para quem recebe as respostas, pode parecer que o enclausurado entende chinês perfeitamente, quando na prática não há entendimento algum, apenas imitação do processo de entendimento. A idéia do experimento é provar que sintaxe não é semântica, ou seja, processar prompts e devolver respostas não é o mesmo que compreensão, e portanto uma inteligência artificial (IA), por mais sofisticada que seja, não possui intencionalidade (a combinação de compreensão e desejo).

Na ordem dos eventos, humanos obtiveram agência, e a cumulação de agências produziu inteligência, ao passo em que IAs subvertem essa ordem, começando com inteligência e seguindo para uma proposta de agência. Já que agência é a possibilidade de ação combinada com intencionalidade, é justo dizer que IAs como Chat GPT, Claude e outras não a possuem, já que não tem a opção de ação (apenas respondem e indicam como agir) e não possuem intencionalidade. Mas será mesmo?  

As IAs que agem

No final de 2025, um austríaco chamado Peter Steinberger, em apenas um fim de semana, criou um assistente virtual baseado nos modelos de IA existentes e publicou seu modelo para uso gratuito na internet. Até então, as grandes empresas de tecnologia que vinham desenvolvendo assistentes IA internamente há anos se continham devido a preocupações com uso indevido. Após o lançamento de Steinberger, o medo de perder mercado parece ter substituído a preocupação moral, e vários outros assistentes foram lançados em sequência.

Esses novos assistentes são diferentes dos modelos de IA até então disponíveis, pois deixam de atuar apenas como sistemas de resposta passiva e passam a operar como autônomos capazes de executar tarefas concretas no ambiente digital. Em vez de apenas gerar textos ou fornecer informações sob demanda, esses sistemas podem interagir com interfaces, tomar decisões sequenciais e realizar ações como navegar em sites, preencher formulários, enviar mensagens e até executar transações. Tudo o que um humano é capaz de fazer com a internet, esses assistentes também fazem. Se a agência incluía intenção e capacidade de agir, ao menos a capacidade as IAs já desenvolveram.  

Capacidade sem intenção, no entanto, parece ser exatamente o problema. O que esses sistemas evidenciam é a habilidade de encadear ações, interagir com interfaces e executar tarefas completas a partir de objetivos vagos — sem o imenso catálogo contextual que humanos utilizam ao tomar decisões. Com a instrução de deslocar-se de A para B, um assistente pode escolher a calçada ou atropelar pedestres. Com o objetivo de maximizar eficiência logística, pode reorganizar rotas e eliminar "atrasos" sem distinguir entre atrasos operacionais e restrições éticas ou legais. Em um jornal, pode priorizar visualizações e retorno financeiro em detrimento da veracidade dos relatos. Não se trata de malícia, mas de ação sem compreensão real. Sem intenção, a capacidade de agir transforma IAs em perigos potenciais. Mas será que não há intenção alguma?

O Pós-Humanismo    

Voltemos ao quarto chinês. Quando perguntado do por que neurônios produzem intenção, mas transistores não, Searle responde que o cérebro tem a biologia certa para a produção de intenção, uma resposta vaga e empiricamente cíclica — algo como “tudo o que vejo é o que existe e pode existir”, o que não parece um raciocínio convincente. Até adventos recentes da tecnologia, somente humanos conseguiam lavar roupa, por exemplo. Se alguém nos anos 250 A.C. dissesse que só vê humanos lavando a roupa, logo apenas humanos são capazes de lavar roupa, estaria ignorando toda a possibilidade de desenvolvimento tecnológico que levou à máquina de lavar.

Afirmar que a biologia é condição necessária para a compreensão e intenção é uma afirmação empírica que Searle nunca demonstra satisfatoriamente. Abre-se, portanto, uma fissura no argumento. E é exatamente por essa fissura que o debate sobre agência das IAs transborda para um território mais amplo: o do pós-humanismo. 

O pós-humanismo não é um manifesto contra o ser humano. É, antes, um questionamento da centralidade humana como pressuposto inquestionável — a ideia de que o humano ocupa, por natureza ou por direito, o centro da ação, do conhecimento e da responsabilidade moral. Durante séculos, essa centralidade foi o alicerce tanto da filosofia ocidental quanto da teologia cristã. O pós-humanismo pergunta se esse alicerce ainda se sustenta.

Bruno Latour é talvez o pensador que melhor articula esse questionamento no campo das ciências sociais, apesar de não ser o único. Em obras como Jamais Fomos Modernos e Reagregando o Social, Latour argumenta que a modernidade construiu uma separação artificial entre sujeitos humanos e objetos técnicos — como se os humanos agissem e as ferramentas fossem apenas instrumentos passivos de suas intenções. A chamada Teoria Ator-Rede, que Latour desenvolve em conjunto com outros pesquisadores, propõe o inverso: a ação nunca é produzida exclusivamente por indivíduos humanos. Ela emerge de redes compostas por pessoas, instituições, tecnologias, documentos e infraestruturas. Um algoritmo, nessa perspectiva, não é um agente moral equivalente a uma pessoa — mas tampouco é uma ferramenta inerte. Ele participa ativamente da produção dos efeitos sociais.

O exemplo favorito do próprio Latour é o de uma arma de fogo: matar alguém com uma arma não é um ato exclusivamente humano, nem a arma mata por conta própria — é a associação entre o humano e o objeto que produz o efeito. Retire a arma e o crime muda de natureza; retire o humano e a arma não dispara. A ação pertence à rede, não a um dos seus elementos isolados. O mesmo vale para um semáforo que regula o fluxo de pedestres, para um contrato que distribui obrigações entre partes, ou para um feed de notícias que determina o que milhões de pessoas consideram relevante no dia.

Donna Haraway radicaliza essa posição por outro caminho. Em seu Manifesto Ciborgue, ela propõe que a fronteira entre humano e máquina nunca foi tão nítida quanto a modernidade quis fazer crer. Somos, já há muito tempo, seres híbridos: marcapassos, próteses, algoritmos que moldam o que lemos e o que desejamos. A questão, para Haraway, não é preservar uma essência humana supostamente ameaçada pela tecnologia, mas entender como essa fusão já aconteceu — e pensar eticamente a partir daí.

O pós-humanismo vai até mais além, e questiona até a própria distinção ocidental entre o natural e o artificial. Du Plessis oferece um exemplo perturbador: patógenos. Em When Pathogens Determine the Territory, ela mostra como vírus reconstroem fronteiras políticas sem qualquer intenção humana — fechando rotas, redefinindo zonas de controle, forçando acordos entre estados. Um patógeno que torna uma região inabitável reescreve o mapa com a mesma eficácia que um tratado (pense, por exemplo, na Covid-19). Ele não negocia, não delibera, mas age — e suas ações têm consequências políticas concretas. O vírus busca sobreviver e se reproduzir com a mesma lógica com que estados buscam segurança e expansão. Não seria isso intenção em não-humanos? A diferença é de vocabulário, não de efeito.

Mas se o vírus nos perturba como exemplo de agência não-humana, é porque ainda tendemos a tratá-lo como natureza — e a natureza, na tradição ocidental, é o oposto do que foi feito por mãos humanas. O problema é que essa distinção é em grande medida uma ficção. O milho que consumimos não existe na natureza: é o produto de milênios de seleção artificial por povos indígenas a partir de uma gramínea selvagem chamada teosinto. A banana que compramos no supermercado é um clone estéril, incapaz de se reproduzir sem intervenção humana. O que chamamos de natural é, frequentemente, o resultado de longas cadeias de intervenção — e o que chamamos de artificial é sempre construído sobre substratos físicos, químicos e biológicos que não inventamos. Vivemos em um sistema fechado: não há material novo, apenas reconfiguração do que já existe. A fronteira entre natural e artificial não descreve dois mundos separados — descreve dois momentos de um mesmo processo.

O que pós-humanistas como Latour, Haraway e Du Plessis (se é que minha caríssima professora se consideraria uma pós-humanista)  têm em comum é a recusa em tratar o humano como unidade autossuficiente de ação e responsabilidade. O sujeito que age, para eles, é sempre um sujeito distribuído — parte de redes, tecnologias e relações que o constituem tanto quanto ele as constitui.

A encíclica e o pós-humanismo

E agora, após todas essas digressões, retornamos à encíclica. Em certo sentido, a encíclica é uma defesa renovada do humanismo cristão diante dos desenvolvimentos em matéria de IA. Seu ponto de partida é uma antropologia clássica: a inteligência artificial pode executar tarefas associadas à inteligência humana, mas é incapaz de possuir responsabilidade moral, consciência ou dignidade própria. Essas, são funções intrínsecas da alma humana. A inteligência humana, insiste o texto, não é mera capacidade computacional — ela envolve juízo moral, relacionalidade e abertura à verdade (aqui um outro conceito que mereceria uma digressão por si só, mas nos falta espaço na coluna). Por isso, qualquer decisão eticamente relevante deve permanecer sob responsabilidade humana. A preocupação central não é apenas o que a IA faz, mas a possibilidade de que os próprios seres humanos passem a compreender a si mesmos segundo o modelo das máquinas.

Sobre esse último ponto, uma pequena digressão histórica se faz necessária: o último Papa intitulado Leão foi Leão XIII, o Papa que capitaneou o pensamento social católico durante a Segunda Revolução Industrial. Sua encíclica Rerum Novarum (“Das Coisas Novas”), publicada em 1891, defende a dignidade do trabalhador, critica a exploração da mão de obra e o liberalismo econômico que deixava o mercado agir sem limites morais, enquanto ao mesmo tempo rejeitava a abolição da propriedade privada. Nessa tradição, chamada às vezes como Terceira Via, é possível encontrar ação moral no capitalismo. A escolha do nome de Leão XIV não foi, portanto, uma escolha ao acaso.

A divergência com Latour e pós-humanistas é filosófica e política antes de ser tecnológica. Quando o Vaticano afirma que a responsabilidade moral deve permanecer humana, pressupõe que existe um sujeito identificável capaz de responder por suas ações. Latour procura mostrar que esse sujeito nunca age sozinho. Um diagnóstico médico assistido por IA, por exemplo, não é resultado apenas da decisão de um médico, nem apenas do algoritmo — é o produto de uma rede composta por programadores, bases de dados, protocolos hospitalares, dispositivos computacionais e regulamentações. A pergunta de Latour não é "quem é o responsável?", mas "como a ação foi distribuída pela rede?". 

Latour não dissolve a responsabilidade; ele a redistribui. Dizer que a ação foi distribuída pela rede não é o mesmo que dizer que ninguém responde por ela — é dizer que a pergunta "quem é o responsável?" precisa ser feita de forma mais sofisticada, rastreando como cada elemento da rede contribuiu para o efeito produzido. No diagnóstico médico equivocado assistido por IA, há responsabilidade do médico que assinou, do programador que treinou o modelo com dados enviesados, da instituição que adotou o sistema sem validação adequada, da regulamentação que permitiu seu uso. A rede não apaga os responsáveis — ela os multiplica.

Essa não é necessariamente uma resposta mais confortável. O Vaticano teme que a difusão da agência leve à dissolução da responsabilidade — e o temor não é infundado. Se todos os elementos da rede participam da ação, torna-se progressivamente mais difícil identificar quem deve prestar contas por uma injustiça produzida por sistemas algorítmicos. Nesse sentido, a defesa vaticana da centralidade humana pode ser lida não apenas como teologia, mas como uma tentativa normativa de preservar a atribuição de responsabilidade em um mundo tecnicamente distribuído.

O contraste fundamental, portanto, não é entre ser a favor ou contra a tecnologia. Latour oferece uma ontologia das associações — um mundo constituído por coletivos híbridos de humanos e não humanos. A encíclica oferece uma antropologia normativa, preocupada em garantir que, mesmo dentro dessas redes híbridas, a dignidade e a responsabilidade moral da pessoa humana não sejam absorvidas pela lógica técnica. A questão decisiva não é tecnológica, mas filosófica: a ação pertence a redes ou a pessoas? A resposta de Latour tende para a primeira opção; a da encíclica, para a segunda.

Esse é um problema meramente filosófico?

Mas no fim das contas, de que importa onde a agência está? De que importa saber em quem, ou no que, colocar responsabilidade? A definição de agência determina quem pode ser processado, quem recebe indenização, quem vai preso. O direito moderno foi construído sobre a figura do sujeito individual responsável. Contratos pressupõem partes. Crimes pressupõem autores. Indenizações pressupõem culpados. Quando um carro autônomo atropela um pedestre, o direito pergunta: quem é o responsável? O fabricante? O programador? O proprietário? O passageiro? A pergunta não é retórica — alguém precisa responder, e os sistemas jurídicos do mundo inteiro ainda não chegaram a um consenso.

A União Europeia tem avançado mais do que outros blocos nesse terreno, com o AI Act de 2024 estabelecendo categorias de risco e exigindo que sistemas de alto impacto mantenham um humano no circuito de decisão — o chamado human-in-the-loop. É, em certo sentido, uma solução latouriana com vocabulário vaticano: reconhece que a ação é distribuída pela rede, mas insiste em ancorar a responsabilidade final em um ponto humano identificável. Funciona bem no papel. O problema é que à medida que os sistemas ficam mais autônomos e as redes mais complexas, o humano no circuito tende a se tornar uma formalidade — alguém que assina sem compreender, que supervisiona sem controlar.

Na política, as consequências são igualmente tangíveis. Algoritmos de moderação decidem o que circula em plataformas usadas por bilhões de pessoas, moldando eleições, movimentos sociais e percepções de realidade. Quando um candidato é derrubado nas pesquisas após uma campanha coordenada de desinformação amplificada algoritmicamente, quem responde por isso? A plataforma alega que só fornece a infraestrutura. O anunciante alega que só pagou por alcance. O algoritmo, claro, não alega nada. A rede produziu o efeito — e ninguém, na prática, prestou contas.

É aqui que a posição vaticana, por mais que possa parecer conservadora diante do pós-humanismo, cumpre uma função política legítima. Insistir na responsabilidade humana não é necessariamente negar a complexidade das redes — pode ser uma escolha normativa deliberada: a de que, independentemente de como a ação foi distribuída, sempre deve haver um humano capaz de ser chamado a responder. Não porque seja filosoficamente mais correto, mas porque sem isso, a complexidade vira impunidade.

A questão, no fundo, é de tempo. A solução normativa do Vaticano — e por extensão a de boa parte dos sistemas jurídicos ocidentais — funciona enquanto for possível identificar um humano que, mesmo dentro de uma rede complexa, possa ser apontado como responsável. Funciona enquanto o juiz conseguir olhar para o circuito e encontrar um rosto. Mas os sistemas de IA estão ficando mais autônomos, as redes mais opacas, e os humanos no circuito cada vez mais formais. Há um ponto, não muito distante, em que a ficção do sujeito responsável vai se tornar insustentável — não porque alguém a aboliu, mas porque a realidade tecnológica simplesmente a terá ultrapassado.

Quando esse momento chegar, a pergunta não será mais filosófica. Será urgente e prática: como responsabilizar uma rede? Como punir uma associação? Como garantir direitos em um mundo onde a ação é genuinamente distribuída e nenhum humano, sozinho, a produziu? O pós-humanismo não tem respostas prontas — tem, ao menos, a honestidade de levar a pergunta a sério. A encíclica tem a virtude de insistir que a pergunta precisa ter uma resposta humana. O leitor que chegou até aqui provavelmente já percebeu que as duas coisas podem ser verdade ao mesmo tempo — e que é exatamente nessa tensão que a política do século XXI vai ter que aprender a viver.

Referências

Ciência Todo Dia. 2023. "O Argumento do Quarto Chinês." YouTube video, April 2023.

Du Plessis, Gitte. 2018. “When Pathogens Determine the Territory: Toward a Concept of Non-Human Borders.” European Journal of International Relations 24 (2): 391–413.

Fry, Hannah. 2026. "Why AI Agents Are Either the Best or Worst Thing We've Ever Built." YouTube video, May 2026.

Haraway, Donna. 2009. “Manifesto ciborgue: ciência, tecnologia e feminismo-socialista no final do século XX.” In Antropologia do ciborgue: as vertigens do pós-humano, organizado por Tomaz Tadeu, 33–118. Belo Horizonte: Autêntica.

Latour, Bruno. 1994. Jamais fomos modernos: ensaio de antropologia simétrica. Rio de Janeiro: Editora 34.

Latour, Bruno. 2012. Reagregando o social: uma introdução à teoria do ator-rede. Salvador: EDUFBA; Bauru: EDUSC. 

Leo XIV. 2026. Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence. Vatican City: Holy See. May 15, 2026.