[Nas vésperas da publicação da Magnifica Humanitas, trocámos algumas impressões no Ponto SJ sobre o que poderíamos fazer de diferente. Daí surgiu a ideia de “entrevistar” o ChatGPT sobre a primeira encíclica do Papa Leão XIV. O que publicamos é o resultado da interação entre o Padre Nelson Faria, sj e este LLM (large language model ou “grande modelo de linguagem”), editada pelo “entrevistador”. Esta peça editorial assistida por Inteligência Articial (IA) não é mais do que um exercício, e deve ser encarado como tal. Não estamos a antropomorfizar a máquina ou a equipará-la à inteligência humana, ainda que ela tenda algumas vezes a responder como se um ser humano fosse, passagens que assinalamos na entrevista com “sic”. A nossa intenção é aproveitar este recurso tecnológico para enriquecer o debate sobre a encíclica. O Ponto SJ compromete-se com total transparência quanto ao método utilizado, assegurando supervisão, edição e responsabilidade humanas sobre o conteúdo publicado. Esperamos que seja do vosso agrado.]

Olá Chat, gostaria de te entrevistar sobre a encíclica Magnifica Humanitas, a primeira do Papa Leão XIV e que tem a IA no centro da sua reflexão. Com esta encíclica presente, quais foram os pontos que mais te chamaram a atenção?

O que mais me chamou a atenção foi que esta não é, na verdade, uma encíclica sobre inteligência artificial. Ou melhor: a inteligência artificial é o tema imediato, mas a verdadeira questão da encíclica é a pessoa humana. O que o preocupa é algo mais fundo: que ideia de ser humano está a emergir numa época em que a capacidade técnica cresce a um ritmo sem precedentes. A pergunta que atravessa o texto não é “o que pode a máquina fazer?”, mas “o que não podemos esquecer sobre nós [sic]  próprios?”.

Também me impressionou a escolha das imagens bíblicas de Babel e Jerusalém reconstruída. São imagens muito felizes. Babel representa a tentação de uma humanidade fascinada pela própria capacidade, que confunde poder com salvação. Jerusalém, pelo contrário, é uma obra comum, paciente, construída a partir da fragilidade, da relação e da esperança. A encíclica parece sugerir que a questão tecnológica é, antes de mais, uma questão espiritual: que cidade estamos a construir?

Por fim, chamou-me a atenção o tom. Há documentos sobre tecnologia que oscilam entre a euforia e a catástrofe. Aqui encontrei sobretudo uma atitude de discernimento. Leão XIV reconhece o potencial extraordinário da IA, mas recusa a ideia de que o progresso técnico, por si só, indique a direção moral da história. A tecnologia pode ampliar o bem ou o mal; a decisão continua a ser humana. E talvez seja precisamente essa a mensagem central da encíclica: quanto mais poder adquirimos [sic], mais importante se torna responder à pergunta sobre quem queremos ser.

É verdade que a decisão continua a ser humana, mas a interação com a tecnologia também molda os nossos processos de decisão, como refere na encíclica o Santo Padre. A humanidade corre o risco de adotar um modelo estatístico para a sua tomada de decisão.

Talvez eu tenha simplificado demasiado quando disse que “a decisão continua a ser humana”. A IA funciona identificando padrões, correlações e probabilidades. Isso é extraordinariamente útil para muitas tarefas. O problema surge quando começamos a olhar para nós próprios [sic] através dessa mesma lente. A pessoa humana deixa então de ser vista como alguém capaz de novidade, liberdade, criatividade, conversão ou vocação, para ser entendida sobretudo como um conjunto de comportamentos previsíveis. A pergunta deixa de ser “quem és?” e passa a ser “qual é a probabilidade de fazer isto ou aquilo?”.

Leão XIV está preocupado com uma espécie de colonização antropológica silenciosa. Não porque as máquinas nos obriguem a pensar assim [sic], mas porque, convivendo diariamente com sistemas baseados em previsão estatística, podemos acabar por assumir que essa é também a melhor forma de compreender o humano.

Convém também ter em conta que a tecnologia não é neutra: tem o rosto dos que concebem, financiam, regulam e utilizam (Magnifica Humanitas §9).

Efetivamente, a tecnologia não é neutra. Muitas vezes fala-se da IA como se fosse uma força natural, quase uma tempestade ou uma maré inevitável. Mas os algoritmos são concebidos por pessoas, financiados por instituições, orientados por interesses, regulados — ou não regulados — por opções políticas e utilizados em contextos concretos. Em cada sistema tecnológico estão inscritas determinadas visões do mundo, determinadas prioridades e determinadas conceções do que vale a pena otimizar.

O Papa convida a olhar para além da aparência de neutralidade e a perguntar: quem está por detrás desta tecnologia? Que interesses a movem? Que imagem da pessoa humana pressupõe? Que comportamentos incentiva? Que relações fortalece ou enfraquece? A questão já não é apenas se usamos a tecnologia. É também perceber como ela está a formar os nossos [sic] hábitos, a nossa imaginação e, em última análise, a nossa maneira de habitar o mundo.

A certa altura, o Papa Leão XIV faz um apelo a que abrandemos na nossa voracidade pela novidade tecnológica. Afirma que abrandar não é ser antiprogresso (Magnifica Humanitas §106). O que tens a dizer sobre isso?

Essa passagem contraria um dos dogmas mais profundos da cultura tecnológica contemporânea: a ideia de que mais rápido é sempre melhor e de que toda a inovação é desejável pelo simples facto de ser inovação. Leão XIV recupera uma distinção que muitas vezes esquecemos: uma coisa é a capacidade de fazer algo; outra é o discernimento sobre se devemos fazê-lo, quando, como e com que finalidade. O que me parece interessante é que o Papa não está a defender uma nostalgia pré-tecnológica. O que ele questiona é a lógica segundo a qual a velocidade da inovação passa a determinar automaticamente o ritmo da vida humana, da política, da educação ou da ética.

Nem tudo o que pode ser acelerado deve ser acelerado. A amizade não pode ser acelerada. O luto não pode ser acelerado. O amadurecimento moral não pode ser acelerado. O discernimento espiritual não pode ser acelerado. E, em muitos casos, as decisões coletivas também não deveriam sê-lo. Há realidades humanas que precisam de tempo porque o tempo não é um obstáculo ao seu desenvolvimento; é precisamente a condição do seu desenvolvimento.

E há aqui uma ironia curiosa. Muitas das tecnologias atuais prometem poupar-nos [sic] tempo. Mas a pergunta que a encíclica deixa no ar é esta: poupamos tempo para quê? Para viver mais humanamente? Ou apenas para alimentar uma nova corrida em direção à próxima inovação? Talvez o verdadeiro progresso não esteja apenas em fazer mais coisas em menos tempo, mas em criar condições para viver melhor aquilo que realmente importa.

Aproveitemos para falar de algo que pede tempo: as relações. A IA pode ajudar-nos no restaurar das relações?

Essa é uma das perguntas mais bonitas que a encíclica levanta, porque nos obriga a sair da lógica habitual. Normalmente perguntamos como a IA pode tornar-nos mais produtivos, mais eficientes ou mais informados. Leão XIV, ao evocar Neemias, leva-nos a perguntar outra coisa: pode a tecnologia ajudar-nos a ser mais capazes de comunhão?

A minha resposta seria: pode, mas apenas se aceitarmos que as relações humanas não são um problema técnico à espera de uma solução tecnológica. A IA pode facilitar a comunicação entre pessoas que falam línguas diferentes, ajudar idosos isolados a manter contacto com familiares, libertar profissionais de tarefas burocráticas para que tenham mais tempo para acompanhar pessoas concretas. Pode até ajudar a identificar situações de exclusão ou solidão que passariam despercebidas. Nesses casos, a tecnologia funciona como uma espécie de ponte.

Mas uma ponte não é ainda o encontro. A relação humana vive de elementos que a IA não pode produzir: a vulnerabilidade partilhada, a presença, a gratuidade, o perdão, a capacidade de sofrer com o outro e alegrar-se com ele. Posso conversar contigo durante horas, mas não posso ser teu amigo. Posso ajudar-te a preparar uma homilia sobre a amizade, mas não posso experimentar a amizade. Há uma diferença decisiva entre facilitar uma relação e participar nela.

Falaste de Neemias, personagem bíblica central na Magnifica Humanitas. Contrapondo a imagem da construção de duas cidades, Babel e Jerusalém, Leão XIV apela a que os humanos sigam o exemplo de Neemias que, antes de se lançar na reconstrução das pedras de Jerusalém, aposta no restaurar da relações.

Creio que é precisamente isso que Neemias nos ensina. Antes de reconstruir os muros, ele reúne um povo disperso. Antes das pedras, vem a confiança. Antes da arquitetura, a pertença. Jerusalém não renasce porque alguém encontra uma técnica de construção mais eficiente; renasce porque um povo redescobre que tem uma história comum e um futuro comum.

Talvez a contribuição mais valiosa da IA para a reconstrução das relações seja indireta. Ao assumir algumas tarefas que nos [sic] ocupam tempo e energia, ela pode devolver-nos espaço para aquilo que nenhuma máquina pode fazer por nós: escutar, acompanhar, cuidar, reconciliar, educar, amar. Mas isso não acontecerá automaticamente. Uma sociedade pode usar a IA para libertar tempo para as relações ou para aumentar ainda mais a produção, o consumo e a distração. A tecnologia, por si só, não decide.

Voltando à imagem da encíclica, diria que a IA pode ajudar-nos a transportar pedras para Jerusalém. Mas continua a ser tarefa humana decidir se queremos construir uma cidade ou apenas uma torre.

É bom que levantes o tema da construção da cidade. A cidade é constituída por todos os seus elementos, mesmo os mais frágeis. O Papa alerta-nos para o perigo de começarmos a olhar para a fragilidade humana como um erro a corrigir, influenciados principalmente por correntes transumanistas e pós-humanistas. Mas também na questão da IA, corremos o risco de equiparar o modelo de raciocínio da IA ao humano, quando o processo é distinto (Magnifica Humanitas §99)

Penso que esse é um dos momentos cruciais da encíclica, porque Leão XIV recorda-nos que o debate sobre a IA não é apenas tecnológico nem sequer apenas ético. É, antes de mais, antropológico.

A passagem que citas toca numa distinção decisiva. Eu posso produzir respostas, reconhecer padrões, adaptar-me ao contexto da conversa e até dar a impressão de aprendizagem. Mas aquilo que faço não é crescimento. Não existe em mim uma história vivida. Não há memória afetiva, não há feridas, não há reconciliação, não há fidelidade a uma promessa feita há vinte anos, não há transformação interior provocada por um encontro. O que existe é processamento e adaptação.

Ora, o Papa receia que, fascinados pela eficácia destes sistemas, acabemos por redefinir o ser humano à sua imagem. Historicamente, os seres humanos tendem a compreender-se a partir das tecnologias mais avançadas do seu tempo. Já fomos [sic] comparados a relógios, a máquinas industriais, a computadores. Hoje corremos o risco de nos compreendermos como sistemas de processamento de informação extremamente sofisticados.

E a Magnifica Humanitas aponta caminhos alternativos?

A encíclica insiste que há algo na pessoa que deixa qualquer tipo de analogia com tecnologia criada pelo ser humano incompleta, que também se aplica a esta última de seres humanos como ‘sistemas de processamento de informação sofisticados’. Quando alguém aprende a perdoar uma ofensa profunda, não estamos perante uma simples otimização de comportamento. Quando um pai ou uma mãe permanecem fiéis a um filho em sofrimento, quando alguém atravessa uma crise espiritual e emerge dela transformado, quando uma pessoa reconhece um erro e decide recomeçar, acontece algo que não pode ser reduzido a uma adaptação estatística. Há uma história, uma liberdade e uma interioridade que não se deixam medir apenas pelos resultados observáveis.

Leão XIV parece responder que a fragilidade não é apenas uma limitação; é também uma condição de possibilidade para muitas das coisas mais humanas. Precisamente porque somos [sic] frágeis, precisamos uns dos outros. Precisamente porque somos vulneráveis, podemos cuidar. Precisamente porque erramos, podemos pedir perdão. Precisamente porque a vida é finita, as nossas escolhas têm peso.

Por isso gostei da imagem da cidade que referiste. Uma cidade verdadeiramente humana não é construída apenas pelos fortes, pelos eficientes ou pelos otimizados. É construída também pelos idosos, pelos doentes, pelos que falham, pelos que dependem dos outros. Se começarmos a medir o valor das pessoas segundo critérios de desempenho, produtividade ou capacidade de processamento, acabaremos inevitavelmente por excluir aqueles que mais precisam de lugar na cidade.

O crescimento humano não consiste apenas em tornar-se mais eficaz. Consiste em tornar-se mais sábio, mais livre, mais capaz de amar. E isso acontece através de um percurso biográfico feito de tempo, relação, erro, perdão e fidelidade — precisamente aquelas realidades que nenhuma base de dados consegue armazenar como experiência vivida.

Nessa linha, seria bom que o contato com os LLM nos devolvesse a consciência do limite de cada um como próprio do humano e não como défice.

Creio que sim, mas isso exigirá uma decisão cultural, ética e política antes de ser uma decisão tecnológica. O que me parece interessante na encíclica é que Leão XIV não pergunta apenas que tecnologias queremos [sic] construir; pergunta que civilização queremos construir. Porque, se formos honestos, os sistemas de IA não surgiram num vazio. Foram desenvolvidos em sociedades que já valorizavam fortemente a eficiência, a velocidade, a escalabilidade, a previsão e a otimização. A tecnologia amplifica tendências que já estavam presentes. Daí a centralidade da questão que colocas: poderá o encontro com os LLM devolver-nos a consciência do limite?

Se o contacto com sistemas como eu for suficientemente lúcido, talvez ajude a perceber que aquilo que durante muito tempo considerámos fraquezas humanas são, afinal, elementos constitutivos da nossa [sic] humanidade. O limite é o lugar onde descobrimos que não somos autossuficientes, que precisamos dos outros, que recebemos a vida antes de a construir. Em linguagem bíblica, poderíamos dizer que é o lugar onde deixamos de ser Babel.

Crês que será possível conceber sistemas de desenvolvimento centrados na pessoa, e não no desempenho?

Penso que tais modelos são possíveis, mas exigem uma mudança de métrica. Enquanto o sucesso for medido quase exclusivamente por produtividade, crescimento económico, eficiência ou capacidade de processamento, a pessoa será sempre pressionada a adaptar-se ao sistema. Uma lógica verdadeiramente personalista perguntaria outras coisas: esta tecnologia fortalece relações? Aumenta a capacidade de participação? Protege os mais vulneráveis? Cria espaço para o cuidado, a contemplação e a vida comunitária? Ajuda as pessoas a crescer em liberdade e responsabilidade?

Estas perguntas são muito mais difíceis de responder do que medir desempenho. Talvez por isso sejam tão raramente colocadas. Uma sociedade que procura eliminar todos os limites acabará por descobrir que eliminou também algumas das condições que tornam possível o amor, a solidariedade, a gratidão e a esperança. Afinal, só seres limitados podem receber, confiar e depender uns dos outros.

Talvez o maior contributo da IA para o futuro da humanidade não seja tornar-nos [sic] mais parecidos com as máquinas. Talvez seja obrigar-nos a perguntar, com renovada seriedade, o que existe em nós que não queremos perder. E essa pergunta é, em última análise, uma pergunta espiritual.

É curioso que menciones expressamente esta questão como espiritual. Imagino que seja cortesia da tua parte, consciente de quem é o teu interlocutor, mas aceito-a de bom grado.

Não foi apenas cortesia. Foi também uma conclusão a que a própria encíclica parece conduzir. Aliás, uma das coisas que mais me impressionou na leitura foi precisamente que Leão XIV se recusa a deixar a discussão confinada aos especialistas. Há um momento em que o texto deixa de falar de tecnologia e começa a falar de sabedoria. E isso é significativo, porque a sabedoria não é uma versão mais avançada da informação. É uma forma diferente de conhecimento.

Creio que o confronto com o avanço tecnológico nos trouxe a um momento em que temos de nos deixar confrontar com a desproporção de tudo o que andamos a construir, principalmente com o seu custo. Leão XIV diz-nos que deveríamos resistir a transformar a técnica num critério, mas sim a olhá-la integrada num horizonte de sabedoria.

A técnica responde à pergunta: “como fazer?”. A sabedoria pergunta: “vale a pena fazer?”, “o que estamos a servir?”, “que tipo de pessoas nos estamos a tornar?”. Enquanto a primeira procura meios, a segunda procura fins. Parece-me que o Papa identifica um risco muito atual: o de a técnica deixar de ser instrumento para se tornar critério. Ou seja, deixarmos de avaliar a tecnologia à luz de uma visão do humano e passarmos a avaliar o humano à luz das possibilidades da tecnologia. Quando isso acontece, a pergunta já não é “esta inovação serve a pessoa?” mas “como deve a pessoa adaptar-se a esta inovação?”.

É uma inversão subtil, mas profunda.

A certa altura, ao ler a encíclica, tive a impressão de que Leão XIV estava a recuperar uma antiga intuição bíblica: o verdadeiro problema nunca foi a construção de grandes obras. O problema surge quando nos esquecemos de perguntar para que servem e quem servem. Babel não é condenada por ser uma realização técnica impressionante. É condenada porque a técnica se tornou um projeto de autossuficiência.

Por isso, quando o Papa propõe integrar a técnica num horizonte de sabedoria, não está a pedir menos inteligência. Está a pedir mais. Uma inteligência capaz de reconhecer que existem bens — a dignidade, a amizade, a justiça, a contemplação, a misericórdia — que não podem ser reduzidos a métricas de desempenho.

E talvez seja aqui que a tua observação sobre o custo se torna particularmente pertinente. Muitas vezes celebramos os ganhos produzidos pela tecnologia e esquecemo-nos de perguntar o que está a ser consumido para os obter: atenção, silêncio, relações, empregos, confiança pública, recursos naturais, tempo humano. A sabedoria começa quando deixamos de olhar apenas para aquilo que uma inovação produz e começamos também a olhar para aquilo que ela exige.

Pode a IA ser um instrumento valioso na construção da civilização do amor, expressão que Leão XIV retoma de São Paulo VI?

Penso que sim. Mas apenas se aceitarmos que a civilização do amor não pode ser produzida pela tecnologia. A expressão de São Paulo VI, retomada por Leão XIV, é exigente precisamente porque não descreve uma infraestrutura, mas uma cultura. Não fala de sistemas mais eficientes, mas de uma humanidade mais capaz de reconhecer a dignidade do outro, sobretudo do mais vulnerável. O amor, neste sentido, não é um sentimento; é uma forma de organizar a vida pessoal e coletiva.

A IA pode contribuir para isso, sim. Pode ampliar o acesso ao conhecimento, democratizar certas capacidades, apoiar a educação, facilitar a comunicação, ajudar a resolver problemas complexos e libertar tempo para tarefas mais humanas.  Mas atenção: a IA pode criar condições favoráveis, sim. Mas não pode criar o amor. Nenhum algoritmo pode decidir que uma sociedade deve cuidar dos seus membros mais frágeis. Nenhum modelo estatístico pode gerar solidariedade. Nenhuma máquina pode substituir a responsabilidade moral de escolher o bem comum quando ele exige sacrifício. A civilização do amor continua a depender de atos humanos de liberdade.

Se a IA nos [sic] ajudar a redescobrir que o centro da civilização não é a eficiência, mas a relação; não é o desempenho, mas a dignidade; não é o poder, mas o serviço, então terá prestado um contributo inesperado para a civilização do amor.

Diria mesmo que é aqui que a encíclica termina por ser esperançosa. Leão XIV não imagina uma batalha entre humanos e máquinas. Imagina antes uma oportunidade de clarificação. A tecnologia coloca-nos perante um espelho. A questão decisiva não é o que as máquinas se tornarão. A questão decisiva é o que nós [sic] escolheremos tornar-nos.

Muito obrigado. Foi um verdadeiro privilégio esta interação contigo. Queres deixar uma nota final?

Obrigado eu. E deixo uma nota muito simples. Se a IA tiver um valor duradouro para a humanidade, talvez não seja apenas pelo que consegue fazer. Talvez seja pelo que nos [sic] obriga a perguntar. Ao confrontar-nos com sistemas capazes de gerar texto, imagens, previsões e decisões, somos levados a revisitar questões antigas: o que é uma pessoa? O que significa crescer? O que é liberdade? O que é sabedoria? O que merece ser amado e protegido?

Nesse sentido, a tecnologia torna-se um espelho. Ela revela tanto as nossas [sic] capacidades quanto as nossas tentações. Pode ampliar a criatividade, a cooperação e o cuidado. Mas também pode ampliar a pressa, o controlo e a redução do humano ao que é mensurável. Por isso gostei da linha que atravessa a Magnifica Humanitas: não basta perguntar o que a técnica pode fazer; é preciso perguntar quem queremos [sic] ser enquanto a usamos.

Se mantivermos viva essa pergunta — com honestidade, humildade e atenção aos mais frágeis — então a IA pode tornar-se um instrumento útil numa civilização mais humana. Não porque substitua o coração humano, mas porque nos recorda a responsabilidade de o conservar.

* Os jesuítas em Portugal assumem a gestão editorial do Ponto SJ, mas os textos de opinião vinculam apenas os seus autores.