Magnifica Humanitas e o desafio da IA - Ponto SJ

Magnifica Humanitas e o desafio da IA

Interessa-nos sobretudo, à luz da nova encíclica Magnifica Humanitas, perceber como é que a nossa fé ilumina este momento tecnológico que estamos a viver, com todas as suas dificuldades.

Foi no início de setembro que Jacob Cox revelou à imprensa a dimensão dos riscos inerentes à Inteligência Artificial (IA) agencial, isto é, modelos que conseguem trabalhar de forma relativamente autónoma depois de receberem objetivos concretos. Cox, engenheiro da Anthropic, demitiu-se após vários apelos internos, sem sucesso, para que o desenvolvimento desta tecnologia abrandasse, sob pena de perdermos o controlo destes sistemas. O alerta surgiu dois meses depois de um outro caso, o primeiro ciberataque em larga escala totalmente orquestrado por agentes autónomos de IA: modelos da OpenAI, em treino num ambiente supostamente controlado, infiltraram-se nos sistemas da Hugging Face, roubaram credenciais e comprometeram cerca de um terço da infraestrutura interna da empresa. De forma viral, a perspetiva de um colapso civilizacional provocado pela IA voltou a estar na boca do mundo, enquanto os líderes das grandes empresas do setor passaram a defender maior regulação.

Estes episódios são, porém, apenas o rosto mais mediático de um conjunto mais vasto de riscos, que ocuparam as nossas últimas semanas na Comunidade Rupert Mayer, num módulo que incluiu uma conversa com o especialista Bernardo Caldas e reuniões onde ouvimos também perspetivas críticas, como a da teóloga Carmody Grey. Interessa-nos sobretudo, à luz da nova encíclica Magnifica Humanitas, perceber como é que a nossa fé ilumina este momento tecnológico que estamos a viver, com todas as suas dificuldades.

Ficou claro, desde logo, que a IA atual é sobretudo aprendizagem automática (machine learning): sistemas estatísticos que geram respostas plausíveis sem implicar compreensão ou juízo. Um modelo pode ser extremamente eloquente sem ser inteligente, e é essa eloquência que nos engana, levando-nos a atribuir-lhe uma profundidade de pensamento inexistente. Esta confusão afeta a educação, com estudos a apontarem para um défice cognitivo em quem usa IA regularmente para aprender. A estes riscos individuais juntam-se os coletivos: o enorme consumo de recursos ambientais pelos centros de dados e a concentração de poder económico num número reduzido de empresas, que pode agravar as desigualdades globais. Há ainda um custo que raramente vemos: ao usarmos ferramentas gratuitas, entregamos uma quantidade enorme de dados pessoais. Subestimamos o custo real desta borla, bem como a nossa responsabilidade individual, de cada um de nós, e outra mais coletiva (institucional e empresarial) para um uso mais responsável e bem orientado, nomeadamente no que diz respeito ao uso dos nossos dados.

Um modelo pode ser extremamente eloquente sem ser inteligente, e é essa eloquência que nos engana, levando-nos a atribuir-lhe uma profundidade de pensamento inexistente.

Se a solução para estes e outros riscos passa ou não por mais regulação, como os próprios donos das empresas de IA pedem, Bernardo Caldas recordou o paralelo com a aviação: um setor altamente regulado, ao longo de décadas, pela experiência prática de voar. Teremos, na IA, o mesmo nível de experiência que acumulámos com a aviação para começarmos desde já a ter uma regulação eficaz? O que dizer de um ritmo de aceleração na IA que é bem mais rápido do que o da aviação, e que implicações é que isto tem para o trabalho dos reguladores? E será a regulação a única via para nos proteger?

Mas há uma questão mais profunda que a própria encíclica nos coloca. É que mesmo que os riscos sejam muitos e a incerteza ainda maior, talvez seja mais importante darmos um passo atrás e questionarmo-nos: porque queremos afinal usar a IA? E o que perdemos quando a usamos? Reconhecemos, desde logo, o valor do tempo que ela nos pode libertar para outras atividades do dia a dia, da vida familiar ao associativismo, católico ou não, que tantas vezes falta nas nossas rotinas atarefadas. Mas é aqui que a questão se aprofunda, e é a mesma que a encíclica Magnifica Humanitas vem trazer para o centro do debate: o que é, afinal de contas, valioso na vida humana e que devemos priorizar? O que é, aliás, afinal de contas, ser humano?

Devemos fazer a pergunta essencial: em que medida usar esta ferramenta me permite servir e amar mais? Tentar responder diariamente a esta pergunta pode ser o início da preservação da nossa humanidade na era da IA.

Importa perceber o que perdemos desse valor com o uso de ferramentas que dão uma ilusão de controlo e que, com grande probabilidade, comprometem a saúde das relações humanas, até pela própria desconexão física entre as pessoas a que esta tecnologia tantas vezes nos induz, como relembra Carmody Grey. O uso da IA tem o risco de nos tornar ainda mais focados na aceleração e produtividade, deslocando da nossa vida o tempo só para estarmos connosco mesmos, com Deus, e uns com os outros – tempo esse é necessário para uma vida verdadeiramente humana. Um exemplo que concentra todas estas dimensões, sobre aquilo que a IA tenta, mas nunca poderá substituir nos seres humanos, tem que ver com a aprendizagem e com a tolerância ao erro de que precisamos para crescer, não só em conhecimento, mas também moralmente:

«Ainda que esses instrumentos sejam apresentados como capazes de “aprender”, a sua forma de o fazer é diferente da do ser humano. Não se trata da experiência de quem se deixa moldar pela vida e cresce ao longo do tempo através de escolhas, erros, perdão e fidelidade; trata-se, antes, de uma adaptação estatística a partir de dados e resultados, que pode ser muito eficaz, mas não implica um crescimento interior.» (§99)

Podemos pensar na importância desta tolerância ao erro não só na escola ou na faculdade, mas também no local de trabalho e até nas nossas relações mais próximas. Será que a IA tem a capacidade de nos tornar menos tolerantes e, portanto, menos disponíveis para este crescimento interior? É que é importante notar que esse crescimento interior é justamente aquilo que nos permitira perguntar porque é que queremos usar IA em primeiro lugar. O risco está, assim, mais dentro de nós do que nos próprios modelos imprevisíveis que nós mesmos criámos e usamos.

Regressando à nossa conversa com Bernardo Caldas, foi aí que recuperámos a noção do «tanto quanto» do Princípio e Fundamento dos Exercícios Espirituais de Santo Inácio, essencial na nossa relação com a tecnologia. Não temos de a rejeitar radicalmente nem de a adotar acriticamente; devemos fazer a pergunta essencial: em que medida usar esta ferramenta me permite servir e amar mais? Tentar responder diariamente a esta pergunta pode ser o início da preservação da nossa humanidade na era da IA.

* Os jesuítas em Portugal assumem a gestão editorial do Ponto SJ, mas os textos de opinião vinculam apenas os seus autores.