Recentemente despertou a minha atenção – possivelmente aguçada pela pergunta provocadora do P. Francisco Mota em «um país de incompetentes morais?» – o eco que foi dado à publicação pela revista Nature de um artigo acerca dos desafios éticos da condução autónoma: Self-driving car dilemmas reveal that moral choices are not universal.
O ponto de partida do estudo que motivou a publicação é simples: se um veículo sem condutor se encontra na situação de não poder evitar um acidente em que vidas são postas em risco, quem deve ser privilegiado? A pergunta retoma um clássico dilema moral conhecido como “o problema do trolley” em que uma carruagem circula sem travões e está prestes a atropelar cinco pessoas mas existe a possibilidade de desviá-la para uma linha em que se encontra uma pessoa: deve-se desviar a carruagem e sacrificar uma pessoa para salvar cinco? A questão levantada pelos autores do estudo é a da necessidade de programar os veículos autónomos que em breve poderão vir a circular pelas nossas estradas e cidades, para agir em tais situações. Através de um inquérito a que chamaram “máquina moral”, foram recolhidas as respostas de milhões de pessoas de todo o mundo para 13 situações de condução em que a morte de passageiros ou peões não poderia ser evitada. Com os dados recolhidos, os autores chegaram à principal conclusão que dá título ao artigo: as escolhas éticas divergem de acordo com a cultura.
Sem entrar no conteúdo das respostas aos vários dilemas, duas questões fundamentais se colocam. A primeira: com que legitimidade se pode programar uma máquina (carro autónomo) para determinar a vida ou a morte de uns relativamente a outros? Quem pode tomar uma tal decisão? Decidir que “matar um” é melhor que “matar cinco”, que sacrificar um idoso se justifica para evitar uma criança ou que um ser humano “vale mais” do que um gato são decisões extremas que dificilmente obedecem a um critério que possa ser friamente decidido a priori… Um condutor humano numa tal situação teria sempre de enfrentar a avaliação posterior da sociedade e das suas regras jurídicas (que num Estado de Direito contém mecanismos para apreciar a situação na sua excecionalidade). Que sentido teria exigir a mesma responsabilidade a uma máquina? Ou ao seu programador, que não estava sujeito a todas as condicionantes da situação? A segunda é: como se decidem os critérios éticos com que os veículos autónomos deveriam ser equipados? Ficaria à escolha de cada usuário? Seriam determinados pelo fabricante do automóvel? Por alguma autoridade – governo ou painel de especialistas (como o que foi constituído pelo governo alemão)? Ou seriam sujeitas a uma sondagem e submetidas ao critério da maioria?
Como se decidem os critérios éticos com que os veículos autónomos deveriam ser equipados? Ficaria à escolha de cada usuário? Seriam determinados pelo fabricante do automóvel? Por alguma autoridade – governo ou painel de especialistas (como o que foi constituído pelo governo alemão)?
Estas perguntas não têm respostas imediatas, nem talvez satisfatórias… Mas o seu intuito não é tanto esse, senão o de nos fazer pensar sobre o lugar da ética na nossa vida social. Talvez nos tenhamos habituado a viver numa sociedade que se pretende praticamente “a-moral”, que tende a excluir o discurso ético do espaço público, deixando à consciência de cada um a definição do bem e do mal. Uma atitude bem representada na máxima frequentemente invocada quando algum político ou figura pública é questionado sobre a moralidade de um comportamento: “a ética republicana é a lei”. A pergunta pela moralidade dos veículos autónomos ajuda-nos a perceber a necessidade de cultivar uma ética pública, partilhada, que seja fruto de um verdadeiro “viver juntos” que tenha como horizonte o Bem comum. Talvez não seja preciso decidir se um automóvel deve atropelar um idoso antes que uma criança (ou um jovem empresário antes que um sem-abrigo) ou pôr em perigo a vida dos seus passageiros para salvar o peão que atravessa distraído. Mas estas perguntas despertam a atenção para os valores que cimentam (ou não) a vida em sociedade. E, ainda antes de decidir acerca da prioridade a dar à juventude ou à velhice, ao sucesso ou à fragilidade, está o lugar que atribuímos à Vida e o próprio poder sobre ela de que nos julgamos detentores.
Ainda antes de decidir acerca da prioridade a dar à juventude ou à velhice, ao sucesso ou à fragilidade, está o lugar que atribuímos à Vida e o próprio poder sobre ela de que nos julgamos detentores.
A reflexão sobre o “problema do trolley” tradicionalmente divide as respostas em duas categorias: de um lado a solução utilitarista, que apresenta um cálculo racional dos custos/benefícios das diversas opções, optando por intervir para obter um mal menor; do outro lado, a perspetiva deontológica, assente em princípios rígidos aos quais o sujeito adere emocional e irracionalmente, pelos quais tende a privilegiar a inação, deixando os acontecimentos seguir o seu curso (esta distinção entre utilitaristas e deontológicos está bem explicada neste vídeo). A artificialidade desta distinção diz-nos a complexidade das questões envolvidas, que não é senão a complexidade da própria ética e a dificuldade de articular a necessidade de princípios fundamentais com o realismo do bem alcançado ou alcançável com cada decisão nossa!
Uma última provocação: um estudo semelhante realizado em 2016 (referido no texto da Nature) mostrou que a maioria das pessoas se manifesta a favor de os veículos autónomos privilegiarem os peões em detrimento dos passageiros do veículo, mas ao mesmo tempo mostram-se indisponíveis para viajar em carros que assumam essa configuração!
Conclusão: o altruísmo heroico não se programa!
* Os jesuítas em Portugal assumem a gestão editorial do Ponto SJ, mas os textos de opinião vinculam apenas os seus autores.
