Papa Leão XIV defende o desarmamento de sistemas de IA

O papa Leão XIV defendeu que sistemas de inteligência artificial sejam “desarmados” e pediu que decisões sobre a vida humana permaneçam sob supervisão de pessoas. O pontífice também incentivou países membros da ONU a avançar na proibição de armas autônomas letais. Durante um encontro sobre IA, o líder da Igreja Católica alertou para os riscos de delegar decisões humanas a máquinas e defendeu regras internacionais para orientar o desenvolvimento da tecnologia.

O papa citou listas de alvos militares e bancos de dados de controle de fronteiras como exemplos de decisões que exigem supervisão humana. – Imagem: gerada por IA Máquinas são ferramentas, não pessoas Em discurso aos participantes do encontro “O futuro da IA: um diálogo entre o Vaticano e o mundo científico sobre os avanços e as aplicações das tecnologias inteligentes”, Leão XIV apresentou cinco princípios para orientar o desenvolvimento da inteligência artificial. A reunião foi organizada pela Pontifícia Academia para a Vida e pelo Future of Life Institute.

O pontífice afirmou que o futuro da tecnologia depende das escolhas humanas. Por isso, cabe às pessoas orientar, modificar e, quando necessário, rejeitar suas aplicações. Essa responsabilidade, segundo ele, não pode ser transferida às próprias máquinas.

Leão XIV criticou a possibilidade de conceder direitos ou personalidade jurídica a sistemas de IA. Eles não têm experiências, corpo, sentimentos ou relacionamentos e não compreendem conceitos como amor, trabalho e responsabilidade. Atribuir-lhes status jurídico, alertou, pode ocultar a responsabilidade humana e deixar as vítimas de eventuais danos diante de uma entidade sem rosto.

A posição está alinhada aos princípios apresentados em sua encíclica Magnifica Humanitas, dedicada à proteção da pessoa humana na era da inteligência artificial. Papa pede proibição de armas autônomas letais A defesa da supervisão humana ganha especial importância quando a IA é utilizada em decisões que afetam diretamente a vida e a liberdade das pessoas. Leão XIV citou como exemplos a inclusão de indivíduos em listas de alvos militares ou em bancos de dados de controle de fronteiras, situações em que podem ser reduzidos a simples pontos de informação.

“Decisões que afetam a vida humana, a liberdade e o uso da força devem permanecer sempre sujeitas a uma supervisão humana eficaz, informada e responsável”, afirmou. Com base nesse entendimento, o papa incentivou os países que se reunirão em Genebra, em novembro, a tomar medidas concretas para proibir armas autônomas letais. A preocupação também marcou o discurso de seu antecessor, Francisco, durante o encontro do G7 em 2024.

Na ocasião, ele classificou a inteligência artificial como uma ferramenta empolgante e assustadora e afirmou que nenhuma máquina deveria ter o poder de decidir tirar a vida de uma pessoa. Leão XIV também relacionou sua escolha do nome papal à necessidade de enfrentar os avanços tecnológicos. A referência é ao papa Leão XIII, cujo pontificado ocorreu em um período marcado pela Revolução Industrial.

A postura de Leão XIV reforça as declarações feitas pelo Papa Francisco ao G7 em 2024 sobre os perigos da autonomia das máquinas. – Imagem: Marco Iacobucci Epp/Shutterstock Tecnologia deve servir ao bem comum Outro princípio defendido por Leão XIV é que a inteligência artificial esteja a serviço da sociedade, em vez de atender apenas aos interesses de grupos privilegiados. O desenvolvimento dessas tecnologias, segundo ele, deve favorecer a solidariedade e permitir que os benefícios do progresso sejam compartilhados de maneira mais ampla.

O pontífice também chamou a atenção para a necessidade de instituições capazes de transformar princípios éticos em medidas concretas. Para isso, defendeu três mecanismos fundamentais: Padrões compartilhados internacionalmente para orientar o desenvolvimento da IA; Supervisão independente das tecnologias e de suas aplicações; Mecanismos de responsabilização, contestação de decisões e reparação por danos. Leão XIV encerrou o discurso agradecendo aos participantes pelas contribuições ao debate e incentivando a continuidade da cooperação internacional em torno do desenvolvimento responsável da inteligência artificial.

O post Papa Leão XIV defende o desarmamento de sistemas de IA apareceu primeiro em Olhar Digital . ]]>