CIDADE DO VATICANO – O Papa Leão XIV pediu na segunda-feira um controlo estrito da inteligência artificial e que os seus criadores trabalhem para o bem comum e não para o lucro, e emitiu um comentário sobre a protecção da humanidade, uma vez que a tecnologia afecta tudo, desde o trabalho à guerra.
“Magnifica Humanitas” (Magnificent Humanity), o álbum de estreia de Leo, tem sido altamente aguardado desde que o primeiro papa nascido nos EUA anunciou, dias após a sua eleição, que considerava a IA o maior desafio que a humanidade enfrenta hoje.
No artigo, Leo denunciou a “cultura de poder” que está impulsionando a corrida pela IA, especialmente no desenvolvimento de métodos mais modernos de guerra de longo alcance. Ele disse que era “inaceitável” confiar decisões irreversíveis e fatais a sistemas de IA, estabelecendo outro ponto de conflito entre o papa dos EUA e a administração Trump, que tem trabalhado arduamente para desencorajar o desenvolvimento da IA.
“A inteligência artificial exige agora ser desarmada, libertada da lógica que a transforma num instrumento de dominação, exclusão e morte”, disse o papa numa apresentação especial da encíclica no Vaticano, um dos tipos mais influentes de documentos de ensino que o papa pode emitir.
Especialistas da indústria tecnológica, da academia e da moral católica disseram que o documento poderia tornar-se um símbolo do debate sobre a IA, um ponto para políticos, investigadores e pessoas em todo o mundo. Isto ocorre no momento em que o desenvolvimento diário da tecnologia levanta preocupações sobre a substituição de empregos de IA e inteligência humana.
Taylor Black, executivo de IA da Microsoft e diretor do instituto de IA da American University nos EUA, disse que o documento levará as pessoas “na vanguarda dessas ferramentas” a fazer perguntas como “O que significa ser humano?”
A transmissão do Vaticano incluiu comentários do cofundador da Anthropic, que está travando uma batalha legal com a administração Trump sobre o acesso à tecnologia de IA. O Vaticano decidiu incluir a Anthropic como parte do seu esforço de uma década para envolver o Vale do Silício nas discussões sobre o custo humano da IA.
Nos seus artigos, Leo criticou repetidamente a concentração de poder e de dados nas mãos de algumas pessoas do sector privado como perigosa, especialmente para as crianças e os mais vulneráveis, e apelou à monitorização externa do seu trabalho.
“Não basta apelar à ética geral; o que é necessário é um sistema jurídico forte, auditorias independentes, empregadores competentes e um sistema político que não abdique de responsabilidades”, escreveu ele. “Faltará mais IA moral se menos pessoas definirem esse comportamento.”
Leo pediu aos desenvolvedores de IA e aos líderes políticos responsáveis por controlá-los que diminuíssem o ritmo e pensassem sobre o que estão fazendo. Ele os encorajou a usar orientação moral e espiritual para fazer escolhas não para trabalhar em prol dos seus próprios interesses ou poder, mas para a melhoria da humanidade.
Os concorrentes da IA, OpenAI e Anthropic, são a segunda e a terceira empresas privadas mais ricas dos EUA, cada uma valendo centenas de milhares de milhões de dólares, mais do que o PIB de muitos países. Ambas as empresas caminham para um IPO de quase um trilhão de dólares.
O cofundador da Anthropic, Christopher Olah, acolheu bem as críticas e preocupações de Leo. Ele disse que essas verificações externas são fundamentais para uma tecnologia “bem avançada” para humanos porque há muito em jogo – “é realmente possível transferir empregos de IA em grande escala”.
“Precisamos que mais pessoas do mundo – comunidades religiosas, sociedade civil, académicos, governos – façam o que Sua Santidade fez aqui: levar isto a sério, olhar atentamente e empurrar o movimento numa direcção melhor”, disse Olah. “Os incentivos precisam de uma voz moral que não possa ceder.”
No texto metodista, o grande papa matemático reviu a história da doutrina social da Igreja Católica e aplicou os princípios fundamentais – justiça, solidariedade, dignidade do trabalho e o local onde todos os recursos são procurados – à revolução digital.
“Estou convencido de que este será o documento definidor do nosso tempo, um documento profundo e profético”, disse Paolo Carozza, professor de direito na Notre Dame Law School e presidente do Meta Oversight Board.
“O Papa Leão oferece uma voz clara, abrangente e coerente, exortando-nos a tomar medidas para construir um mundo onde a tecnologia servirá os seres humanos em vez de os degradar”, disse ele.
No capítulo mais forte do texto, Leo lamenta a forma como a IA ajudou a acelerar a “proibição da guerra”, tornando as pessoas baratas. Não mencionou um conflito específico, mas citou o “imperialismo contraditório, entre as potências que querem manter o seu poder e aquelas que querem tomar esse poder”.
Ele pediu transparência e contribuição dos desenvolvedores de IA para que a cadeia de tomada de decisões de ordens de ataque com armas de IA seja sempre conhecida. Disse que a “guerra justa” da Igreja Católica, que fornece critérios específicos para quando justificar a força, está agora “obsoleta” devido ao avanço da tecnologia bélica.
Leão assinou o texto em 15 de maio, 135º aniversário da publicação da “Rerum Novarum” (Coisas Novas), o documento doutrinário mais importante do herói homônimo de Leão, o Papa Leão XIII. Este documento discutiu os direitos dos trabalhadores, os limites do capitalismo e as obrigações que o Estado e os empregadores têm para com os trabalhadores durante a Revolução Industrial.
Tornou-se uma pedra angular do pensamento social católico moderno, e o atual papa citou-o no início do seu pontificado em relação à revolução da IA, que ele acredita colocar as mesmas questões existenciais colocadas pela Revolução Industrial há um século atrás. “Magnifica Humanitas” torna-se o capítulo final de uma história papal de um século de adaptação da “Rerum Novarum” às questões sociais do seu tempo, muitas vezes centrando-se no valor do trabalho para o florescimento humano.
A IA está a suscitar receios existenciais e visões utópicas no meio de um debate cada vez mais acalorado sobre se se tornará num facilitador que enriquece a humanidade ou num veneno tecnológico que esgota o engenho humano e elimina milhões de empregos bem remunerados.
“A procura de grandes lucros não pode justificar a escolha que sacrifica o trabalho, porque o ser humano é o fim, não o meio, e a segurança económica deve permanecer sob a dignidade humana e o bem comum”, escreveu Leo.
As autoridades do Vaticano recusaram-se a dizer quem contribuiu para a encíclica de Leão. Mas o Vaticano e as autoridades da Igreja têm mantido conversações com empresas tecnológicas do Vale do Silício há uma década.
A decisão de incluir o Antrópico no lançamento do Vaticano foi criticada por alguns que a viram como um sinal papal de aprovação da empresa de IA, que atualmente está processando a administração Trump depois de ordenar que todas as agências dos EUA parassem de usar a tecnologia Antrópica por se recusarem a permitir que os militares dos EUA a usassem indefinidamente.
Brian Boyd, parceiro religioso americano do Future of Life Institute, sem fins lucrativos, leu a introdução do cofundador da Anthropic, Olah, como um reconhecimento de sua popularidade no campo e o equivalente a uma audiência papal com um chefe de estado: não obediência.
A Anthropic é “uma grande empresa que assume muitos riscos e responsabilidades”, disse Boyd, acrescentando que a empresa “demonstrou boa vontade e integridade genuínas e interesse no diálogo”.
Winfield, Huamani e Santalucia escrevem para a Associated Press. Winfield relatou de Middletown, Connecticut, e Huamani relatou de Los Angeles. Os redatores da Associated Press Kelvin Chan em Londres e Colleen Barry em Milão contribuíram para este relatório.
