Um drone armado e zumbindo paira sobre o campo de batalha, seus sensores buscando com fria precisão o próximo alvo. Com o apertar de um botão, um soldado em terra ativa o “modo exterminador”, liberando a máquina implacável para buscar e destruir tudo — e todos — que ela considerar um inimigo.
Isso não é mais ficção científica. Possivelmente aconteceu já há dois anos, num teste de armamento na Ucrânia, matando vários soldados russos.
Acredita-se que o incidente, divulgado em junho pelo diretor-executivo de uma empresa ucraniana de drones, é a primeira baixa totalmente automática em combate. E com superpotências mundiais investindo dezenas de bilhões de dólares em tecnologia de armas autônomas, os robôs assassinos podem estar do uso generalizado.
Em meio a essa pressão, a Igreja emergiu como uma das vozes mais consistentes contra a proliferação de sistemas de armas autônomas letais (LAWS, na sigla em inglês), enfatizando que as decisões de vida e morte na guerra não podem ser confiadas às máquinas.
Mas, quando se trata da questão de saber se a IA tem algum lugar na guerra moderna, a resposta, de uma perspectiva católica, é menos clara. E, à medida que líderes militares dos EUA alegam que a aparente inevitabilidade do uso de armas autônomas por adversários obriga as forças armadas dos EUA a fazerem o mesmo, fica a questão de saber se os soldados terão liberdade de seguir suas consciências e optar por não usar essas armas de forma imoral.
Embora o Catecismo da Igreja Católica diga que "o mal e as injustiças acompanham todas as guerras", a Igreja diz também que os indivíduos e os países têm o direito à autodefesa contra um agressor injusto e podem usar força letal, se necessário.
A aplicação da doutrina da Igreja aos LAWS, especificamente, baseia-se no fato de que, para que uma decisão de vida ou morte em tempos de guerra seja justa, ela deve ser tomada por uma pessoa humana como último recurso em casos de legítima defesa. Essas decisões não podem ser confiadas só a máquinas.
Em sua encíclica Magnifica humanitas, de maio deste ano, o papa Leão XIV disse categoricamente que "não é permitido confiar decisões letais ou irreversíveis a sistemas artificiais" e expressou preocupação com a possibilidade de a IA tornar a guerra mais "viável".
“A inteligência artificial não elimina a desumanidade intrínseca do conflito; na verdade, ela só pode provocar conflitos mais rapidamente e torná-los mais impessoais, diminuindo o limiar para o recurso à violência, transformando a defesa em previsão de ameaças e, assim, reduzindo as vítimas a meros dados. Desse modo, ela nos acostumará à ideia de que a violência é inevitável e só precisa ser otimizada", escreveu o papa.
Charles Camosy, teólogo moral e professor da Catholic University of America, tem se manifestado frequentemente em defesa da visão da Igreja sobre os LAWS e diz que o momento atual é uma “grande oportunidade” para disseminar a visão católica sobre a dignidade humana na guerra. Em março, ele se uniu a outros teólogos morais e especialistas em ética para apoiar publicamente a decisão da empresa de inteligência artificial Anthropic de rejeitar as exigências do Departamento de Defesa dos EUA sobre sua tecnologia relacionada à vigilância em massa e armas autônomas.
Num depoimento recente sobre armas autônomas para a Comissão de Direitos Humanos Tom Lantos (TLHRC) do Congresso dos EUA, Camosy disse que qualquer uso de IA na guerra deve preservar o julgamento humano — não só no sentido de assumir a responsabilidade por decisões ou erros cometidos por armas de IA, mas, principalmente, preservando a capacidade dos soldados de reconhecer seus adversários como seres humanos feitos à imagem de Deus.
“Todo ser humano, em todos os lados de todos os conflitos, tem direito à dignidade de ser visto e reconhecido como pessoa, e não processado como um dado”, disse Camosy em seu depoimento.
Joseph Capizzi, diretor do Instituto McGrath para a Vida da Igreja na Universidade Notre-Dame e especialista em teoria da guerra justa, expressou uma opinião semelhante, dizendo que nenhum sistema jamais poderá substituir completamente o julgamento humano.
“Independentemente do nível de sofisticação, um programa não consegue compreender a humanidade de uma potencial vítima da mesma forma que outro ser humano”, disse ele ao jornal National Catholic Register, da EWTN. “Essa potencial vítima só pode ser um mero dado num cálculo… As decisões que a IA toma não são julgamentos; elas não envolvem os modos plenamente humanos de informar e engajar a consciência para a ação”.
A posição da Igreja contra os LAWS não está em desacordo com o sentimento público: organismos internacionais como a Organização das Nações Unidas pediram explicitamente a proibição desses chamados robôs assassinos, e pelo menos três quartos dos americanos (75%) concordam que as decisões que envolvem o uso de força letal na guerra “não devem ser deixadas inteiramente a cargo de sistemas de inteligência artificial”, segundo pesquisas de opinião recentes.
Mas, apesar da opinião pública e da constante oposição da Igreja, a corrente no setor militar dos EUA flui na direção oposta. O general Dan Caine, chefe do Estado-Maior Conjunto do país, disse no final de abril que as armas autônomas serão uma “parte fundamental e essencial de tudo” o que as forças armadas dos EUA fizerem no futuro. Depois, em junho, o Comitê de Serviços Armados do Senado do país aprovou uma disposição para o ano fiscal de 2027 com o objetivo de agilizar a aquisição e a entrega de sistemas de armas não-tripuladas em todas as forças armadas dos EUA.
Apesar disso, a política militar dos EUA atualmente não permite o uso de armas totalmente autônomas. A Diretriz 3000.09 do Departamento de Defesa dos EUA, de 2012 e atualizada em janeiro de 2023, exige que os comandantes humanos mantenham "níveis apropriados de julgamento humano" no uso da força por sistemas de armas autônomos e semiautônomos. Um projeto de lei bipartidário atualmente em análise no Congresso dos EUA visa transformar essa diretriz em lei.
Mas um artigo recente de um pesquisador do Exército dos EUA diz que, para que os EUA não percam nenhuma vantagem sobre seus rivais geopolíticos, as políticas devem mudar para permitir que armas autônomas operem em "velocidade de máquina" depois que um comandante autorizar inicialmente um ataque, permitindo assim que elas ajam e matem por conta própria.
Essa possível mudança de política é vista por alguns na comunidade militar como inevitável. Robôs assassinos estão a caminho, “independentemente do que se acredite sobre a ética envolvida”, escrevem o major-general aposentado e analista de políticas John Ferrari e o pesquisador Dillon Prochnicki em outro artigo recente do American Enterprise Institute (AEI), instituto de tendência conservadora.
Camosy disse que nem mesmo a ameaça de sistemas de armas antiaéreas controlados pela China poderia justificar o uso dessas armas pelos EUA, pelo menos não de uma perspectiva católica. Segundo ele, o catolicismo não é consequencialista. A moralidade dos atos não depende das consequências que ele produza, mas de princípios anteriores a ele. Assim, certos atos na vida humana jamais devem ser praticados, por qualquer motivo, independentemente das consequências.
Quanto à possibilidade de desenvolver sistemas de armas letais como meio de dissuadir outros países de usá-los, a Igreja historicamente tem alertado contra a aplicação dessa lógica. Em meio à corrida armamentista nuclear entre os EUA e a União Soviética, por exemplo, o papa são João Paulo II disse que a dissuasão nuclear só poderia ser justificada condicionalmente como um passo rumo ao desarmamento total.
Embora o papa Leão XIv tenha preocupações significativas sobre o uso da inteligência artificial na guerra, a questão de se essa tecnologia tem ou não lugar no campo de batalha permanece aberta a interpretações entre os católicos.
Capizzi disse ao Register que acredita que o apelo do papa Leão XIV em sua recente encíclica Magnifica humanitas para submeter a IA às "mais rigorosas restrições éticas" não impede o uso da IA para alguns fins militares.
“Nem todo uso de IA na guerra é imoral. A guerra moderna — e todas as atividades modernas — envolve computação extremamente sofisticada”, disse ele.
Craig Albert, professor especializado em estudos de segurança nacional na Universidade de Augusta, Geórgia, EUA, escreveu recentemente um artigo dizendo que, embora não seja permitido confiar decisões letais e irreversíveis a sistemas autônomos, Albert acredita que o imperativo do papa de impor "restrições éticas rigorosas" às armas aprimoradas por IA não deve equivaler a uma abstenção completa de capacidades militares habilitadas por IA.
Albert disse depois ao Register que acredita que a IA tem o potencial de auxiliar soldados e comandantes, aprimorando a precisão. Isso pode abranger a capacidade de recolher ou redirecionar mísseis, o que poderia levar a menos baixas civis e outros erros, aumentando — na opinião de Albert — a proporcionalidade e a discriminação necessárias para o uso apropriado da força em uma guerra justa.
Já Camosy, reiterando sua posição contrária à ideia inaceitável de que uma IA possa substituir seres humanos no processo de tomada de decisões letais, também não descartou a possibilidade de a IA desempenhar algum papel em contextos militares.
“Precisamos refletir mais sobre o papel da IA na guerra de forma geral, mas existem bons argumentos a favor do uso da IA para fins de inteligência, por exemplo”, disse Camosy ao Register em comentários por escrito, classificando tais usos como uma “questão em aberto” para os católicos.
Caso armas autônomas venham a ser amplamente usadas pelas forças armadas dos EUA, permanece incerto se um soldado de qualquer religião poderia, por motivos de consciência, se opor ao uso delas. Camosy, em seu recente depoimento, destacou esse fato e pediu ao Congresso dos EUA que aprove leis específicas de proteção aos soldados que se recusem a implantar ou supervisionar um sistema que toma decisões letais de alvos sem supervisão humana.
Stuart Swetland, veterano da Marinha dos EUA e presidente do Donnelly College em Kansas City, disse que deveria haver um mecanismo pelo qual os soldados pudessem optar por não participar de uma atividade ou conflito específico caso o considerassem injusto. Ele disse também que, se um soldado receber ordens para acionar uma arma totalmente autônoma sob a atual estrutura legal, ele deve saber que os soldados não são obrigados a obedecer — e, na verdade, não devem obedecer — a ordens sabidamente ilegais.
Mesmo sem proteções específicas, Swetland disse que os católicos devem permanecer firmes na recusa de ultrapassar o limite e implantar armas totalmente autônomas, mesmo que cenários complexos possam ser criados para fazê-las parecer justificadas.
Acima de tudo, os soldados católicos não devem aceitar o relativismo moral na guerra, disse Swetland.
Fazer isso, disse o padre, significaria que "literalmente o inferno seria solto".
Jonah McKeown é jornalista e produtor de podcasts de Catholic News Agency. Tem um mestrado na Escola de Jornalismo da Universidade de Missouri e trabalhou como escritor, produtor radial e camarógrafo.
Visão de Leão XIV sobre inteligência artificial reflete regras da Europa, diz porta-voz da União Europeia à EWTN
O porta-voz da Comissão Europeia para a soberania tecnológica, segurança e democracia, Thomas Regnier, disse à EWTN News que o apelo do papa Leão XIV para que a inteligência artificial (IA) sirva à dignidade humana e ao bem comum reflete princípios já incorporados na abordagem da União Europeia (UE) à regulamentação da tecnologia.
Conferência Episcopal Portuguesa reflete sobre inteligência artificial nas Jornadas Pastorais
A Conferência Episcopal Portuguesa (CEP) realiza as Jornadas Pastorais nos dias 15 e 16 de junho, com o tema “Anúncio da Fé na Nova Revolução Tecnológica (IA) e na Nova Cultura”. O objetivo é refletir sobre “os desafios e oportunidades que a Inteligência Artificial, as redes sociais e a cultura digital colocam à vida e à missão da Igreja”, diz nota enviada à Agência Ecclesia, da CEP.
O papa Leão XIV aprovou a criação de uma comissão da Santa Sé sobre inteligência artificial (IA) para coordenar a resposta da Santa Sé à rápida expansão da tecnologia e suas implicações para a dignidade humana, o desenvolvimento integral e o uso interno da IA pela Igreja.
O encontro funcionará como “um espaço para escuta mútua, discernimento e exploração compartilhada de determinada questão”, disse o cardeal Giovanni Battista Re.
'Não renuncie ao próprio pensamento', adverte Leão XIV sobre inteligência artificial
Motivado pela 60º Dia das Comunicações Sociais, celebrado hoje (24), dia em que a Igreja recorda a memória de são Francisco de Sales, o papa Leão XIV enviou uma mensagem pedindo aos comunicadores que não renunciem ao próprio pensamento na era da Inteligência Artificial (IA).
---
Fonte: ACI Digital
URL Original: https://www.acidigital.com/noticia/69311/os-robos-assassinos-chegaram-e-a-igreja-esta-reagindo
Comentários