"Desarmar a IA"
Leão XIV explica
o sentido e a gênese de sua primeira encíclica sobre a “custódia da pessoa
humana na era da Inteligência Artificial”, instrumento que influencia a vida,
molda decisões e muda a forma de combater a guerra. O Pontífice pede que se
liberte a IA “das lógicas que a transformam em instrumento de domínio, exclusão
ou morte” e pede o “desarmamento” das tecnologias para que se coloquem a
serviço do “bem comum”, exortando a construir juntos o “futuro para a família
humana”.
Assim como “o
Leão de outrora”, o Papa Leão XIII, também o “Leão” de hoje, o Papa Leão XIV,
volta seu olhar para as “res novae”, para aquelas “coisas novas” que desafiam o
tempo, a história e a humanidade. E se naquela época era a revolução
industrial, com as muitas e complexas mudanças no mundo do trabalho e as novas
formas de pobreza impostas, hoje é a Inteligência Artificial, com seu potencial
e seus perigos, que está sob os olhos e no coração do Pontífice, que lança uma
invocação universal: "Desarmar a IA".
A Inteligência Artificial hoje precisa ser "desarmada", libertada das lógicas que a transformam em instrumento de dominação, exclusão ou morte.
Discernir o
futuro da humanidade
O Papa Leão XIV
fala por metáforas, mas também por referências históricas, em seu discurso
proferido na Sala do Sínodo, na apresentação da Magnifica humanitas, a primeira
encíclica de seu pontificado, publicada na manhã desta segunda-feira, 25 de
maio. Nunca antes um Papa esteve na Sala para apresentar ao público um seu
documento magisterial. É também a primeira vez que, além de cardeais e
professores, se sentam ao lado do Pontífice especialistas em alta tecnologia.
Um sinal da importância e da atenção ao tema abordado na encíclica, um símbolo
e sintoma da "gravidade do momento" que estamos vivendo e que causa
preocupação na Igreja, chamada a "decifrar coisas novas à luz do Evangelho
e da dignidade do ser humano". Uma angústia que Leão XIV enfrenta com
confiança:
A confiança de que, juntos, podemos discernir as grandes questões do nosso tempo e, portanto, o futuro da humanidade.
Nos passos de
Leão XIV
Cento e trinta e
cinco anos atrás, o Papa Pecci observou a situação difícil dos trabalhadores e
das famílias desenraizadas e empobrecidas pela rápida transformação industrial
e “compreendeu que a Igreja não podia permanecer à margem”. Num momento de “mudança
de época” que “ameaçava a dignidade humana”, ele escreveu a encíclica Rerum
Novarum. No mesmo espírito, o Papa Prevost — que assinou simbolicamente a
Magnifica humanitas em 15 de maio, dia da publicação da Rerum Novarum — diz que
se sente “chamado a olhar para outra grande transformação com os olhos da fé,
com a clareza da razão, com a abertura ao mistério e com os gritos dos pobres e
da terra que ressoam em” seu “coração”.
Este é o sentido
das aproximadamente 200 páginas, resultado de uma reflexão de dez anos no seio
da Santa Sé sobre as novas tecnologias e a Inteligência Artificial, que hoje
impactam "muitas áreas de nossas vidas", influenciam decisões e estão
"mudando radicalmente a forma como a guerra é travada".
Fruto da escuta
Há tantas
contribuições, reflexões e sugestões nesta encíclica que — como o próprio Papa
explica — tem uma única raiz: "A escuta". A escuta de cientistas e
engenheiros que "trabalham com sincero entusiasmo em tecnologias capazes
de aliviar sofrimentos imensos"; a escuta de "líderes políticos e
funcionários públicos que perseveraram na busca por regras justas"; a
escuta de "pais e professores profundamente preocupados com o futuro das
novas gerações".
Também chegaram até mim outros relatos, bastante perturbadores, sobre sistemas de armas cada vez mais autônomos, praticamente fora do controle humano. Estou recebendo relatos muito preocupantes sobre algoritmos que podem negar acesso a saúde, trabalho e segurança com base em dados contaminados por preconceito e injustiça.
Junto com essas
vozes, ressoou também forte “o silêncio de quem não tem voz quando as decisões
são tomadas”, explica o Papa Leão XIV, “decisões que correm o risco de gerar
novas formas de exclusão e sofrimento”.
Desarmar…
De tudo isso,
desenvolveu-se uma convicção que o próprio Pontífice chama de
"perturbadora" e que norteia a encíclica: "A Inteligência
Artificial deve ser desarmada". "A palavra é forte, eu sei",
admite Leão XIV, "mas foi escolhida deliberadamente porque este momento
precisa de palavras capazes de chamar a atenção, despertar consciências e
indicar o caminho a seguir para a humanidade."
… e construir
A Igreja está
comprometida há muito tempo com o desarmamento nuclear, como um "serviço à
paz e à dignidade da família humana". Da mesma forma, "a Inteligência
Artificial requer hoje que seja desarmada", porque "como a energia
nuclear, deve estar a serviço de todos e do bem comum". E "as
decisões sobre a tecnologia nunca devem ser separadas da consciência e da
responsabilidade".
A paz, e não apenas a ausência de guerra, é a justiça em ação. Mas quando a tecnologia enfraquece nosso senso crítico, a própria paz fica em risco. Desarmar, porém, não basta. Precisamos construir.
Salvatore Cernuzio – Vatican News
__________________________________________________
A encíclica de Leão XIV:
a IA deve servir à
humanidade, não ao poder de poucos
No 135º
aniversário da “Rerum novarum”, o Pontífice reflete, em sua primeira encíclica,
“Magnifica humanitas”, sobre a Doutrina Social da Igreja na era da inteligência
artificial. O apelo para preservar “uma magnífica humanidade habitada por
Deus”, promovendo a verdade, a dignidade do trabalho, a justiça social e a paz.
Na era digital, é preciso desarmar a IA e superar a teoria da “guerra justa”,
relançando o diálogo e o multilateralismo.
.jpeg)
“A magnífica humanidade criada por Deus encontra-se hoje diante de uma escolha decisiva: erguer uma nova torre de Babel ou construir a cidade onde Deus e a humanidade habitam juntos”. O incipit da primeira encíclica de Leão XIV – Magnifica humanitas, “sobre a salvaguarda da pessoa humana na era da inteligência artificial” – resume suas razões fundamentais e seu objetivo. Publicada hoje, segunda-feira, 25 de maio, foi assinada pelo Pontífice no último dia 15 de maio, no 135º aniversário da promulgação da Rerum novarum de Leão XIII. E de seu predecessor, o Papa Prevost recolheu a herança, escrevendo uma encíclica social que aborda um dos principais desafios da época contemporânea: a inteligência artificial. Dividida em cinco capítulos, Magnifica humanitas parte de um pressuposto: a tecnologia não é uma “força antagônica em relação à pessoa” (4), nem “um mal em si mesma” (9). No entanto, ela “não é neutra, pois assume o rosto daqueles que a concebem, a financiam, a regulam e a utilizam”. Daí, o apelo do Pontífice para “construir o bem” e “permanecer humanos”, seguindo a lógica da corresponsabilidade corajosa e da comunhão.
A Doutrina Social da Igreja
O primeiro
capítulo – Um pensamento dinâmico fiel ao Evangelho – repercorre a
Doutrina Social da Igreja (DSI) no magistério recente e no Concílio Vaticano
II, destacando “o seu caráter dinâmico” (17). Longe de ser “um manual de
princípios e normas a serem aplicados”, a DSI é antes uma “teologia da comunhão
na história” (27) que orienta a leitura dos acontecimentos à luz do Evangelho.
No segundo capítulo, Leão XIV enumera os Fundamentos e princípios da
Doutrina Social da Igreja: entre os primeiros, inclui a dignidade da pessoa,
criada à imagem e semelhança de Deus; a inviolabilidade dos direitos humanos,
entre os quais o direito à vida “desde a concepção até ao seu fim natural”; o
reconhecimento dos direitos das minorias, com especial atenção às mulheres, para
que sejam verdadeiramente ouvidas e valorizadas (57).
LEIA
AQUI O TEXTO INTEGRALE DA ENCÍCLICA DE LEÃO XIV "MAGNIFICA
HUMANITAS"
É inaceitável subjugar uma nação
Quanto aos princípios da DSC, Leão XIV aponta cinco: o primeiro é o bem comum, “forma social da dignidade reconhecida a cada um” (59). Em um ponto, o Papa é particularmente firme: “A promoção do bem comum nunca pode ser separada do respeito ao direito dos povos de existir, de preservar sua identidade e de contribuir com sua originalidade para a família das nações”. Consequentemente, “qualquer tentativa ou projeto de eliminar ou subjugar uma nação é gravemente imoral e, portanto, inaceitável” (64).
A tecnologia não deve estar nas mãos de poucos
O segundo
princípio diz respeito à destinação universal dos bens: aí e em outros pontos
da encíclica, Leão XIV insiste na necessidade de que as tecnologias não se
concentrem nas mãos de poucos, alimentando a disparidade entre os incluídos e
os excluídos da revolução digital (67). Daí decorrem o terceiro e o quarto
princípios, a saber, a subsidiariedade (68) – que exige a superação do
paternalismo e do assistencialismo em favor da corresponsabilidade – e a
solidariedade (73), “princípio e virtude” que se opõe à indiferença.
A justiça social
O quinto
princípio da DSC é a justiça social: na era digital, ela deve garantir a todos
um acesso equitativo às oportunidades, proteger os mais vulneráveis, combater o
ódio e a desinformação e submeter o uso das tecnologias ao controle público.
Leão XIV aponta os migrantes como um “teste decisivo” nesse campo: a maneira
como a sociedade os trata demonstra “se a ideia de justiça é guiada pelo medo
ou pela fraternidade”. Daí, o apelo tanto para salvaguardar “o direito à
esperança” daqueles que são forçados a partir, garantindo-lhes vias seguras e
legais, acolhimento digno e integração; quanto para promover “o direito de
permanecer” de cada um em sua terra, em paz e segurança, enfrentando “as causas
profundas” das migrações (81). O Pontífice entende que os cinco princípios
acima mencionados se dirigem também à Igreja, chamada a “um exame de
consciência”, a ouvir as “vítimas de abusos espirituais, econômicos,
institucionais, sexuais, de poder e de consciência”, pois isso “é parte
integrante de um caminho de justiça, que compreende o reconhecimento do dano, a
reparação justa e a prevenção” (89).
.jpeg) |
| Leão XIV e o Arcebispo Paolo Rudelli, substituto da Secretaria de Estado |
Um código ético para a IA
O terceiro
capítulo – Técnica e domínio. A grandeza da pessoa humana diante das
promessas da IA – ressalta que é preciso abordar a IA com cautela,
mantendo clareza sobre as responsabilidades em todas as suas etapas
(accountability) e apostando em políticas e marcos jurídicos adequados,
vigilância independente e educação dos usuários. Acima de tudo, é necessário um
código ético submetido a critérios de justiça social compartilhada, pois “não
serve uma IA mais moral se essa moral for decidida por poucos” (107). Sem
deixar de lado o impacto ambiental das novas tecnologias, que exigem grandes
quantidades de energia e água, afetando a Criação (101).
Desarmar a IA
É preciso “desarmar a IA” – prossegue Leão XIV – para subtraí-la à lógica da competição militar, econômica e cognitiva; para romper a equivalência entre poder técnico e direito de governar; para subtraí-la aos monopólios e impedir que domine o humano. Amplo espaço é dedicado à crítica do transumanismo e do pós-humanismo, que interpretam o progresso como a superação dos limites do humano. Em vez disso, o limite não é um defeito a ser eliminado, mas uma dimensão constitutiva da pessoa, pois é na fragilidade e na finitude que amadurecem a relação e a abertura a Deus e ao outro. Fazer a tecnologia crescer eliminando os limites do humano significa, portanto, fazer o coração regredir. Magnífica e, ainda assim, ferida, a humanidade “não deve ser substituída nem superada”. A tecnologia pode aliviar seus sofrimentos e abrir-lhe novas possibilidades, mas não deve negá-la naquilo que lhe é próprio: “a capacidade de relação e de amor” (126). Diante da IA, a verdadeira alternativa não está entre o entusiasmo e o medo, mas entre duas formas de construir o progresso: a serviço da pessoa e dos povos ou das lógicas do poder (129).
Uma ecologia da comunicação
No quarto
capítulo – Preservar o humano na transformação. Verdade, trabalho,
liberdade –, a encíclica defende uma “ecologia da comunicação” baseada na
verdade. O Papa pede transparência nos critérios de seleção de conteúdos,
proteção dos dados pessoais, um jornalismo sério fundamentado na argumentação e
na verificação, uma nova consciência no uso “correto e crítico” da IA e a
integração dos conhecimentos. Uma comunicação transparente e leal é exigida
também da Igreja, sobretudo nos casos de injustiças e abusos. É fundamental
também o apelo a uma aliança educativa renovada, para que nos jovens não se
apague “o desejo de fazer perguntas” por causa de máquinas perfeitas que fazem
parecer inútil o pensamento humano (140). Leão XIV pede ainda que se aposte na
escola como lugar onde se aprende a “buscar e amar a verdade” (147).
A dignidade do trabalho
Na “quarta
revolução industrial” representada pela transição digital, o Pontífice ressalta
então a importância de proteger a dignidade do trabalho, projetando sistemas
centrados na pessoa e não apenas no desempenho. A tecnologia pode certamente
aliviar o homem de tarefas pesadas ou repetitivas, mas não deve levar ao
desemprego em nome da redução de custos e do aumento do lucro. Nesse sentido,
espera-se também uma renovação das organizações sindicais.
Paz e desenvolvimento
O Pontífice destaca, em seguida, a necessidade de superar o PIB como parâmetro do grau de desenvolvimento de um país, apostando, em vez disso, na dignidade do trabalho, na prosperidade compartilhada, na redução das desigualdades e na preservação do meio ambiente. A finança pela finança é, de fato, diferente da finança para o desenvolvimento (159-160). E, seguindo os passos de São Paulo VI, destaca-se a interdependência entre paz e desenvolvimento, almejando uma cooperação internacional capaz de definir estratégias comuns, sobretudo em favor dos países e dos grupos mais vulneráveis, pois a prosperidade contribui para a paz “somente se for difundida, inclusiva e sustentável” (163). É forte, ainda, a referência à família, fundada na união estável entre um homem e uma mulher: ela é “bem social primário”, “célula fundamental e insubstituível de toda organização comunitária” (165), que deve ser apoiada também por meio de políticas do trabalho em favor da estabilidade e de ritmos humanos, para assim proteger a capacidade social de “construir o futuro”.
A “arquitetura da visibilidade”
Por fim, a
questão da liberdade humana: numa época em que as plataformas digitais são
projetadas para capturar o tempo dos usuários e explorar suas fragilidades, é
preciso fortalecer a liberdade interior de cada um, enfrentando também o risco
do controle social decorrente da coleta massiva de dados e do uso de sistemas
algorítmicos. Perfilar, prever e orientar comportamentos, de fato, é “um novo
poder” (171) que corre o risco de discriminar os mais fracos. O Papa deplora,
em particular, a “arquitetura da visibilidade” que amplifica apenas o que é
visível, moldando as opiniões.
Novas formas de escravidão e novo colonialismo
A IA também gera
novas formas de escravidão, como a dos “corpos marcados, mutilados, consumidos”
(173) daqueles que trabalham na extração das “terras raras” necessárias à
tecnologia. Portanto, a luta contra as novas formas de escravidão é outro
“teste decisivo para o discernimento ético” da transformação digital. Leão XIV
ressalta que “a Igreja renova sua firme condenação contra toda forma de
escravidão, tráfico e mercantilização de pessoas”. Ao mesmo tempo, o Papa pede
“sinceramente perdão” pelo atraso com que a Igreja, no passado, condenou “o
flagelo da escravidão” (174-176). A encíclica também faz referência às “novas
terras raras do poder”, ou seja, as informações vitais – por exemplo, sobre
saúde e demografia – utilizadas para orientar estratégias econômicas: trata-se
de uma face inédita do colonialismo que transforma vidas pessoais em
informações exploráveis, tornando o ambiente digital um “espaço de predação”
(178-179).
Superar a teoria da “guerra justa”
No quinto capítulo — A cultura do poder e a civilização do amor —, Leão XIV volta seu olhar para a guerra: “A revolução digital está modificando a gramática dos conflitos” e, sem uma abordagem ética, as decisões sobre a vida e a morte das pessoas serão cada vez mais impessoais, com o recurso à força considerado uma “opção imediata e viável” (182-183). Na base de tudo está uma “cultura do poder” que normaliza a guerra e a reabilita como “instrumento de política internacional”, favorecendo o rearmamento. Sobre a opinião pública pesam hoje também as narrativas midiáticas polarizadoras, bem como “uma preocupante perda de memória histórica” que priva de uma visão de longo prazo (191). Consequentemente, hoje a paz não é mais entendida como uma tarefa a ser assumida, mas como um intervalo entre os conflitos. Por isso, Leão XIV reitera que – sem prejuízo do direito à legítima defesa no sentido mais estrito – é preciso superar a teoria da “guerra justa”, promovendo, em vez disso, o diálogo, a diplomacia e o perdão (192).
Nenhum algoritmo torna a guerra moralmente aceitável
O Papa Prevost
não deixa de deplorar o crescimento da indústria bélica, a corrida aos
armamentos nucleares e o surgimento de novos atores armados – entre os quais os
jihadistas – que visam perpetuar os conflitos como fonte de poder e de renda. É
clara, ainda, a advertência contra o uso de armas ligadas à IA, pois “não
existe algoritmo que possa tornar a guerra moralmente aceitável”. São
necessárias restrições éticas rigorosas, compartilhadas internacionalmente,
baseadas na responsabilidade pessoal e na proteção dos civis, pois “toda
tecnologia que facilita atacar sem ver o rosto do outro abaixa o limiar moral
do conflito” (199).
A crise do multilateralismo
A cultura do
poder decorre também da crise do multilateralismo e do surgimento de um
“multipolarismo desordenado e conflituoso” (201). A força do direito é
substituída pelo direito do mais forte; as lógicas do poder prevalecem sobre a
construção da paz e as instituições criadas para zelar pelo destino comum dos
povos estão agora enfraquecidas. A esse respeito, o Papa deseja para a ONU
“reformas profundas” que superem a atual crise de valores em favor do bem comum
(226).
A civilização do amor
O cristão é
chamado a responder à cultura do poder construindo “a civilização do amor” e
escolhendo entre alimentar a lógica da força ou zelar pela paz. O Papa aponta
cinco “caminhos de responsabilidade”: desarmar as palavras dizendo a verdade;
construir a paz na justiça; assumir o olhar das vítimas tomando posição, pois
há conflitos em que “não é justo permanecer neutro”; cultivar “um saudável
realismo” que busque caminhos de paz viáveis com os fatos, não apenas com
palavras. Por fim, relançar o diálogo, passando de uma cultura do poder para
uma cultura da negociação. É decisivo também “o diálogo entre as religiões”,
portador de uma mensagem de paz: “Quem usa o nome de Deus para legitimar o
terrorismo, a violência ou a guerra trai o seu rosto” é a advertência de Leão
XIV (223).
A magnífica humanidade
Ao concluir a
carta, o Pontífice convida os fiéis a viver as novas tecnologias à luz do
Evangelho, seguindo “um itinerário de vida cristã sóbrio e exigente”. Para que,
mesmo na era da IA, todos possam testemunhar “a beleza de uma magnífica
humanidade habitada por Deus”.
_____________________________________________________
Assista à apresentação da Magnifica humanitas:
Isabella Piro – Vatican News
Nenhum comentário:
Postar um comentário