um compromisso sobre armas nucleares e IA
Seis pontos compõem o texto assinado por vencedores do Prêmio Nobel, especialistas e cientistas de projeção internacional, líderes religiosos e ex-chefes de Estado e de governo reunidos nesta quarta-feira, 16 de julho, no Capitólio, em Roma. O evento concluiu o congresso realizado no Borgo Laudato si’. O desarmamento, o desenvolvimento responsável das novas tecnologias e o compromisso de promover “uma paz desarmada e desarmante” são as linhas orientadoras da declaração.
“A humanidade
encontra-se em um momento decisivo de sua história.” Assim começa a “Declaração
de Roma por uma Paz Desarmada e Desarmante na Era da Inteligência Artificial,
das Armas Nucleares e Autônomas, dos Novos Protocolos Digitais e dos Modelos
Emergentes de Desenvolvimento Digital”, assinada na manhã desta quinta-feira,
16 de julho, no Capitólio, em Roma, ao término dos dois dias de trabalhos
realizados no Borgo Laudato si’, sob o tema: “Assembleia Global dos Prêmios
Nobel sobre Inteligência Artificial e Guerra Nuclear”. O evento contou com
a participação de laureados com o Prêmio Nobel, importantes especialistas em
inteligência artificial, ex-chefes de Estado e de governo, além de
representantes de universidades e instituições de pesquisa entre as mais
influentes do mundo.
Trata-se de um
“desafio sem precedentes”, afirma o texto, que interpela a todos, sobretudo
porque a inteligência artificial oferece grandes oportunidades, mas
provavelmente provocará “uma perda massiva de postos de trabalho e acentuará a
competição econômica entre as potências nucleares”. Concentrando-se nas mãos de
poucos países e grandes empresas, a IA pode provocar profundas assimetrias de
poder. Desenvolvendo-se em um ritmo sem precedentes, está destinada a produzir
“transformações econômicas, militares e sociais de grande alcance”. A
declaração destaca ainda que a crescente corrida armamentista nuclear caminha
lado a lado com “uma corrida pela inteligência artificial igualmente perigosa”.
Por isso, acolhendo o convite do Papa Leão XIV para promover “uma paz desarmada
e desarmante”, os signatários rejeitam a ideia de que a segurança possa ser
fundamentada no medo, na dominação, na ameaça e na destruição mútua.
Interesse da
humanidade
Nos seis pontos
que compõem o documento, faz-se um apelo para “desarmar a próxima corrida
armamentista, tanto no campo da inteligência artificial quanto no nuclear,
antes que sejam elas a determinar a face do próximo século”. É forte o
convite dirigido aos desenvolvedores de sistemas de inteligência artificial
para que atuem no interesse da humanidade, “em conformidade com o direito
internacional e os direitos humanos”. Daí o apelo para que organizações e
governos monitorem os processos totalmente automatizados nos sistemas de
inteligência artificial.
Um tratado
internacional para os sistemas de controle da IA
“A decisão final de empregar uma arma nuclear — afirma a declaração — jamais deve ser confiada a um sistema automatizado.” Por isso, pede-se a adoção de “um tratado internacional que proíba a integração irresponsável da inteligência artificial nos sistemas de comando, controle e lançamento de armas nucleares, garantindo que permaneça sempre um controle humano efetivo e significativo”. O objetivo é impedir o uso malicioso da IA em operações cibernéticas e em ataques contra infraestruturas nucleares. “Promovemos o desenvolvimento e o uso responsável da inteligência artificial — afirma o texto — para melhorar o bem-estar humano, acelerar o progresso científico e médico, proteger o meio ambiente, fortalecer a resiliência das sociedades e promover a paz, o desenvolvimento sustentável e o bem comum.”
Criar um bem comum digital
Os últimos
pontos dizem respeito à necessidade de “identificar novos caminhos
institucionais para uma governança global da inteligência artificial e
favorecer, no futuro, a implementação de iniciativas de governança global nesse
campo”. A declaração apoia iniciativas inspiradas na
encíclica Magnifica humanitas do Papa Leão XIV e sustenta o Painel
Científico Internacional Independente das Nações Unidas sobre Inteligência
Artificial. O apelo dos signatários é para a criação de um “bem comum
digital” (digital commons), que favoreça a coleta e o compartilhamento dos
dados necessários para aprofundar o conhecimento e sustentar ações eficazes
relacionadas às armas nucleares e à inteligência artificial. De fato, o
mundo enfrenta múltiplas ameaças interligadas, cujas consequências recaem
frequentemente sobre aqueles que não têm acesso nem controle sobre as
tecnologias que as geram.
Desarmamento
nuclear
Na conclusão da
declaração, é solicitado com urgência o início de negociações para alcançar “a
eliminação verificável e irreversível das armas nucleares”. São
reafirmados, assim, os compromissos assumidos no Tratado de Não Proliferação de
Armas Nucleares (TNP) e no Tratado sobre a Proibição de Armas Nucleares
(TPNW). Daí o pedido aos Estados para que interrompam a corrida
armamentista, apostando no diálogo e no cumprimento das obrigações
assumidas. “As nações que possuem armas nucleares — lê-se no documento —
devem promover políticas e doutrinas que reduzam progressivamente o papel
desses armamentos, reforcem a estabilidade estratégica e diminuam o risco de
seu primeiro uso e de uma guerra com consequências catastróficas.” “Está
em jogo — escrevem os signatários — a nossa sobrevivência e a das futuras
gerações.”
Benedetta Capelli - Vatican News


