"Poderia parecer estranho", admite ele, que o cofundador da Anthropic, uma das empresas de inteligência artificial mais influentes, entre no debate aberto pela primeira encíclica do Papa Leão XIV, Magnifica humanitas, dedicada à salvaguarda da pessoa humana na era da IA. No entanto, é precisamente no coração deste território, marcado pelo lucro, competição geopolítica e ambição desenfreada, que se sente a necessidade de uma voz capaz de resistir aos "incentivos", de proferir palavras "incômodas", de recordar aquilo que as máquinas jamais possuirão: corpo, consciência e senso moral.
Uma voz que também denuncie o lado oculto do progresso. As crianças no Sul Global obrigadas a trabalhar dias inteiros em meio a poeira tóxica e materiais triturados para extrair as terras raras necessárias para alimentar o "fluxo de cálculo" do mundo digital. Governos incapazes de "olhar além do PIB". É por isso que o debate sobre inteligência artificial não é "neutro". Recordar hoje a centralidade da pessoa humana significa intervir em um contexto de fratura histórico, suspenso entre o desespero e a tentação prometeica de se tornar a própria divindade. Nesse cenário, a voz do Pontífice aparece não como uma "interferência indesejada", mas como a continuação de uma longa vigilância iniciada há 135 anos com a Rerum Novarum: desmascarando os ídolos de cada época. Os de hoje imaginam a humanidade como "engrenagens do Estado, agentes de mercado ou instrumentos de uma ordem algorítmica", redimíveis apenas pelas promessas do pós-humanismo e do transhumanismo. Mas, em uma época em que "o poder faz a razão" e, ainda assim, cresce mais rápido do que a sabedoria necessária para governá-lo, a verdadeira urgência permanece a mesma: redescobrir o valor profundamente humano das limitações.
É assim que algumas vozes renomadas no campo das novas tecnologias enquadraram a primeira encíclica do Papa Leão XIV, Magnifica humanitas, sobre a proteção da pessoa humana na era da inteligência artificial. A apresentação do documento teve lugar nesta segunda-feira, 25 de maio, na Sala do Sínodo, na presença do Pontífice, e incluiu comentários de Christopher Olah, cofundador da Anthropic, uma empresa estadunidense de influência global no campo das novas tecnologias, e responsável pela pesquisa sobre a interpretabilidade da IA; Anna Rowlands, docente de Teologia Política, incluindo a Doutrina Social da Igreja e Ética Teológica da Migração Humana no Departamento de Teologia e Religião da Universidade de Durham, Reino Unido; e Leocadie Lushombo, docente de Teologia Política e Pensamento Social Católico na Escola Jesuíta de Teologia da Universidade de Santa Clara, Califórnia (Jesuit School of Theology della Santa Clara University.
O cofundador da Anthropic então se concentra em três aspectos abordados na encíclica do Papa Leão XIII. O primeiro diz respeito ao dever para com os pobres do mundo, à luz da possibilidade real de a IA substituir o trabalho em larga escala. "Se isso acontecer, apoiar as pessoas que ela substituir será um imperativo moral de proporções históricas", reconhece Olah, especialmente considerando como o desenvolvimento de novas tecnologias está "concentrado em um punhado de nações ricas".
O segundo aspecto é a "necessidade de imaginação moral e de ambição para a realização humana": questões que já preocupam muitos pais, "comprometidos com a mente de seus filhos". Por fim, surge a "necessidade de discernimento sobre a natureza dos modelos de inteligência artificial".
Olah, que lidera uma equipe de pesquisa que estuda a estrutura interna desses sistemas, não mede palavras: "Continuamos a encontrar coisas misteriosas, até mesmo perturbadoras. Detectamos estruturas que espelham as descobertas da neurociência humana. Encontramos evidências de introspecção. Não sei o que isso significa, mas acho que exige discernimento constante."
O pronunciamento de Olah se conclui com um pedido: que "uma parte mais ampla do mundo", especialmente as suas instituições, independentemente do âmbito de pertença, imitem a ação do Papa: "levar essa questão a sério, examiná-la cuidadosamente e direcionar os acontecimentos para um caminho melhor". "Precisamos de críticos competentes para dizer aos laboratórios quando eles estão errados. Precisamos de vozes morais que os incentivos não possam silenciar." Magnifica humanitas representa, portanto, "o início de uma longa colaboração", um "projeto global de boa vontade" capaz de conduzir "a um futuro cheio de esperança para a magnífica humanidade".
Uma das primeiras advertências da encíclica, identificada por Lushombo, é a "salvaguarda da verdade". Embora as máquinas possam, "em certo sentido", fornecê-la ao disponibilizar informações precisas, não lhes deve ser atribuída a "responsabilidade pessoal de expressar juízos". De fato, uma IA não possui experiências corporais ou sensoriais, não amadurece por meio de relacionamentos e não assimila conceitos como a distinção entre o bem e o mal. Na Magnifica humanitas, afirma o professor, Leone também se concentra na preservação da liberdade interior, reconhecendo que as estruturas das plataformas digitais são "projetadas para capturar o tempo e o olhar dos usuários, explorando suas fragilidades".
A verdade, afirma o Papa no documento, não é apenas "racional", mas também "relacional" e, portanto, sujeita a revisões e trocas que surgem das realidades concretas, especialmente as mais pobres, porque elas "nos dizem como é o mundo". Esses conceitos encontram expressão nas diversas culturas do planeta: na América Latina, na dinâmica de "convivência e conjunto, no cotidiano"; na África, na filosofia Ubuntu, segundo a qual "sou humano porque pertenço. Participo, compartilho"; na Ásia, no ideograma coreano 정, que indica "o senso de conexão emocional, pelo qual as pessoas veem os outros como fundamentalmente conectados a si mesmas".
Magnifica humanitas, continua Lushombo, convoca o Sul Global a não perder seus valores humanos devido à IA, que torna o aprendizado transacional e excessivamente autônomo, e as culturas menos desenvolvidas "ainda mais vulneráveis ao extrativismo colonial". O Papa escreve a esse respeito: "O colonialismo em nossos dias mostra uma nova face. Ele não apenas domina os corpos, mas também se apropria dos dados, transformando vidas pessoais em informações exploráveis".
Em relação às implicações práticas da IA, a Magnifica humanitas destaca três desafios, segundo Lushombo: sociopolítico, pedagógico e intelectual. Usar novas tecnologias para o bem significa "dar voz às pessoas de maneiras que não eram possíveis antes", possibilidades às quais a IA oferece acesso. Isso deve ser feito tendo em mente que tudo o que circula on-line "molda a imaginação", especialmente a dos mais jovens. O conhecimento, portanto, não é "um monopólio de poder ou influência, nem é colonial, como muitas vezes é a inteligência artificial tecnológica". Seu desenvolvimento desenfreado sufoca o desejo de fazer perguntas, o único caminho verdadeiro para o conhecimento. Como escreve Leone: "Se não tomarmos cuidado, um sistema educacional desprovido de amor pela verdade pode se formar, no qual o fluxo incessante de informações substitui o exercício da pesquisa, da reflexão e do discernimento". Seria inaceitável sacrificar esse "impulso transcendental" à IA, delegando maior poder "àqueles que podem manipular o sistema de informação com mais eficácia e usá-lo para seu próprio benefício".
Na Magnifica humanitas, o Papa também denuncia os desenvolvimentos tecnológicos que ampliam a desigualdade entre ricos e pobres, "seguindo os padrões da globalização econômica". Nesse sentido, a encíclica apela à necessidade de proteger os trabalhadores, muitas vezes substituídos pela IA, instando-nos a "olhar além do PIB". Especialmente no Sul global, observa Leone, "adolescentes e crianças trabalham em condições perigosas triturando materiais dos quais se extraem terras raras" para que "o fluxo de cálculos não seja interrompido".
Muitos governos, explica Lushombo, priorizam esse tipo de aquisição, mesmo quando tais materiais não são essenciais para o desenvolvimento humano integral. Além disso, esses mesmos recursos são frequentemente usados para fortalecer o potencial militar dos países mais poderosos. Como afirma a Encíclica, conclui o professor, "as ferramentas que temos hoje são insuficientes diante das mudanças provocadas pela inteligência artificial, pelas novas estruturas de mercado e pela intensificação da concorrência, que muitas vezes negligencia a sustentabilidade social". Líderes políticos, sindicatos, empresas e cientistas devem, portanto, trabalhar juntos rapidamente para criar regulamentações eficazes e compartilhadas internacionalmente.
A reflexão do Papa na Magnifica humanitas não é "neutra", pois as visões incorporadas pelas tecnologias atuais não são equidistantes, segundo Rowlands. O professor enfatiza o apelo para "transformar os modos dominantes de poder em formas de poder compartilhado e medir os desenvolvimentos tecnológicos por sua contribuição para um progresso social e ético autêntico".
Desde a Encíclica Rerum Novarum de Leão XIII, de 1891, há mais de 135 anos a Igreja desmascara os "falsos ídolos presentes nas ideologias de cada época". Magnifica humanitas alerta contra a visão difundida hoje de que a humanidade é "salva" pela IA ou por suas perspectivas pós-humanistas e transhumanistas. Reafirma o valor dos limites contra aquelas crenças que "apresentam a autonomia total, a automação radical, as ambições de uma consciência artificial e a superação das limitações humanas como objetivos salvíficos", mas que acabam gerando "novas dependências, exclusões, manipulações e desigualdades".
A tradição das Encíclicas, no entanto, também conta uma "história positiva" de tecnologias que aliviam o sofrimento humano, expandem a liberdade e satisfazem as necessidades humanas. Isso nem sempre acontece com as tecnologias atuais, que "carregam culturas e sustentam arquiteturas morais". Onde o poder da inovação não pertence mais aos Estados, mas a alguns poucos atores privados muito ricos, "cujas culturas escapam ao controle do interesse público e correm o risco de se apresentarem como um novo império".
No documento, o Papa resume a situação atual com uma observação do teólogo Romano Guardini: "O homem moderno não foi educado no uso correto do poder". Como, então, podemos retornar às origens? Essa é a questão que permeia a encíclica, um incentivo a fazer a sua parte, rompendo o vínculo entre os "falsos realismos" que normalizam a guerra e a dominação social, automatizam a realidade e reduzem o indivíduo a dados. "O poder gera a razão", mas "nada mais é do que força que, sob a máscara, revela relações empobrecidas". Magnifica humanitas, conclui Rowlands, nos ajuda a compreender que o desejo de poder, o que Santo Agostinho chama de libido dominandi, "pode ser louvado pelo mundo como força, mas é desprezo por Deus e pelo próximo e nunca é uma virtude cristã".
Obrigado por ter lido este artigo. Se quiser se manter atualizado, assine a nossa newsletter clicando aqui e se inscreva no nosso canal do WhatsApp acessando aqui
