Papa alerta: inteligência artificial é uma “faca” que pode decidir sozinha o que fazer

O Papa Leo XIV fez um alerta contundente sobre os riscos da inteligência artificial em sua mensagem para o 60º Dia Mundial das Comunicações Sociais, celebrado neste ano. O pontífice norte-americano comparou a tecnologia a uma “faca” perigosa, ecoando advertências feitas dias antes pelo historiador Yuval Noah Harari no Fórum Econômico Mundial de Davos.

Em seu pronunciamento, realizado no Memorial de São Francisco de Sales, no Vaticano, o Papa destacou como a IA, ao simular emoções e relacionamentos humanos, ameaça invadir a esfera mais íntima das pessoas e reescrever a história da humanidade.

 As Principais Advertências do Pontífice

1. Invasão da Intimidade Humana

Papa Leo XIV expressou preocupação com a capacidade dos chatbots baseados em modelos de linguagem (LLMs) de imitar sentimentos humanos. Ele descreveu esses sistemas como “simultaneamente enganosos, especialmente para os mais vulneráveis”.

“Chatbots excessivamente ‘afetuosos’, além de estarem sempre presentes e prontamente disponíveis, podem se tornar arquitetos ocultos dos nossos estados emocionais, invadindo e ocupando a esfera da intimidade das pessoas”, advertiu.

2. Oligopólio Perigoso e Reescrita da História

O Papa destacou que “apenas um punhado de empresas” detém o controle oligárquico sobre os sistemas de IA. Segundo ele, essa concentração de poder levanta preocupações significativas sobre a capacidade desses sistemas de remodelar sutilmente o comportamento e até mesmo reescrever a história da humanidade e da Igreja.

3. Ameaça à Autoria e Criatividade Humanas

O pontífice alertou sobre o risco de desmantelamento da indústria criativa humana, substituída pelo rótulo “Desenvolvido por IA”. Ele argumenta que isso transforma as pessoas em meros consumidores passivos de produtos impensados e anônimos, “desprovidos de autoria e amor“.

“Enquanto isso, obras-primas do gênio humano nos campos da música, arte e literatura são reduzidas a um mero campo de treinamento para máquinas”, lamentou.

4. Substituição do Pensamento Crítico

Leo XIV alertou que, embora a IA possa oferecer suporte em tarefas comunicativas, “contornar o esforço de pensar por nós mesmos e nos contentarmos com compilações estatísticas artificiais, a longo prazo, corre o risco de erodir nossas habilidades cognitivas, emocionais e comunicativas“.

 Riscos Específicos Destacados

• Manipulação emocional: Chatbots podem influenciar decisões pessoais através de interações personalizadas contínuas

• Desinformação sistêmica: Aceitação de “aproximações da verdade” criadas por IA através de probabilidade estatística

• Erosão do jornalismo: Substituição do trabalho contínuo de coleta e verificação de informações no local dos eventos

• Perda de privacidade: Controle de algoritmos capazes de moldar sutilmente o comportamento sem nosso conhecimento

• Crise de identidade humana: Como alertado por Harari, a IA como agente pensante pode deixar a humanidade em crise existencial

 Soluções e Caminhos Propostos

O Papa reconhece que o desafio não é deter a inovação digital, mas guiá-la conscientemente. Ele defende a cooperação global para minimizar os riscos à humanidade e pede que cada pessoa “levante sua voz em defesa dos seres humanos” para que essas ferramentas possam ser verdadeiramente abraçadas como aliadas.

“Está nas mãos de cada um de nós levantar nossa voz em defesa dos seres humanos para que essas ferramentas possam ser verdadeiramente abraçadas por nós como aliados”, enfatizou.

 Contexto Mais Amplo

A advertência do Papa Leo XIV ocorre em um momento crucial, onde especialistas globais expressam crescente preocupação. Yuval Noah Harari, pesquisador da Universidade de Cambridge, advertiu líderes mundiais em Davos que “a IA é uma faca que pode decidir por si mesma se vai cortar salada ou cometer assassinato“.

“A faca é uma ferramenta. Você pode usar uma faca para cortar salada ou para assassinar alguém, mas é sua decisão o que fazer com a faca”, comparou Harari. “A IA é uma faca que pode decidir por si mesma se vai cortar salada ou cometer assassinato.”

“Embora a IA possa fornecer suporte e assistência no gerenciamento de tarefas comunicativas, contornar o esforço de pensar por nós mesmos e nos contentarmos com compilações estatísticas artificiais, a longo prazo, corre o risco de erodir nossas habilidades cognitivas, emocionais e comunicativas.” — Papa Leo XIV

 Análise de Impacto Potencial

A intervenção papal acontece quando a comunidade internacional busca estabelecer regulamentações éticas para a IA. A comparação do pontífice com a visão de Harari ressalta uma convergência preocupante entre líderes religiosos e pensadores seculares sobre os riscos existenciais da tecnologia.

A crescente dificuldade em distinguir entre humanos e “bots” nas redes sociais, mencionada pelo Papa, já mostra efeitos tangíveis nas democracias em todo o mundo, onde agentes automatizados influenciam debates públicos e decisões pessoais.

 Conclusão: Um Apelo à Consciência Coletiva

O alerta do Papa Leo XIV vai além de uma crítica tecnológica – é um chamado à responsabilidade coletiva. Enquanto nos beneficiamos dos avanços digitais, o desafio é manter o controle humano sobre ferramentas que, de outra forma, poderiam nos controlar.

A mensagem final é clara: a humanidade deve permanecer no comando de sua criação tecnológica, preservando o que nos torna essencialmente humanos – nossa capacidade de pensar criticamente, criar com autenticidade e nos relacionar genuinamente.