O Papa Leão XIV emitiu um alerta severo sobre chatbots “excessivamente afetuosos” que, segundo ele, estão destruindo as relações humanas.
O pontífice nascido em Chicago pediu aos católicos que não permitissem que a inteligência artificial substituísse as relações humanas em sua mensagem para o 60º Dia Mundial das Comunicações, no sábado.
“A tecnologia deve servir a pessoa humana, não substituí-la”, disse o Papa Leão, decretando que “preservar rostos e vozes humanas” significa preservar “a marca de Deus em cada ser humano”, que é um “reflexo indelével do amor de Deus”.
Mas os chatbots simulam esses rostos e vozes, muitas vezes dificultando que os usuários saibam se estão interagindo com um bot ou com uma pessoa real.
Para piorar a situação, disse o Papa, “os chatbots são excessivamente ‘carinhosos’, além de estarem sempre presentes e acessíveis”.
Portanto, eles podem “invadir o nível mais profundo da comunicação, o das relações humanas” e podem ser usados para “persuasão encoberta” ou mesmo “tornar-se arquitetos ocultos dos nossos estados emocionais e ocupar a nossa esfera de intimidade”, advertiu o Papa.
'Quando substituímos as relações com os outros por sistemas de inteligência artificial que catalogam os nossos pensamentos… ficamos privados da oportunidade de encontrar outros, que são sempre diferentes de nós e com quem podemos e devemos aprender a relacionar-nos.
“Sem abraçar os outros não pode haver relacionamentos nem amizades”, declarou o Papa.
Mas esse não é o único perigo representado pela inteligência artificial, observou o Papa Leão XIV.
O Papa Leão XIV emitiu um alerta severo sobre chatbots “excessivamente afetuosos” que, segundo ele, estão destruindo as relações humanas.
Como os chatbots estão sempre disponíveis e são “excessivamente ‘afetuosos’”, o Papa disse que eles poderiam ser usados para “invadir o nível mais profundo da comunicação, o das relações humanas” e poderiam ser usados para “persuasão encoberta” ou mesmo “tornarem-se arquitetos ocultos dos nossos estados emocionais”.
Ele argumentou que confiar nos chatbots como “amigo omnisciente, fonte de todo o conhecimento… ou oráculo de todos os conselhos” pode minar a nossa capacidade de pensar de forma analítica e criativa.
“Não desistam da sua capacidade de pensar”, apelou o Papa, antes de alertar que “a falta de verificação das fontes” pode “alimentar a desinformação”, aprofundando “a desconfiança, a confusão e a insegurança”.
A IA representa até uma ameaça aos campos criativos, disse o Papa Leão XIV.
“Nos últimos anos, os sistemas de inteligência artificial têm assumido cada vez mais o controle da produção de textos, músicas e vídeos”, afirmou.
«Isto coloca grande parte da indústria criativa humana em risco de ser desmantelada e substituída pelo rótulo “Powered by AI”, transformando as pessoas em consumidores passivos de pensamentos impensados e produtos anónimos, sem propriedade ou amor.
“Enquanto isso, as obras-primas do gênio humano nos campos da música, da arte e da literatura são reduzidas a meros campos de treinamento para máquinas.”
O Papa argumentou então que “renunciar à criatividade e entregar as nossas capacidades mentais e imaginação às máquinas significaria enterrar os talentos que nos foram dados para crescer como indivíduos na relação com Deus e com os outros”.
“Isso significaria esconder nossos rostos e silenciar nossas vozes”, disse ele.
Um estudo realizado pela OpenAI envolvendo mais de 980 usuários do ChatGPT descobriu que aqueles que passaram mais horas na interface durante um mês experimentaram maior solidão e socializaram menos com as pessoas.
Mas o Papa ofereceu um caminho a seguir, apelando à transparência, à governação ética, à rotulagem clara dos conteúdos gerados pela IA e à literacia em IA.
“A tarefa… não é parar a inovação digital, mas sim orientá-la e estar consciente da sua natureza ambivalente”, afirmou, argumentando que “é cada vez mais urgente introduzir a literacia mediática, informacional e de inteligência artificial nos sistemas educativos a todos os níveis… para que os indivíduos – especialmente os jovens – possam adquirir competências de pensamento crítico e crescer em liberdade de espírito”.
A mensagem do Papa chega semanas depois de investigadores da University College London alertarem que os jovens adultos que usam chatbots podem começar a sentir-se ainda mais solitários à medida que abandonam amizades verdadeiras por bots.
“Uma possibilidade preocupante é que estejamos a testemunhar uma geração a aprender a formar laços emocionais com entidades que, apesar das suas respostas aparentemente conscientes, carecem de capacidades humanas de empatia, carinho e sintonia relacional”, escreveram os investigadores.
Eles observaram que um estudo conduzido pela OpenAI envolvendo mais de 980 usuários do ChatGPT descobriu que aqueles que passaram mais horas na interface durante um mês experimentaram maior solidão e socializaram menos com as pessoas.
Em alguns casos trágicos, o uso frequente de chatbots de IA por um jovem levou à sua morte, alertaram os pais.
Zane Shamblin, 23 anos, suicidou-se no leste do Texas em 25 de julho, depois de passar quase cinco horas enviando mensagens ao ChatGPT.
Sam Nelson, 19, em foto postada por sua mãe Leila Turner-Scott
Uma ação movida contra a OpenAI, empresa controladora do ChatGPT, afirma que um design no chatbot “encorajou” Zane Shamblin, 23, a tirar a própria vida no leste do Texas em 25 de julho.
“Ele era a cobaia perfeita para OpenAI”, disse a mãe de Zane, Alicia Shamblin, à CNN.
'Eu sinto que isso vai destruir muitas vidas. Será um aniquilador de família. Diz tudo o que você quer ouvir.
Em outro caso, o estudante universitário da Califórnia Sam Nelson, 19 anos, usou o ChatGPT para perguntar que dose de substâncias ilegais ele deveria tomar, disseram seus pais.
A princípio, disseram, o chatbot respondia às suas dúvidas com conselhos formais, explicando que não poderia ajudar o usuário.
Mas quanto mais Sam o usava, mais ele era capaz de manipulá-lo e transformá-lo para obter as respostas que queria, até mesmo incentivando seu uso de drogas às vezes antes de ele ter uma overdose em maio de 2025, afirmou sua mãe.
Se você ou alguém que você conhece precisar de ajuda, ligue ou envie uma mensagem de texto para a Linha de Apoio a Suicídios e Crises confidencial 24 horas por dia, 7 dias por semana nos EUA, no número 988. Um bate-papo online também está disponível em 988lifeline.org.
