MENSAGEM DE SUA SANTIDADE O PAPA LEÃO XIV
PARA O 60º DIA MUNDIAL DAS COMUNICAÇÕES_______________________
Preservar as vozes e os rostos humanos
Queridos irmãos e irmãs!
O rosto e a voz são características únicas e distintivas de cada pessoa; manifestam sua identidade irrepetível e são o elemento constitutivo de todo encontro. Os antigos sabiam disso muito bem. Assim, para definir a pessoa humana, os antigos gregos usavam a palavra "rosto" ( prósōpon ), que etimologicamente indica aquilo que está diante do olhar, o lugar da presença e do relacionamento. O termo latino persona (de per-sonare ), por sua vez, inclui o som: não qualquer som, mas a voz inconfundível de alguém.
O rosto e a voz são sagrados. Foram-nos dados por Deus, que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que ele mesmo nos falou; uma Palavra que primeiro ressoou ao longo dos séculos nas vozes dos profetas, e depois se fez carne na plenitude dos tempos. Esta Palavra — esta comunicação que Deus faz de si mesmo — também nós pudemos ouvir e ver diretamente (cf. 1 Jo 1,1-3), porque se revelou na voz e no rosto de Jesus, o Filho de Deus.
Desde o momento da sua criação, Deus quis o homem como seu interlocutor e, como diz São Gregório de Nissa, [1] imprimiu no seu rosto um reflexo do amor divino, para que pudesse viver plenamente a sua humanidade através do amor. Preservar os rostos e as vozes humanas significa, portanto, preservar este selo, este reflexo indelével do amor de Deus. Não somos uma espécie constituída por algoritmos bioquímicos, definidos de antemão. Cada um de nós tem uma vocação insubstituível e inimitável que emerge da vida e se manifesta precisamente na comunicação com os outros.
A tecnologia digital, se não nos protegermos, corre o risco de alterar radicalmente alguns dos pilares fundamentais da civilização humana, que por vezes consideramos garantidos. Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não só interferem nos ecossistemas de informação, como também invadem o nível mais profundo da comunicação: o das relações interpessoais.
O desafio, portanto, não é tecnológico, mas antropológico. Proteger rostos e vozes significa, em última análise, proteger a nós mesmos. Abraçar as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial com coragem, determinação e discernimento não significa esconder de nós mesmos questões críticas, opacidades e riscos.
Não desista do seu próprio pensamento.
Há muito tempo existem inúmeras evidências de que algoritmos projetados para maximizar o engajamento nas redes sociais — o que é lucrativo para as plataformas — recompensam emoções rápidas e penalizam expressões humanas mais demoradas, como o esforço para compreender e refletir. Ao confinar grupos de pessoas em bolhas de consenso fácil e indignação fácil, esses algoritmos enfraquecem a capacidade de ouvir e pensar criticamente, e aumentam a polarização social.
A isso se soma uma confiança ingenuamente acrítica na inteligência artificial como uma "amiga" onisciente, a dispensadora de todas as informações, o repositório de todas as memórias, o "oráculo" de todos os conselhos. Tudo isso pode corroer ainda mais nossa capacidade de pensar analiticamente e criativamente, de compreender o significado e de distinguir entre sintaxe e semântica.
Embora a IA possa fornecer suporte e assistência no gerenciamento de tarefas de comunicação, evitar o esforço do nosso próprio pensamento e optar pela compilação estatística artificial corre o risco de corroer nossas habilidades cognitivas, emocionais e de comunicação a longo prazo.
Nos últimos anos, os sistemas de inteligência artificial têm assumido cada vez mais o controle da produção de textos, músicas e vídeos. Grande parte da indústria criativa humana corre o risco de ser desmantelada e substituída pelo rótulo "Impulsionado por IA ", transformando as pessoas em meros consumidores passivos de pensamentos impensados, produtos anônimos, não autorizados e sem valor. Enquanto isso, as obras-primas do gênio humano na música, na arte e na literatura estão sendo reduzidas a meros campos de treinamento para máquinas.
A questão que nos interessa, porém, não é o que a máquina pode ou poderá fazer, mas o que nós podemos e poderemos fazer, crescendo em humanidade e conhecimento, com o uso sábio de ferramentas tão poderosas à nossa disposição. Os seres humanos sempre foram tentados a apropriar-se dos frutos do conhecimento sem o esforço do envolvimento, da pesquisa e da responsabilidade pessoal. Renunciar ao processo criativo e entregar nossas funções mentais e imaginação às máquinas, contudo, significa enterrar os talentos que recebemos com o propósito de crescer como pessoas em relação a Deus e aos outros. Significa esconder nossos rostos e silenciar nossas vozes.
Ser ou fingir: simulando relacionamentos e realidade
Ao navegarmos por nossos feeds de informação , torna-se cada vez mais difícil determinar se estamos interagindo com outros seres humanos ou com " bots " ou "influenciadores virtuais". As intervenções opacas desses agentes automatizados influenciam debates públicos e as escolhas das pessoas. Os chatbots baseados em grandes modelos linguísticos (LLMs), em particular, estão se mostrando surpreendentemente eficazes na persuasão velada, por meio da otimização contínua de interações personalizadas. A estrutura dialógica, adaptativa e mimética desses modelos linguísticos é capaz de imitar sentimentos humanos e, assim, simular um relacionamento. Essa antropomorfização, que pode até ser divertida, também é enganosa, especialmente para os mais vulneráveis. Isso porque os chatbots excessivamente "afetuosos", além de estarem sempre presentes e disponíveis, podem se tornar arquitetos ocultos de nossos estados emocionais e, assim, invadir e ocupar as esferas privadas das pessoas.
A tecnologia que explora nossa necessidade de conexão pode ter consequências dolorosas não apenas para o destino dos indivíduos, mas também danificar o tecido social, cultural e político das sociedades. Isso acontece quando substituímos relacionamentos com outras pessoas por relacionamentos com inteligências artificiais treinadas para catalogar nossos pensamentos e, assim, construir um mundo de espelhos ao nosso redor, onde tudo é feito "à nossa imagem e semelhança". Dessa forma, permitimos que nos roubem a oportunidade de encontrar o outro, que é sempre diferente de nós e com quem podemos e devemos aprender a interagir. Sem abraçar a alteridade, não pode haver relacionamento nem amizade.
Outro grande desafio que esses sistemas emergentes apresentam é o viés, que leva à aquisição e transmissão de uma percepção alterada da realidade. Os modelos de IA são moldados pela visão de mundo daqueles que os constroem e podem, por sua vez, impor formas de pensar ao replicar os estereótipos e vieses presentes nos dados que utilizam. A falta de transparência no design dos algoritmos, aliada à representação social inadequada dos dados, tende a nos aprisionar em redes que manipulam nossos pensamentos e perpetuam e aprofundam as desigualdades e injustiças sociais existentes.
O risco é grande. O poder da simulação é tal que a IA pode até nos enganar, fabricando "realidades" paralelas e apropriando-se de nossos rostos e vozes. Estamos imersos em um mundo multidimensional, onde se torna cada vez mais difícil distinguir a realidade da ficção.
A isso se soma o problema da imprecisão. Sistemas que apresentam a probabilidade estatística como conhecimento, na verdade, nos oferecem aproximações da verdade, na melhor das hipóteses, que às vezes são puras "alucinações". A falta de verificação das fontes, combinada com a crise no jornalismo de campo, que exige coleta e verificação constantes de informações no local dos acontecimentos, pode criar um terreno ainda mais fértil para a desinformação, causando uma crescente sensação de desconfiança, confusão e insegurança.
Uma possível aliança
Por trás dessa enorme força invisível que nos envolve a todos, há apenas um punhado de empresas, aquelas cujos fundadores foram recentemente apresentados como os criadores da "pessoa do ano de 2025", ou seja, os arquitetos da inteligência artificial. Isso levanta sérias preocupações sobre o controle oligopolista de sistemas algorítmicos e de inteligência artificial capazes de influenciar sutilmente comportamentos e até mesmo reescrever a história da humanidade — incluindo a história da Igreja — muitas vezes sem que tenhamos plena consciência disso.
O desafio que temos pela frente não é deter a inovação digital, mas sim guiá-la, estar cientes de sua natureza ambivalente. Cabe a cada um de nós erguer a voz em defesa da humanidade, para que essas ferramentas possam ser verdadeiramente integradas por nós como aliados.
Essa aliança é possível, mas precisa ser baseada em três pilares: responsabilidade, cooperação e educação.
Em primeiro lugar, a responsabilidade . Dependendo da função, ela pode ser definida como honestidade, transparência, coragem, visão, o dever de compartilhar conhecimento ou o direito de ser informado. Mas, em geral, ninguém pode se eximir da responsabilidade pelo futuro que estamos construindo.
Para aqueles que estão à frente de plataformas online, isso significa garantir que suas estratégias de negócios sejam guiadas não apenas pela maximização do lucro, mas também por uma visão de longo prazo que leve em consideração o bem comum, assim como cada um deles se preocupa com o bem-estar de seus filhos.
Os criadores e desenvolvedores de modelos de IA são obrigados a ser transparentes e socialmente responsáveis em relação aos princípios de design e aos sistemas de moderação que sustentam seus algoritmos e modelos desenvolvidos, a fim de promover o consentimento informado entre os usuários.
A mesma responsabilidade recai também sobre os legisladores nacionais e os reguladores supranacionais, que são responsáveis por assegurar o respeito pela dignidade humana. Uma regulamentação adequada pode proteger as pessoas do apego emocional aos chatbots e conter a disseminação de conteúdo falso, manipulador ou enganoso, preservando a integridade da informação contra simulações fraudulentas.
As empresas de mídia e comunicação, por sua vez, não podem permitir que algoritmos, determinados a vencer a batalha por alguns segundos extras de atenção a qualquer custo, prevaleçam sobre seus valores profissionais, que se concentram na busca pela verdade. A confiança pública é conquistada por meio da precisão e da transparência, não pela busca de qualquer tipo de engajamento. O conteúdo gerado ou manipulado por IA deve ser claramente identificado e diferenciado do conteúdo criado por humanos. A autoria e a propriedade intelectual do trabalho de jornalistas e outros criadores de conteúdo devem ser protegidas. A informação é um bem público. Um serviço público construtivo e significativo não se baseia na opacidade, mas na transparência das fontes, na inclusão das partes interessadas e em um alto padrão de qualidade.
Todos somos chamados a cooperar. Nenhum setor, sozinho, pode enfrentar o desafio de impulsionar a inovação digital e a governança da IA. Portanto, é preciso criar mecanismos de salvaguarda. Todas as partes interessadas — da indústria de tecnologia aos órgãos reguladores, das empresas criativas à academia, dos artistas aos jornalistas e educadores — devem estar envolvidas na construção e implementação de uma cidadania digital informada e responsável.
É para isso que a educação visa: aumentar nossa capacidade pessoal de reflexão crítica, avaliar a confiabilidade das fontes e os possíveis interesses por trás da seleção das informações que nos chegam, compreender os mecanismos psicológicos que as ativam, permitir que nossas famílias, comunidades e associações desenvolvam critérios práticos para uma cultura de comunicação mais saudável e responsável.
Precisamente por essa razão, torna-se cada vez mais urgente introduzir a alfabetização midiática, informacional e em inteligência artificial nos sistemas educacionais em todos os níveis, uma prática que algumas instituições civis já estão promovendo. Como católicos, podemos e devemos contribuir para garantir que as pessoas — especialmente os jovens — adquiram a capacidade de pensamento crítico e cresçam em liberdade espiritual. Essa alfabetização também deve ser integrada a iniciativas mais amplas de educação continuada, alcançando também os idosos e os membros marginalizados da sociedade, que muitas vezes se sentem excluídos e impotentes diante da rápida mudança tecnológica.
A alfabetização em mídia, informação e IA ajudará a todos a evitar a adaptação à tendência antropomórfica desses sistemas, e a tratá-los como ferramentas, sempre utilizando validação externa das fontes fornecidas pelos sistemas de IA — que podem ser imprecisas ou incorretas — e a proteger sua privacidade e dados, compreendendo os parâmetros de segurança e as opções de contestação. É importante educar e ser educado sobre como usar a IA intencionalmente e, nesse contexto, proteger a imagem (foto e áudio), o rosto e a voz, para evitar que sejam usados para criar conteúdo e comportamentos prejudiciais, como fraudes digitais, cyberbullying e deepfakes , que violam a privacidade e a intimidade das pessoas sem o seu consentimento. Assim como a revolução industrial exigiu alfabetização básica para que as pessoas pudessem reagir às novidades, a revolução digital também exige alfabetização digital (juntamente com educação humanística e cultural) para entendermos como os algoritmos moldam nossa percepção da realidade, como os vieses da IA funcionam, quais mecanismos determinam o aparecimento de certos conteúdos em nossos fluxos de informação ( feeds ) e quais são as premissas e os modelos econômicos da economia da IA e como eles podem mudar.
Precisamos do rosto e da voz para expressar novamente a pessoa. Precisamos valorizar o dom da comunicação como a verdade mais profunda da humanidade, para a qual devemos também orientar toda inovação tecnológica.
Ao apresentar estas reflexões, agradeço a todos aqueles que trabalham para alcançar os objetivos aqui delineados e abençoo de coração todos aqueles que trabalham para o bem comum através dos meios de comunicação.
Do Vaticano, 24 de janeiro de 2026, memória de São Francisco de Sales
Papa LEÃO XIV
______________________________
[1] “O fato de ser criado à imagem de Deus significa que o homem, desde o momento da sua criação, foi impresso com um caráter real [...]. Deus é amor e a fonte do amor: o Criador divino também colocou este traço no nosso rosto, para que através do amor – um reflexo do amor divino – o ser humano possa reconhecer e manifestar a dignidade da sua natureza e a sua semelhança com o seu Criador” (cf. São Gregório de Nissa, A Criação do Homem : PG 44, 137).
