Como de costume, na memória de São Francisco de Sales, 24 de janeiro, padroeiro dos jornalistas, foi divulgada, a mensagem do Papa Francisco para o 58° Dia Mundial das Comunicações Sociais intitulada "Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana". Ao mesmo tempo que aprecia as possibilidades inauguradas pelo uso da Inteligência Artificial, o Papa destaca os riscos provocados pelo seu mau uso, além de questões éticas. Leia a mensagem na íntegra:
MENSAGEM DE SUA SANTIDADE PAPA FRANCISCO
para o LVIII Dia Mundial das Comunicações Sociais
(12 de maio de 2024)
Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana
Queridos irmãos e irmãs!
A evolução dos sistemas da chamada «inteligência artificial», sobre a qual já me debrucei na recente Mensagem para o Dia Mundial da Paz, está a modificar de forma radical também a informação e a comunicação e, através delas, algumas bases da convivência civil. Trata-se duma mudança que afeta não só aos profissionais, mas a todos. A rápida difusão de maravilhosas invenções, cujo funcionamento e potencialidades são indecifráveis para a maior parte de nós, suscita um espanto que oscila entre entusiasmo e desorientação e põe-nos inevitavelmente diante de questões fundamentais: O que é então o homem, qual é a sua especificidade e qual será o futuro desta nossa espécie chamada homo sapiens na era das inteligências artificiais? Como podemos permanecer plenamente humanos e orientar para o bem a mudança cultural em curso?
A partir do coração
Antes de mais nada, convém limpar o terreno das leituras catastróficas e dos seus efeitos paralisadores. Já há um século Romano Guardini, refletindo sobre a técnica e o homem, convidava a não se inveterar contra o «novo» na tentativa de «conservar um mundo belo condenado a desaparecer». Ao mesmo tempo, porém, com veemência profética advertia: «O nosso posto é no devir. Devemos inserir-nos nele, cada um no seu lugar (…), aderindo honestamente, mas permanecendo sensíveis, com um coração incorruptível, a tudo o que nele houver de destrutivo e não-humano». E concluía: «Trata- se – é verdade – de problemas de natureza técnica, científica e política; mas só podem ser resolvidos passando pelo homem. Deve-se formar um novo tipo humano, dotado duma espiritualidade mais profunda, duma nova liberdade e duma nova interioridade».[1]
Neste tempo que corre o risco de ser rico em técnica e pobre em humanidade, a nossa reflexão só pode partir do coração humano.[2] Somente dotando-nos dum olhar espiritual, apenas recuperando uma sabedoria do coração é que poderemos ler e interpretar a novidade do nosso tempo e descobrir o caminho para uma comunicação plenamente humana. O coração, entendido biblicamente como sede da liberdade e das decisões mais importantes da vida, é símbolo de integridade e de unidade, mas evoca também os afetos, os desejos, os sonhos, e sobretudo é o lugar interior do encontro com Deus. Por isso a sabedoria do coração é a virtude que nos permite combinar o todo com as partes, as decisões com as suas consequências, as grandezas com as fragilidades, o passado com o futuro, o eu com o nós.
Esta sabedoria do coração deixa-se encontrar por quem a busca e deixa-se ver a quem a ama; antecipa-se a quem a deseja e vai à procura de quem é digno dela (cf. Sab 6, 12-16). Está com quem aceita conselho (cf. Pr 13, 10), com quem tem um coração dócil, um coração que escuta (cf. 1 Re 3, 9). É um dom do Espírito Santo, que permite ver as coisas com os olhos de Deus, compreender as interligações, as situações, os acontecimentos e descobrir o seu sentido. Sem esta sabedoria, a existência torna-se insípida, pois é precisamente a sabedoria que dá gosto à vida: a sua raiz latina sapere associa-a ao sabor.
Oportunidade e perigo
Não podemos esperar esta sabedoria das máquinas. Embora o termo inteligência artificial já tenha suplantado o termo mais correto utilizado na literatura científica de machine learning (aprendizagem automática), o próprio uso da palavra «inteligência» é falacioso. É certo que as máquinas têm uma capacidade imensamente maior que os seres humanos de memorizar os dados e relacioná-los entre si, mas compete ao homem, e só a ele, descodificar o seu sentido. Não se trata, pois, de exigir das máquinas que pareçam humanas; mas de despertar o homem da hipnose em que cai devido ao seu delírio de omnipotência, crendo-se sujeito totalmente autónomo e autorreferencial, separado de toda a ligação social e esquecido da sua condição de criatura.
Realmente o homem sempre teve experiência de não se bastar a si mesmo, e procura superar a sua vulnerabilidade valendo-se de todos os meios. Partindo dos primeiros instrumentos pré-históricos, utilizados como prolongamento dos braços, passando pelos meios de comunicação como extensão da palavra, chegamos hoje às máquinas mais sofisticadas que funcionam como auxílio do pensamento. Entretanto cada uma destas realidades pode ser contaminada pela tentação primordial de se tornar como Deus sem Deus (cf. Gen 3), isto é, a tentação de querer conquistar com as próprias forças aquilo que deveria, pelo contrário, acolher como dom de Deus e viver na relação com os outros.
Cada coisa nas mãos do homem torna-se oportunidade ou perigo, segundo a orientação do coração. O próprio corpo, criado para ser lugar de comunicação e comunhão, pode tornar-se instrumento de agressão. Da mesma forma, cada prolongamento técnico do homem pode ser instrumento de amoroso serviço ou de domínio hostil. Os sistemas de inteligência artificial podem contribuir para o processo de libertação da ignorância e facilitar a troca de informações entre diferentes povos e gerações. Por exemplo, podem tornar acessível e compreensível um património enorme de conhecimentos, escrito em épocas passadas, ou permitir às pessoas comunicarem em línguas que lhes são desconhecidas. Mas simultaneamente podem ser instrumentos de «poluição cognitiva», alteração da realidade através de narrações parcial ou totalmente falsas, mas acreditadas – e partilhadas – como se fossem verdadeiras. Basta pensar no problema da desinformação que enfrentamos, há anos, no caso das fake news[3] e que hoje se serve da deep fake, isto é, da criação e divulgação de imagens que parecem perfeitamente plausíveis mas são falsas (já me aconteceu a mim também ser objeto delas), ou mensagens-áudio que usam a voz duma pessoa, dizendo coisas que ela própria nunca disse. A simulação, que está na base destes programas, pode ser útil nalguns campos específicos, mas torna-se perversa quando distorce as relações com os outros e com a realidade.
Já desde a primeira onda de inteligência artificial – a das redes sociais – compreendemos a sua ambivalência, suas possibilidades, mas também seus riscos e patologias associadas. O segundo nível de inteligências artificiais geradoras marca, indiscutivelmente, um salto qualitativo. Por conseguinte é importante ter a possibilidade de perceber, compreender e regulamentar instrumentos que, em mãos erradas, poderiam abrir cenários negativos. Os algoritmos, como tudo o mais que sai da mente e das mãos do homem, não são neutros. Por isso é necessário prevenir propondo modelos de regulamentação ética para contornar os efeitos danosos, discriminadores e socialmente injustos dos sistemas de inteligência artificial e contrastar a sua utilização para a redução do pluralismo, a polarização da opinião pública ou a construção do pensamento único. Assim reitero aqui a minha exortação à «Comunidade das Nações a trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas».[4] Entretanto, como em todo o âmbito humano, não é suficiente a regulamentação.
Crescer em humanidade
Somos chamados a crescer juntos, em humanidade e como humanidade. O desafio que temos diante de nós é realizar um salto de qualidade para estarmos à altura duma sociedade complexa, multiétnica, pluralista, multirreligiosa e multicultural. Cabe a nós questionar-nos sobre o progresso teórico e a utilização prática destes novos instrumentos de comunicação e conhecimento. As suas grandes possibilidades de bem são acompanhadas pelo risco de que tudo se transforme num cálculo abstrato que reduz as pessoas a dados, o pensamento a um esquema, a experiência a um caso, o bem ao lucro, com o risco nosobretudo de que se acabe por negar a singularidade de cada pessoa e da sua história, dissolvendo a realidade concreta numa série de dados estatísticos.
A revolução digital pode tornar-nos mais livres, mas certamente não conseguirá fazê-lo se nos prender nos modelos designados hoje como echo chamber (câmara de eco). Nestes casos, em vez de aumentar o pluralismo da informação, corre-se o risco de se perder num pântano anônimo, favorecendo os interesses do mercado ou do poder. Não é aceitável que a utilização da inteligência artificial conduza a um pensamento anônimo, a uma montagem de dados não certificados, a uma desresponsabilização editorial coletiva. A representação da realidade por big data (grandes dados), embora funcional para a gestão das máquinas, implica na realidade uma perda substancial da verdade das coisas, o que dificulta a comunicação interpessoal e corre o risco de danificar a nossa própria humanidade. A informação não pode ser separada da relação existencial: implica o corpo, o situar-se na realidade; pede para correlacionar não apenas dados, mas experiências; exige o rosto, o olhar, a compaixão e ainda a partilha.
Penso na narração das guerras e naquela «guerra paralela» que se trava através de campanhas de desinformação. E penso em tantos repórteres que ficam feridos ou morrem no local em efervescência para nos permitir a nós ver o que viram os olhos deles. Pois só tocando pessoalmente o sofrimento das crianças, das mulheres e dos homens é que poderemos compreender o caráter absurdo das guerras.
A utilização da inteligência artificial poderá proporcionar um contributo positivo no âmbito da comunicação, se não anular o papel do jornalismo no local, antes pelo contrário se o apoiar; se valorizar o profissionalismo da comunicação, responsabilizando cada comunicador; se devolver a cada ser humano o papel de sujeito, com capacidade crítica, da própria comunicação.
Interrogativos de hoje e de amanhã
E surgem, espontâneas, algumas questões: Como tutelar o profissionalismo e a dignidade dos trabalhadores no campo da comunicação e da informação, juntamente com a dos utentes em todo o mundo? Como garantir a interoperabilidade das plataformas? Como fazer com que as empresas que desenvolvem plataformas digitais assumam as suas responsabilidades relativamente ao que divulgam daí tirando os seus lucros, de forma análoga ao que acontece com os editores dos meios de comunicação tradicionais? Como tornar mais transparentes os critérios subjacentes aos algoritmos de indexação e desindexação e aos motores de pesquisa, capazes de exaltar ou cancelar pessoas e opiniões, histórias e culturas? Como garantir a transparência dos processos de informação? Como tornar evidente a paternidade dos escritos e rastreáveis as fontes, evitando o para-vento do anonimato? Como deixar claro se uma imagem ou um vídeo retrata um acontecimento ou o simula? Como evitar que as fontes se reduzam a uma só, a um pensamento único elaborado algoritmicamente? E, ao contrário, como promover um ambiente adequado para salvaguardar o pluralismo e representar a complexidade da realidade? Como podemos tornar sustentável este instrumento poderoso, caro e extremamente energívoro? Como podemos torná-lo acessível também aos países em vias de desenvolvimento?
A partir das respostas a estas e outras questões compreenderemos se a inteligência artificial acabará por construir novas castas baseadas no domínio informativo, gerando novas formas de exploração e desigualdade ou se, pelo contrário, trará mais igualdade, promovendo uma informação correta e uma maior consciência da transição de época que estamos a atravessar, favorecendo a escuta das múltiplas carências das pessoas e dos povos, num sistema de informação articulado e pluralista. Dum lado, vemos assomar o espetro duma nova escravidão, do outro uma conquista de liberdade; dum lado, a possibilidade de que uns poucos condicionem o pensamento de todos, do outro a possibilidade de que todos participem na elaboração do pensamento.
A resposta não está escrita; depende de nós. Compete ao homem decidir se há de tornar-se alimento para os algoritmos ou nutrir o seu coração de liberdade, sem a qual não se cresce na sabedoria. Esta sabedoria amadurece valorizando o tempo e abraçando as vulnerabilidades. Cresce na aliança entre as gerações, entre quem tem memória do passado e quem tem visão de futuro. Somente juntos é que cresce a capacidade de discernir, vigiar, ver as coisas a partir do seu termo. Para não perder a nossa humanidade, procuremos a Sabedoria que existe antes de todas as coisas (cf. Sir 1, 4), que, passando através dos corações puros, prepara amigos de Deus e profetas (cf. Sab 7, 27): há de ajudar-nos também a orientar os sistemas da inteligência artificial para uma comunicação plenamente humana.
Roma – São João de Latrão, 24 de janeiro de 2024.
[Francisco]
[1] Cartas do Lago de Como (Brescia 52022), 95-97.
[2] Em continuidade com as anteriores Mensagens para o Dia Mundial das Comunicações Sociais, dedicadas a «encontrar as pessoas onde estão e como são» (2021), «escutar com o ouvido do coração» (2022) e «falar com o coração» (2023).
[3] Cf. Mensagem para o LII Dia Mundial das Comunicações (2018): «“A verdade vos tornará livres” (Jo 8, 32). Fake news e jornalismo de paz».
[4] Mensagem para o LVII Dia Mundial da Paz : 1 de janeiro de 2024, 8.
