Deus na máquina? As pessoas usam chatbots como conselheiros espirituais.
A inteligência artificial pode orar? O empresário de tecnologia Yossi Tsuria queria descobrir.
Ele pediu a um chatbot de IA para gerar uma oração.
Se Joe orou pela saúde de seu filho, ele perguntou ao Sr. Tsuria 2023, como você deveria orar? A máquina respondeu: “Pai Celestial, neste momento difícil, venho diante de você com o coração pesado”.
Por que escrevemos isso
A inteligência artificial poderia ser seu próximo guia espiritual? A IA oferece aos cristãos, judeus e outros uma alternativa aos padres, rabinos e outros líderes religiosos.
Mas o Sr. A Cúria se referia aos judeus ortodoxos, não aos católicos. Ele revisou sua pergunta.
Em segundos, a IA produziu uma nova oração: “Amém. Querido Deus, neste momento desafiador, dirijo-me a você com o coração pesado. Meu amado Perry, minha juventude, enfrenta (uma) batalha… Fico ao seu lado, sentindo o peso da preocupação e do medo.”
Isto foi uma indicação de que, mesmo nos seus primórdios, os chatbots de IA tinham aprendido a linguagem de pelo menos algumas das principais religiões. E desde então, as pessoas começaram a recorrer aos chatbots como terapeutas, conselheiros espirituais e até companheiros.
No outono passado, a Igreja Católica na Suíça instalou temporariamente um AI Jesus – um holograma animado por inteligência artificial – no confessionário. Os líderes religiosos deram sermões escritos pela IA. Também foram desenvolvidos numerosos aplicativos que oferecem orientação criada pela inteligência artificial por meio de oração e meditação.
Ainda assim, muitos investigadores e líderes religiosos estão cépticos quanto à profundidade e veracidade da orientação religiosa dos chatbots e vêem limitações na tecnologia, conhecida como IA generativa. Primeiro, muitos chatbots não lidam muito bem com questões morais ou religiosas complexas. Eles também tendem a estereotipar as tradições religiosas não-ocidentais.
Mas o progresso apresenta possibilidades aparentemente infinitas para explorar e praticar a fé. Com isto surge uma série de questões sobre o que significa considerar dilemas espirituais e morais com a ajuda de uma máquina que não tem consciência.
“Estou bastante entusiasmado com isto”, diz David Brenner, presidente do conselho da AI and Faith, uma organização que promove debates sobre IA, religião e ética. “Mas eu realmente acredito que temos que ter cuidado na forma como a aplicamos e como podemos continuar a trazer a nossa compreensão humana para as formas como fazemos melhor na interação com esta tecnologia”.
Muitas das questões que os desenvolvedores de IA consideram também são exploradas na religião, diz ele: “Quem somos nós em relação aos animais da nossa criação? Qual é o significado e o propósito da vida? Como preservamos a verdade e a justiça na vida? Como preservamos a liberdade de pensamento?”
Muitos investigadores concordam que, se utilizados adequadamente, os grandes modelos de linguagem (LLMs) como o ChatGPT podem ser ferramentas para responder a estas questões e encorajar uma reflexão espiritual mais profunda. Modelos treinados na Torá, por exemplo, podem sintetizar o que o texto sagrado judaico diz sobre o perdão. Mas as pessoas estão divididas sobre o quão perspicazes são as respostas do LLM e sobre o seu uso adequado num contexto religioso.
“O Deus em que acredito é aquele que incorpora a verdade e a compreensão”, diz Johnny Flynn, que acabou de se formar em estudos religiosos e filosofia pela Universidade da Carolina do Norte, em Charlotte. “Se algum dia eu tentar me tornar espiritual… então eu gostaria de ir a uma fonte que também tenha entendimento e possa compreender a verdade.”
Embora os chatbots transmitam palavras com empatia e emoção, eles não sentem nem sabem o que são emoções. Estar zangado, por exemplo, é “ter a crença de que foi injustiçado de alguma forma injustificável”, diz Alba Curry, professora de filosofia na Universidade de Leeds, no Reino Unido.
Um LLM não pode fazer esse tipo de julgamento. Em vez disso, a previsão é usada. Treinados em mais palavras escritas do que um ser humano jamais poderia ler na vida, os chatbots usam tecnologia avançada para adivinhar com alta precisão qual palavra vem a seguir em uma frase e produzir respostas que imitam uma conversa. Isso os faz parecer humanos e fáceis de conversar.
Metafísica e IA
Isso pode ser um problema para quem procura verdadeiro conselho espiritual. “Os grandes modelos de linguagem são maus no momento. Eles realmente querem dar a você o que você deseja”, diz o Dr. Curry. Isto não é o mesmo que a “força e coragem” que um padre ou rabino pode oferecer a alguém que está, por exemplo, enfrentando uma questão de dever religioso.
Os modelos também não são adequados para a vulnerabilidade emocional. E as pessoas que trabalharam como investigadores de IA e serviram como conselheiros espirituais dizem que os dois não são intercambiáveis.
Marcus Schwarting, um pesquisador de inteligência artificial que está fazendo doutorado na Universidade de Chicago, é Stephen Minister, um cristão leigo que é um cuidador treinado. Nesta qualidade, o Sr. Schwarting reunia-se semanalmente com a pessoa que procurava apoio. Isso ofereceu a ele uma maneira de comparar como as conversas poderiam ter ocorrido com um chatbot e consigo mesmo.
“Não creio que um modelo de IA seja capaz de ter essa sensação de presença”, diz ele.
Ainda assim, ele não descarta todas as formas pelas quais a IA poderia ser uma ferramenta útil para a exploração espiritual. Se alguém fala com a IA, ela faz 90% do trabalho, diz ele. “Não acho que haja algo metafísico acontecendo com o modelo de IA, mas você poderia ter algo metafísico acontecendo.”
Outros pesquisadores dizem que os chatbots podem ajudar alguém a pensar em como confessar um pecado a um pastor ou outra autoridade religiosa, ou podem fornecer companhia durante a leitura de um texto sagrado.
“A comunidade cristã pode começar a perceber que estes são os tipos de usos que seriam benéficos para a nossa comunidade”, diz o Dr. Curry, da Universidade de Leeds. Mas “nunca usaremos grandes modelos de linguagem para esses debates morais realmente profundos”.
Até agora, a grande maioria dos materiais em que os chatbots são treinados são ocidentais, resultando numa tendência para religiões de outras partes do mundo, diz Flor Plaza, professora de ciência da computação na Universidade de Leiden, na Holanda. Os LLMs mostram nuances ao discutir as principais religiões nos Estados Unidos e na Europa. No entanto, num estudo, ela e outros descobriram que as religiões orientais, como o hinduísmo e o budismo, eram fortemente estereotipadas, e o judaísmo e o islamismo eram estigmatizados.
Os chatbots geralmente incentivam coisas positivas, como o respeito pelas diferentes religiões, e protegem contra certas ideias, como a violência religiosa ou a automutilação, como o suicídio. (No entanto, muitas empresas ainda não desenvolveram salvaguardas fiáveis contra máquinas que sugiram esta última opção). Os valores são definidos pelas empresas que desenvolvem e treinam a IA – o que significa que os seus trabalhadores influenciarão a forma como a religião é retratada.
Essa é mais uma razão para trazer líderes religiosos para a conversa, diz Elias Kruger, um cientista de dados que iniciou um blog chamado AI Theology em 2016. Há potencial para usar o pensamento teológico para explorar a IA de uma perspectiva ética, diz ele.
“A ética tem a ver com nossos relacionamentos não apenas uns com os outros como seres humanos, mas com todo o nosso universo”, diz ele. “Costumávamos tratar as máquinas e as coisas feitas pelo homem como coisas, e agora estamos passando a tratá-las como seres.”
Esta mudança pode apresentar problemas no que diz respeito à fidelidade aos valores de certas religiões. Existe o risco do que muitas tradições abraâmicas chamariam de idolatria, porque a IA parece compartilhar alguns atributos com conceitos de Deus de diferentes religiões, como onisciência, onipotência, onipresença, diz o Sr. Brenner, da AI and Faith. Mas faltam-lhe outras, como amor, cuidado, preocupação, verdade e outras qualidades que criam a “dimensão plena de Deus”.
A IA só mudará se as pessoas que a fizeram o fizerem, diz Kruger. A maioria dos modelos é desenvolvida e mantida por uma força de trabalho masculina do Vale do Silício. “Como podemos começar a resolver o problema, capacitando pessoas de muitas religiões e origens para se tornarem construtores?” diz o Sr. Kruger, que possui mestrado em teologia pelo Fuller Seminary. “Acho que isso realmente mudará o curso do desenvolvimento da IA.”
O propósito da religião
Muitos grupos religiosos estão preocupados com os riscos de pensar que a IA é omnisciente. “Ele foi projetado para nos dar uma resposta, seja essa resposta correta ou não”, diz Meredith Gardner, diretora de alfabetização midiática da Mormon Women for Ethical Government. O grupo assinou uma carta recente instando o Congresso a rejeitar uma proposta de moratória sobre a regulamentação da IA.
A IA pode desempenhar o papel de diretor espiritual ao fazer perguntas e fornecer conselhos, diz o Rev. David Kim, diretor executivo da Goldenwood, que desenvolveu o bot e realiza workshops com grupos religiosos interessados em explorar ferramentas de IA. Para ele, isso remonta à ideia da “esperança da inteligência”. A imaginação sempre foi uma parte fundamental de sua jornada rumo à fé, diz ele, e ele vê a IA como uma ferramenta criativa.
“Certamente estamos cientes de tudo o que pode dar errado nisso, mas dado o compromisso teológico, temos este mandato para avançar com as coisas que cultivamos para uma orientação esperançosa”, diz ele.
Embora a inteligência artificial não tenha consciência, Kruger diz não ter dúvidas de que os humanos podem usá-la para explorar a sua fé. Mas é importante manter um senso de perspectiva e não procurar apenas o ChatGPT em busca de orientação espiritual, diz ele.
“A religião deve ser sobre isso, ela nos une ou nos isola mais?”
