Cresce sempre mais a consciência, na sociedade contemporânea, de que a inteligência artificial se torna cada vez mais importante na vida humana. Por esta razão, o papa Francisco insiste em dizer que os desafios que isto acarreta não se situam apenas na esfera tecnológica, mas também nas esferas antropológica, educacional, social e política. Desta forma, é um desafio urgente tomar consciência das grandes transformações em curso e, acima de tudo, atuar para que estas transformações possam assegurar a efetivação dos direitos humanos fundamentais no respeito às instituições e às leis que geram o progresso humano integral. A inteligência artificial deve pôr-se a serviço de um melhor potencial humano e das nossas mais altas aspirações.
De variadas formas, a inteligência artificial já está gestando transformações determinantes na configuração de nossas sociedades, influenciando profundamente as culturas, os comportamentos sociais e a construção da paz. No entanto, o papa Francisco nos adverte a respeito de uma questão de extrema gravidade: diz-se que o que aqui é gestado pode «alucinar», isto é, produzir afirmações que, num primeiro momento, apresentam-se como razoáveis, mas na realidade são improcedentes ou preconceituosas. Isto pode provocar algo muito perigoso na medida em que se usa a inteligência artificial em campanhas de desinformação que disseminam notícias falsas e geram uma desconfiança crescente em relação aos meios de comunicação.
A confidencialidade, a posse dos dados e a propriedade intelectual são outras esferas em que estas tecnologias geram graves ameaças às quais se vinculam outros efeitos negativos referentes a um uso indevido: a discriminação, a interferência nos processos eleitorais, a construção de uma sociedade que vigia e controla as pessoas, a exclusão digital e a exacerbação de um individualismo cada vez mais desvinculado da vida coletiva. Todos estes fatores podem alimentar os conflitos e obstaculizar a paz, pois quando os algoritmos ultrapassam informações, podem distorcê-las, multiplicando as injustiças e os preconceitos dos ambientes de onde partem. Quanto mais rápidos e complexos eles se geram, mais difícil é compreender por que produziram um determinado resultado.
As máquinas inteligentes podem executar os serviços que lhes são confiados com eficiência cada vez maior, mas objetivo e significação de suas atividades permanecem determinados ou capacitados pelo universo de valores de seres humanos. O perigo é que os critérios implícitos de certas escolhas permaneçam obscuros e que a responsabilidade de decisão seja camuflada de modo que os produtores possam esquivar-se da obrigação de agir para o bem da comunidade. De certo modo, isto é favorecido pelo próprio sistema tecnocrático, que associa a economia à tecnologia e “privilegia o critério da eficiência, tendendo a ignorar tudo o que não esteja ligado aos seus interesses imediatos”.
Para o papa, isto deve fazer-nos refletir sobre um aspecto frequentemente esquecido na atual mentalidade, mas decisivo para o desenvolvimento pessoal e social: o «sentido do limite». Com efeito, o ser humano, pensando em ultrapassar todo limite mediante a técnica, na obsessão de controlar tudo, na busca de uma liberdade absoluta, pode cair na espiral de uma “ditadura tecnológica”.
Pe. Manfredo Oliveira, UFC