O alerta de Leão XIV sobre um mundo que terceiriza decisões para máquinas

ANTONIO TUCCILIO Presidente da Confederação Nacional dos Servidores Públicos Em 28 de fevereiro, primeiro dia dos ataques dos Estados Unidos ao Irã, um míssil destruiu a escola primária Shajareh Tayyebeh, na cidade de Minab. Pelo menos 175 pessoas morreram, a maioria meninas com menos de 12 anos. As investigações indicam que o alvo foi selecionado com apoio de sistemas de inteligência artificial (IA) alimentados por dados desatualizados. Se foi um erro ou um acerto intencional para semear pânico na população, o fato é que ninguém sabe a quem responsabilizar por esse crime de guerra. Se a escolha foi feita por algoritmos, quem responde? A empresa que desenvolveu o sistema, o Estado que o contratou, o presidente que autorizou a operação? A IA cria zonas cinzentas de responsabilidade que não existiam, e avança muito mais rápido do que a capacidade da sociedade de debater o tema e tomar, com sabedoria, as medidas para controlá-lo. Diante desse cenário, o papa Leão XIV publicou sua primeira encíclica. A Magnifica Humanitas, lançada em 25 de maio, é inteiramente dedicada à proteção da pessoa humana na era da inteligência artificial, e seu alcance vai muito além das armas. O documento trata dos impactos da tecnologia sobre o trabalho humano e sobre a própria comunicação, ao alertar que ferramentas que poderiam favorecer o debate vêm sendo usadas para construir narrativas distorcidas e apagar as fronteiras entre o verdadeiro e o falso. O gesto repete a história. Há 135 anos, Leão XIII publicava a Rerum Novarum para responder aos efeitos da Revolução Industrial sobre os trabalhadores. Agora, o papa que escolheu seu nome em homenagem àquele pontífice volta o olhar da Igreja para a nova transformação do nosso tempo. O papa afirma que a inteligência artificial precisa ser desarmada, libertada das lógicas que a transformam em instrumento de dominação, exclusão e morte. Ele mesmo reconhece a força da palavra e diz que a escolheu deliberadamente, porque o momento exige expressões capazes de despertar consciências. A encíclica relata casos de sistemas de armas cada vez mais autônomos, praticamente fora do controle humano, e de algoritmos que negam acesso à saúde, ao trabalho e à segurança com base em dados contaminados por preconceito. Se um algoritmo é alimentado com dados que mostram que a maior parte dos crimes ocorre em uma região onde, por razões sociais, predomina uma determinada etnia, ele aprende que pessoas daquela etnia cometem mais crimes, e passa a reproduzir essa distorção como se fosse um fato. Também adverte que a concentração da tecnologia nas mãos de poucos atores privados cria um poder opaco, distante de qualquer controle público. Um detalhe da apresentação reforçou a relevância desse recado. Ao lado do pontífice estava um dos fundadores da Anthropic, empresa de inteligência artificial que se recusou a licenciar seus modelos ao Pentágono para o desenvolvimento de armas autônomas, sinal de que parte do próprio setor reconhece a urgência de limites. O alerta do Vaticano chega a um mundo que ainda discute como regular a tecnologia, e o Brasil não está fora dessa equação. Por aqui, a regulamentação da IA engatinha e permanece refém da disputa política, enquanto os sistemas já operam em bancos, hospitais, escolas e órgãos públicos. Essas decisões definirão o futuro da sociedade e não podem ficar restritas a gabinetes e interesses de ocasião. O debate sobre a inteligência artificial precisa se tornar uma demanda da sociedade como um todo, presente nas discussões políticas e nos projetos de governo, para que a tecnologia sirva às pessoas e não o contrário.