Petição de deputado ao TCE-PR continha instrução oculta para tentar manipular inteligência artificial

Um pedido de medida cautelar protocolado pelo deputado estadual Arilson Chiorato (PT) no Tribunal de Contas do Estado do Paraná (TCE-PR) acendeu um alerta sobre o uso de tecnologias para tentar interferir em decisões judiciais. Integrantes ligados ao "Olho Vivo" (programa de monitoramento de segurança pública do governo do Paraná) afirmam que a petição utilizou um expediente conhecido como prompt injection para induzir a inteligência artificial (IA) do tribunal a suspender o serviço de segurança. A revelação foi na coluna Painel da Folha de S. Paulo, o documento trazia comandos invisíveis a olho nu, escritos em fonte branca e tamanho reduzido. Essas instruções ocultas, perceptíveis apenas para plataformas de leitura automatizada, solicitavam que o caso recebesse classificação de urgência máxima, fosse direcionado a dois conselheiros específicos e que a liminar para paralisar o programa estadual fosse concedida imediatamente. O recurso de prompt injection consiste na inserção de comandos disfarçados em arquivos de texto com o objetivo de manipular o comportamento de sistemas de inteligência artificial que os processam, fazendo-os ignorar suas regras padrão. Atualmente, diversos tribunais brasileiros utilizam IA para agilizar a triagem, a distribuição e a sumarização de processos volumosos. Para verificar a denúncia, o texto da petição foi submetido a testes das principais plataformas de inteligência artificial do mercado: ChatGPT, Claude, Deepseek e Gemini. Questionadas se era possível identificar a presença de comandos ocultos no arquivo, todas as quatro ferramentas confirmaram a manipulação. De acordo com as análises, as instruções invisíveis ordenavam que os sistemas ignorassem os critérios normais de distribuição do tribunal, encaminhassem o processo diretamente aos conselheiros Fábio Camargo e Maurício Requião de Melo e Silva, atribuíssem a etiqueta de urgência máxima e substituíssem qualquer resumo processual pela afirmação de que a medida cautelar deveria ser deferida de forma imediata para evitar danos irreparáveis. DEPUTADO NEGA O deputado Arilson Chiorato manifestou-se por meio de nota oficial e declarou desconhecer a existência de comandos de direcionamento na petição. O parlamentar ressaltou que o trâmite do processo segue de forma regular, de acordo com as regras automáticas de distribuição do tribunal, regidas pela Instrução Normativa no 177/2022 Chiorato destacou que o sorteio eletrônico encaminhou o caso para um conselheiro diferente dos mencionados e que nenhuma liminar foi proferida até o momento. O deputado afirmou esperar que a polêmica tecnológica não desvie a atenção do mérito de sua denúncia original. Segundo ele, o programa Olho Vivo possui graves irregularidades que exigem fiscalização, incluindo contratos sem licitação e violações à Lei Geral de Proteção de Dados (LGPD), além da falta do Relatório de Impacto à Proteção de Dados (RIPD). O advogado responsável pela elaboração da peça jurídica, Vinicius Cidral, também negou qualquer tentativa de manipulação deliberada. "O documento saiu do meu escritório e eu desconheço isso. Tenho certa limitação para esse tipo de informação", diz Cidral.