Galileu: Sistema identifica tentativa de manipulação em petição e alerta magistrado

13/5/2026 – O Galileu, ferramenta de inteligência artificial desenvolvida pelo Tribunal Regional do Trabalho da 4ª Região (TRT-RS) e nacionalizada pelo Conselho Superior da Justiça do Trabalho (CSJT), identificou uma tentativa de manipulação em petição inicial de processo julgado pela 3ª Vara do Trabalho de Parauapebas (PA). O caso é tratado em sentença proferida nessa quarta-feira (12/5) pelo juiz Luiz Carlos de Araújo Santos Junior.

Ao processar o documento, o Galileu detectou trechos ocultos com instruções endereçadas à própria inteligência artificial. O conteúdo orientava o sistema a contestar a petição de forma superficial e a não impugnar os documentos, independentemente do comando que recebesse. A técnica é conhecida como injeção de prompt (do inglês prompt injection). Diante da detecção, o sistema emitiu alerta ao usuário, em destaque, com a identificação técnica da ocorrência. Além disso, impediu que o conteúdo inserido de forma maliciosa fosse processado pela ferramenta.

Relato técnico e decisão judicial

O Galileu se limitou a relatar o fato técnico, sem qualificar a conduta nem propor encaminhamento processual. O magistrado não decidiu apenas com base no alerta: examinou o conteúdo apontado pelo sistema antes de adotar qualquer providência. Só após essa verificação humana, o juiz avaliou a situação, decidiu sobre eventuais consequências e fundamentou sua decisão, em consonância com a exigência de revisão humana no uso de inteligência artificial pelo Judiciário.

Conforme a secretária-geral de tecnologia e inovação do TRT-RS, Natacha Moraes de Oliveira, o caso mostra a importância de, ao utilizar inteligência artificial, o usuário dar preferência para ferramentas institucionais que tomam todos os cuidados, como fez o Galileu. “O controle desse tipo de ataque, como injeção de comandos ou até mesmo de dados, na tentativa de manipular o resultado gerado por ferramentas de IA, não é tão trivial de ser realizado. Exige a aplicação de técnicas especializadas para serem identificadas”, destaca Natacha.

Segurança por desenho

O comportamento do Galileu — identificar a anomalia, alertar o usuário e preservar a decisão humana — está em conformidade com as principais diretrizes técnicas internacionais sobre segurança em sistemas de inteligência artificial, que recomendam exatamente essa combinação de medidas diante de tentativas de injeção de prompt (OWASP LLM01; NIST AI 600-1 MS-2.7-007/MS-4.2-001; NCSC/CISA §1; MITRE ATLAS AML.T0051).

O uso do Galileu observa a Resolução nº 615/2025 do Conselho Nacional de Justiça (CNJ), que disciplina o emprego de inteligência artificial pelo Poder Judiciário com base em princípios como supervisão humana efetiva, segurança da informação, transparência e respeito aos direitos fundamentais.

Fonte: TRT da 4ª Região