20/05 - Tentativas de uso de prompt injection no STJ serão investigadas

Nas últimas semanas, o Superior Tribunal de Justiça (STJ) identificou no próprio acervo de processos petições com prompt injection (ou, na tradução livre, injeção de comando), que é uma artimanha utilizada por usuários mal-intencionados para inserir comandos ocultos em documentos comuns, com o objetivo de enganar modelos de inteligência artificial (IA). O prompt injection não é novidade, mas o que era uma informação mais conhecida por especialistas no tema ganhou o noticiário especializado jurídico no início deste mês de maio, após relatos de tentativa de fraude processual na Justiça trabalhista, no Tribunal Regional do Trabalho da 8ª Região (TRT8). No âmbito do STJ, segurança e integridade dos processos são prioridades absolutas desde o início do desenvolvimento dos sistemas de IA que culminaram com o lançamento, em fevereiro de 2025, do STJ Logos, que é o sistema de IA generativa elaborado pela corte e já foi desenvolvido com comandos específicos que impedem essas artimanhas. E as equipes técnicas do tribunal trabalham continuamente em soluções que ampliem a proteção do sistema. No caso do STJ Logos, mesmo que o sistema receba petições com as injeções de comando ocultas, camadas de segurança e integridade impedem que essas ordens maliciosas sejam executadas. Além das medidas de segurança implementadas desde a concepção do STJ Logos, foi determinado pela Presidência do tribunal que as tentativas de uso do prompt injection, embora neutralizadas pelo sistema, passem a ser certificadas nos autos para permitir a aplicação, por ministros e ministras da corte, de sanções processuais aos envolvidos. A Presidência também definiu a instauração de inquérito policial e procedimento administrativo para apuração dos fatos e oitiva dos advogados e escritórios relacionados, com vista à eventual responsabilização nas esferas criminal e correicional. Do Superior Tribunal de Justiça, Fátima Uchôa. Mais detalhes: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2026/20052026-Tentativas-de-uso-de-prompt-injection-no-STJ-serao-investigadas.aspx