STJ abre investigação por uso de IA para fraudar processos
Medida foi tomada após identificação da entrada de petições com prompt injection, mecanismo para enganar modelos de IA
Brasília|Do R7, em Brasília, com informações da Agência Brasil
LEIA AQUI O RESUMO DA NOTÍCIA
Produzido pela Ri7a - a Inteligência Artificial do R7
O STJ (Superior Tribunal de Justiça) determinou nessa quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial para burlar o sistema eletrônico de petições do tribunal.
Por ordem do presidente do STJ, Herman Benjamin, um inquérito policial e um procedimento administrativo interno foram instaurados para apurar tentativas de fraudes, que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com prompt injection, mecanismo usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo.
Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de um documento que não contém os requisitos básicos de admissibilidade.
Segundo o STJ, o sistema do tribunal já tem travas contra o uso de prompts e impede que as ordens sejam executadas pela plataforma que recebe as petições.
“O STJ Logos [sistema de IA generativa elaborado pela Corte] já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”, disse Benjamin.
Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp
