STF identifica tentativa de usar comandos ocultos para influenciar IA em processo
Ministro Cristiano Zanin determinou comunicação à OAB e ao MPF e aplicou multa de dois salários mínimos
Brasília|Luiza Marinho*, do R7, em Brasília
LEIA AQUI O RESUMO DA NOTÍCIA
Produzido pela Ri7a - a Inteligência Artificial do R7
O STF (Supremo Tribunal Federal) identificou a primeira tentativa de uso de comandos ocultos em uma petição para direcionar sistemas de inteligência artificial a produzir uma decisão favorável a uma das partes de um processo.
Diante do episódio, o ministro Cristiano Zanin determinou que o caso seja comunicado à OAB (Ordem dos Advogados do Brasil), para análise de eventual infração ético-disciplinar, e ao MPF (Ministério Público Federal), para apuração de eventual prática de crime.
Leia Mais
O ministro também aplicou multa de dois salários mínimos por entender que houve violação ao dever de lealdade processual.
O caso foi comunicado ao gabinete do ministro Cristiano Zanin em 3 de setembro pela SGTI (Secretaria-Geral de Tecnologia da Informação) da Corte. “A Secretaria-Geral de Tecnologia da Informação deu ciência ao meu gabinete sobre a identificação de tentativa de injeção de prompt na petição de recurso extraordinário, por parte do advogado que representa a agravante”, escreveu o ministro em seu relatório.
Comandos escondidos
Segundo a área técnica do STF, foram inseridas na petição instruções ocultas, escritas em letras brancas e em tamanho reduzido. Os comandos continham argumentos destinados a induzir ferramentas de IA a conhecer e dar provimento ao recurso.
Apesar da tentativa, o conteúdo oculto não interferiu na análise do processo. Além disso, a decisão sobre o recurso já havia sido tomada pelo ministro em 19 de agosto, antes de o episódio ser comunicado ao gabinete.
A tentativa foi identificada pela Maria Shield, uma das funcionalidades da plataforma Maria, sistema de IA desenvolvido pelo STF para auxiliar servidores na análise de processos e na identificação de padrões e conteúdos potencialmente maliciosos em peças processuais.
Caso
O processo trata do recurso apresentado por uma servidora pública que teve anulada a nomeação para o cargo de oficial do Ministério Público de Minas Gerais.
A controvérsia envolve as regras de reserva de vagas para pessoas negras em concurso público e os critérios utilizados para a aplicação dessas regras.
*Estagiária do R7, sob supervisão de Augusto Fernandes, editor-chefe.
Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp
