‘Prompt injection’: novos casos de advogados manipulando IA geram preocupação; entenda

O uso de comandos ocultos em petições, para influenciar inteligências artificiais, tem se tornado um problema no meio jurídico. Desde o último mês, quando advogadas do Pará foram multadas pela prática de prompt injection, casos vieram à tona em estados como Minas Gerais, São Paulo e Paraíba. “Nós estamos falando de questões simples”, diz o especialista em crimes digitais Flávio D’Urso em entrevista ao Conexão Record News.

“É um texto ali oculto, escrito em branco, no papel branco, então não aparece. Mas pode ter outro tipo de inserção de informações, de comandos para a inteligência artificial, de forma mais elaborada, mais técnica. E isso fará com que, eventualmente, se não for observado esse cuidado de se ler o processo, a decisão não seja a mais adequada, a mais correta, a mais justa, como o caso merece”, fala.

O especialista defende que a tecnologia pode ser uma aliada, desde que o ser humano não seja substituído. “O que não pode acontecer é simplesmente essa inteligência artificial passar a decidir. A partir do momento que isso ocorrer, não há necessidade de ter mais magistrados, [...] isso também traria consequências muito danosas e eu, particularmente, entendo que não é o adequado. O adequado é que continuemos a utilizar o ser humano, até porque ele é dotado de características e de condições de informações que só nós, humanos, temos para julgar aquele caso da forma mais adequada.”

Diante da alta gravidade da questão, o STJ (Superior Tribunal de Justiça) instaurou uma investigação interna para apurar tentativas de fraude cometidas por advogados e escritórios em sistemas de IA do Judiciário. “Eu vejo essa situação como o início de um grande problema se nós não tomarmos as devidas cautelas, as devidas precauções”, conclui D’Urso.

Análises, entrevistas e as notícias do Brasil e do mundo estão na RECORD NEWS. Acesse o site aqui e confira os principais conteúdos em texto e vídeo!