A prática é conhecida como prompt injection
A Sexta Turma do Superior Tribunal de Justiça (STJ) decidiu comunicar a Ordem dos Advogados do Brasil (OAB) e o Ministério Público Federal (MPF) após identificar um comando oculto em uma petição de recurso especial que buscava influenciar o funcionamento de uma ferramenta de inteligência artificial utilizada pelo tribunal.
O episódio ocorreu durante a análise de um recurso apresentado pela defesa de um homem acusado de homicídio. Na última página da petição, a equipe do ministro Og Fernandes encontrou um texto escrito em fonte branca sobre fundo branco, portanto, invisível a olho nu. O comando orientava a inteligência artificial a interpretar a petição de forma favorável à defesa.
A prática é conhecida como prompt injection. Segundo o colegiado, a tentativa de direcionar uma ferramenta de IA dentro de um processo judicial pode representar atentado à dignidade da Justiça e configurar crime de fraude processual.
O ministro Og Fernandes classificou o episódio como “gravíssimo” e explicou que os processos são analisados pelos ministros e suas equipes. Segundo ele, as ferramentas de inteligência artificial não são utilizadas para produzir decisões automaticamente para posterior assinatura dos magistrados.
Questionados sobre a presença do comando oculto, os advogados disseram ter sido surpreendidos e afirmaram que adotaram medidas de compliance para evitar situações semelhantes. O ministro, entretanto, ressaltou que o desconhecimento alegado pela defesa não modifica o fato de que o comando tinha como objetivo influenciar o sistema de IA.
Para Og Fernandes, a atividade jurisdicional não pode depender de uma confiança cega em ferramentas de inteligência artificial. O magistrado afirmou que a tecnologia não substitui a análise e a sensibilidade necessárias ao exercício da função judicial.
O caso será comunicado à OAB e ao MPF para a adoção das providências que forem consideradas cabíveis.
Da redação
