O Superior Tribunal de Justiça (STJ) rejeitou, em decisão inédita, o uso de relatórios gerados por ferramentas de inteligência artificial (IA) como prova em uma ação penal por racismo. O caso envolvia a acusação de que o vice-prefeito de São José do Rio Preto, Fábio Marcondes, teria proferido ofensa racial contra um segurança do Palmeiras durante uma partida de futebol em fevereiro de 2025. A acusação baseou-se em um relatório produzido pela Polícia Civil de São Paulo com o uso das IAs Gemini e Perplexity. No entanto, o Instituto de Criminalística, por meio de análise fonética e acústica, não confirmou a presença da palavra ofensiva no áudio do vídeo.
O ministro Reynaldo Soares da Fonseca, relator do caso na Quinta Turma, destacou o risco de “alucinação” da IA generativa, que consiste na apresentação de informações imprecisas ou fabricadas com aparência de fidedignidade. Ele apontou limitações técnicas desses sistemas, que operam com base em probabilidades e padrões estatísticos, podendo produzir informações incorretas. O tribunal determinou a exclusão do relatório dos autos e ordenou que o magistrado de primeira instância profira nova decisão sobre a admissibilidade da acusação, sem levar em conta o documento. A decisão estabelece um precedente importante para a Justiça brasileira sobre os limites do uso de IA como prova penal.
Foto: Marcello Casal JrAgência Brasil