Um caso sem precedentes de "alucinação" de Inteligência Artificial colocou o judiciário dos Estados Unidos em alerta. A Suprema Corte do Novo México multou em US$ 5.000 o advogado Stephen Aarons por desacato e o encaminhou para investigação disciplinar.
O motivo: ao recorrer da condenação de prisão perpétua de seu cliente, Oscar Renee Sandoval, condenado pelo assassinato da mãe de seus filhos, o defensor entregou à Justiça um recurso contendo depoimentos e depoentes fictícios gerados pelo ChatGPT.
Aarons admitiu ter utilizado a ferramenta da OpenAI para resumir as transcrições do julgamento ao assumir a defesa em 2025. Contudo, a tecnologia inventou detalhes vitais, como declarações falsas afirmando que o atirador vestia calças escuras e camisa branca.
Veja também:
- O motivo que fez o dono do ChatGPT mandar frear testes com IA
- Grupo no Iêmen usa IA para tentar criar armas guiadas
- Conheça o GPT-6 Astra: a IA que vai mudar a internet para sempre
O painel de juízes destacou a falta de verificação dos dados e a ausência de remorso do profissional em relação ao cliente. "É uma lição aprendida para todos os profissionais que dependem dessa tecnologia", declarou Aarons à imprensa, classificando o episódio como um erro honesto.
O que é e por que acontece a alucinação em ferramentas de IA?
O fenômeno conhecido como "alucinação de IA" ocorre quando modelos de linguagem geram informações falsas, mas com tom convincente. Isso acontece porque a tecnologia opera por padrões probabilísticos e inferência sintática, não por compreensão real dos fatos ou checagem de veracidade.
Especialistas e magistrados alertam que o uso de assistentes virtuais no ecossistema jurídico exige rigor e revisão humana obrigatória. O descumprimento dessas diretrizes põe em risco a ampla defesa, a integridade de processos criminais e a ética profissional.