Em um processo judicial que tramita no estado norte-americano do Novo México, o advogado Stephen Aaron usou testemunhas falsas inventadas pelo ChatGPT na apelação de um homicídio e está sendo acusado de desacato direto ao tribunal. Ele alegou que acreditou na veracidade das informações dadas pelo bot de inteligência artificial da OpenAI e não imaginou que isso poderia acontecer, mas foi repreendido severamente pelos juízes e afastado do caso.

Um dos juízes foi implacável: “Você assiste ao noticiário? Você ouve rádio? Você lê alguma coisa sobre o que está acontecendo no mundo? Porque o problema de advogados que se baseiam em alucinações de inteligência artificial é que isso vira notícia de primeira página todos os dias“, disse ao advogado.

Em sua defesa, Aarons afirmou que confiava nas respostas do ChatGPT e esperava que a IA geraria um “resumo irrefutável dos procedimentos”. Em vez disso, o bot construiu depoimentos falsos de “testemunhas totalmente inventadas”, como se fosse uma história de ficção, de acordo com a ordem de desacato da Suprema Corte do Novo México.

Não era um caso banal, de pouca importância. Aarons defendia um homem acusado de matar sua esposa no início deste ano, que acabou sendo condenado e cumpre prisão perpétua. De acordo com o site de jornalismo investigativo 404 Media, o advogado apresentou o testemunho de duas pessoas fictícias, Danny e Linda Stanton, inventadas pelo ChatGPT, na tentativa de inocentar seu cliente. Outros falsos testemunhos, também gerados por IA, incluíam declarações sobre as roupas e a aparência de um suposto atirador.

Aarons admitiu o erro: “É um consolo pequeno saber que minha estupidez é o que nos reúne esta tarde”, disse o advogado ao ser questionado em uma audiência com cinco juízes. “Estou arrependido, mas espero que o conselho disciplinar leve em consideração que foi um erro honesto. É uma lição importante para todos os profissionais que dependem dessa tecnologia poderosa, mas às vezes instável”, acrescentou”.

Os juízes não se convenceram, e um deles afirmou: “Então, você enfiou a cabeça na areia, e essa é uma escolha intencional de se manter desinformado. Ou você fez uma aposta. E nenhuma dessas opções é compatível com o código de conduta. Então, estou realmente com dificuldades para entender sua resposta, dizendo: ‘Bem, eu não entendi. Eu não sabia dessas alucinações’. Meu sobrinho de 13 anos sabe dessas alucinações. Minha madrasta de 75 anos sabe dessas alucinações”.