Por redação AIoT Brasil

Um advogado da Austrália foi punido pela justiça por ter usado informações falsas fornecidas por uma ferramenta de inteligência artificial generativa em um caso de imigração. Além dos danos à sua reputação, o profissional teve de pagar ao governo federal as custas do processo, no valor de US$ 8.371, e reacendeu a discussão a respeito dos riscos envolvidos na utilização de dados sugeridos por bots de IA.

Somente na Austrália já foram registrados mais de 20 casos semelhantes, em que os advogados confiaram demais na IA e citaram alegações de processo inexistentes. Nesse último episódio, o representante do ministro da Imigração descobriu que haviam sido incluídas quatro citações de casos que nunca existiram.

De acordo com o jornal britânico The Guardian, o juiz Arran Gerrard, que decidiu o processo, disse que o incidente “demonstra os perigos inerentes associados aos profissionais que confiam exclusivamente no uso de inteligência artificial na preparação de documentos judiciais e a maneira como isso interage com o dever do profissional para com o tribunal”.

O nome do advogado não foi divulgado, mas ele contou que seu erro foi confiar demais na IA Claude, da Anthropic, “como uma ferramenta de pesquisa para identificar autoridades potencialmente relevantes” e para melhorar seus argumentos e posicionamentos legais. Afirmou ainda que havia usado o Microsoft Copilot para validar as informações.

Depois de pedir desculpas ao tribunal, o advogado explicou: “Eu tinha uma suposição incorreta de que o conteúdo gerado por ferramentas de IA seria inerentemente confiável, o que me levou a negligenciar a verificação independente de todas as citações por meio de bancos de dados jurídicos estabelecidos. Desenvolvi um excesso de confiança na IA e não consegui verificar adequadamente os resultados gerados”.

A reportagem do Guardian citou alguns dos problemas já ocorridos e destacou a preocupação das autoridades australianas. O juiz Arran Gerrard disse que a situação é preocupante e representa um risco para a área jurídica, com a possibilidade de um bom caso ser minado por absoluta incompetência. “Os princípios jurídicos não são simplesmente slogans que podem ser afixados em propostas sem contexto ou análise”, alertou.

Juliana Warner, presidente do Conselho Jurídico da Austrália, admitiu que a IA pode ser útil para dar apoio à profissão jurídica em tarefas administrativas, mas ressalvou que a dependência dessas ferramentas não dispensa o julgamento profissional que se espera de um advogado ao representar os interesses do cliente. “Quando essas ferramentas são utilizadas por advogados, isso deve ser feito com extremo cuidado”.