Por Daniel dos Santos, editor do AIoT Brasil

Todo mundo que entende pelo menos um pouco de inteligência artificial sabe que o ChatGPT, ferramenta de IA generativa criada pela OpenAI, é um fenômeno em matéria de popularidade (só no Brasil foram mais de 14 milhões de visualizações de sua página em apenas 3 meses) e negócios (a Microsoft, por exemplo, anunciou o investimento de 10 bilhões de dólares na empresa).

Mas o que muita gente ainda não sabe é dos problemas e das limitações que ela também tem. Segundo Marcelo Finger, professor e pesquisador de inteligência artificial da Universidade de São Paulo e da Cornell University, o ChatGPT tem sérios problemas. “O ChatGPT tem números impressionantes, mas mente e alucina”, destacou o especialista em palestra no AI Forum 2023, evento realizado hoje (14/06) em São Paulo.

Marcelo Finger, professor da USP:  ChatGPT não tem compromisso com a verdade

O professor conta que pediu para a ferramenta listar quatro referências da sua área de pesquisa. “Ele botou referências das quais eu nunca tinha ouvido falar, todas rigorosamente falsas, com links que davam para lugar nenhum”, conta. “Ele é um mentiroso, gerador de fake news de primeira”, critica.

“É preciso tomar cuidado com o que ele fala, pois ele muitas vezes diz coisas que não sabe. O ChatGPT matou metade dos meus colegas do departamento”, conta o especialista. “Ele disse que um amigo meu tinha morrido em 2018 e ele estava do meu lado”, explica.

Segundo o especialista, é uma coisa temerária, atualmente, usar esta ferramenta para a tomada de decisão. “Se você usa o ChatGPT para gerar textos, tudo bem. Mas é preciso saber que ele não tem compromisso com a verdade”, critica Finger.

A popular ferramenta de IA generativa parece que passou da fase “de lua de mel” com o mercado, pois tem sido alvo de críticas ao redor do mundo. Empresas têm criticado seu uso por conta de questões de segurança e privacidade.

É o caso da Samsung.  Um vazamento acidental provocado por um engenheiro levou a multinacional sul-coreana  a proibir os funcionários de sua divisão de eletrodomésticos e celulares de usar não apenas o  ChatGPT, mas também  outras ferramentas de inteligência artificial generativa, como o Google Bard.