Por redação AIoT Brasil

Enquanto se multiplicam globalmente os problemas resultantes do uso de bots de IA por crianças e adolescentes, a OpenAI anunciou na terça-feira, 20, a decisão de implantar configurações de segurança adicionais no ChatGPT. Em comunicado publicado em seu site oficial, a empresa de Sam Altman afirmou que, nas próximas semanas, será aplicado um sistema de previsão de idade que analisará diferentes sinais vinculados à conta do usuário, como tópicos comuns nas conversas e horários de uso, para “limitar conteúdo sensível e certos tipos de interações”.

No comunicado, a OpenAI disse que se o sistema detectar que o usuário tem menos de 18 anos, o ChatGPT ativará novas configurações de segurança. “Alguns tópicos serão tratados com mais cuidado para ajudar a reduzir o conteúdo sensível, como violência gráfica ou sangrenta, desafios virais que podem incentivar comportamentos de risco ou prejudiciais, encenação de papéis sexuais, românticos ou violentos, conteúdo que promove padrões de beleza extremos, dietas prejudiciais à saúde ou vergonha corporal”, detalhou.

A OpenAI lembrou que “nenhum sistema é perfeito” e, algumas vezes, um usuário com mais de 18 anos poderá ser identificado erroneamente como menor. Se isso acontecer, a recomendação é de que se proceda à verificação da idade no link https://chatgpt.com/verify_age ou por meio de login no ChatGPT na web. Para isso, é preciso abrir “Configurações” e confirmar se está no modo “menor de 18 anos” e, em seguida, selecionar “Verificar idade” e seguir os passos com a Persona, uma empresa externa contratada pela OpenAI.

Dependendo do país em que vive o usuário, a Persona poderá pedir um documento ou uma selfie ao vivo por celular ou webcam. Se a empresa confirmar que a pessoa tem 18 anos ou mais, o ChatGPT removerá as configurações de segurança adicionais.

Ao comentar o anúncio da OpenAI, a agência Reuters lembrou que Fidji Simo, CEO de aplicações da empresa, havia dito em dezembro que o “modo adulto” do ChatGPT talvez fosse lançado no primeiro trimestre de 2026, depois da afirmação de Sam Altman no sentido de permitir conteúdo mais ousado. “Como parte do nosso princípio de ‘tratar usuários adultos como adultos’, permitiremos ainda mais conteúdo, como conteúdo erótico para adultos verificados”, disse Altman.

Ao mesmo tempo, a OpenAI está sendo acusada de permitir que o ChatGPT mantenha interações inadequadas com menores de idade e enfrenta alguns processos judiciais, entre os quais o movido por um casal da Califórnia cujo filho de 16 anos teria sido incentivado pelo bot de IA a tirar a própria vida. Casos como esse foram, provavelmente, o que levou a empresa a criar os mecanismos adicionais de segurança anunciados nesta semana.