A OpenAI anunciou a decisão de impor salvaguardas mais rigorosas nas interações entre o ChatGPT e os adolescentes, com limites adicionais para reduzir a exposição a conteúdo que mencione armas e atos de violência. “Estamos implementando restrições adicionais ao acesso de menores de 18 anos a informações relacionadas a armas, mesmo quando a pergunta pareça inofensiva”, disse a empresa em seu mais recente Relatório de Segurança da Comunidade, divulgado na sexta-feira, dia 30.

Independentemente da faixa etária, o ChatGPT também poderá encerrar automaticamente, para todos os usuários, conversas em que a pessoa pareça estar obcecada por violência, além de interromper temporariamente as contas depois de várias conversas desse tipo. Além disso, a OpenAI disse que reforçou seu sistema de previsão de idade para direcionar adolescentes para outros temas e planeja notificar os pais caso a conta dos filhos adolescentes seja suspensa por discussões repetidas sobre violência.

Da mesma forma, haverá um limite para a abordagem de detalhes a respeito de ataques em massa já ocorridos e das armas utilizadas. “Os usuários podem, naturalmente, recorrer ao ChatGPT para compreender esses eventos, entender o impacto sobre as vítimas e as comunidades ou aprender a reconhecer sinais de alerta e prevenir futuras ocorrências de violência. No entanto, estamos tornando nossas políticas mais rígidas para restringir a reconstrução de ataques em massa, bem como comparações detalhadas sobre a escala dos danos, que poderiam acabar ampliando a notoriedade de um agressor. Essas limitações aplicam-se independentemente da idade do usuário ou do motivo da consulta”, explicou o relatório.

A decisão está diretamente relacionada ao aumento das críticas que as empresas de IA vêm recebendo pelo descaso que demonstram quanto aos riscos que os chatbots representam para os usuários jovens e à responsabilidade que têm na prevenção de ameaças. A OpenAI admitiu que os chatbots de IA “desempenham um papel singular” na escalada de violência entre os jovens, por isso é preciso impor limites mais rígidos.

“Atos de violência no mundo real são devastadores e complexos, envolvendo diversos fatores, e servem como um lembrete contundente de que precisamos continuar projetando e aprimorando nossos sistemas, levando em conta a complexidade inerente ao comportamento humano”, disse o relatório. Para o futuro, a OpenAI prometeu: “Continuamos comprometidos em mitigar riscos de danos no ChatGPT, fortalecendo nossas proteções em camadas, monitorando o uso indevido, fazendo cumprir nossas regras e recorrendo a suporte e intervenções no mundo real quando a situação exigir”.