Por Ricardo Marques da Silva

Principal centro de tecnologia e inovação dos Estados Unidos e berço do Vale do Silício, a Califórnia se tornou o primeiro estado do país a regulamentar o uso de chatbots de inteligência artificial e, de forma objetiva, criar barreiras de proteção a crianças, adolescentes e vulneráveis. Ontem, dia 13, o governador Gavin Newsom assinou a SB 243, uma lei já definida como “histórica”, que exige dos operadores de assistentes de IA a implementação de protocolos de segurança mais rígidos e responsabiliza legalmente empresas que vão desde gigantes como Meta e OpenAI até startups que oferecem chatbots, como a Character AI e a Replika.

”Tecnologias emergentes como chatbots e mídias sociais podem inspirar, educar e conectar, mas, sem proteções reais, a tecnologia também pode explorar, enganar e colocar nossas crianças em perigo”, disse Newsom em comunicado publicado no site oficial do governo da Califórnia.

Adversário declarado do presidente Donald Trump, o governador democrata acrescentou: “Vimos alguns exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologias não regulamentadas, e não ficaremos parados enquanto as empresas continuam sem a responsabilização e os limites necessários. Podemos continuar a liderar em IA e tecnologia, mas devemos fazê-lo com responsabilidade, protegendo nossas crianças em cada etapa do caminho. A segurança das nossas crianças não está à venda”.

A nova lei entrará em vigor em 1º de janeiro de 2026 e exige que as empresas adicionem recursos como verificação de idade e avisos a respeito de redes sociais e chatbots complementares. Também impõe penalidades severas para quem lucra com deepfakes ilegais, com multas de até US$ 250 mil por infração. As empresas também deverão estabelecer protocolos para lidar com problemas como suicídio e automutilação, que serão compartilhados com o Departamento de Saúde Pública do estado.

As plataformas também deverão deixar claro que as interações com chatbots são geradas artificialmente, e menores devem receber lembretes de intervalo e serem impedidos de visualizar imagens sexualmente explícitas geradas pelo chatbot. A legislação também proíbe os chatbots de se apresentarem como profissionais de saúde.

Além disso, a nova lei torna obrigatória a orientação das escolas para prevenir o cyberbullying e exige que o Departamento de Educação da Califórnia adote, até 1º de junho de 2026, uma política-modelo sobre como lidar com atos relatados de importunação que ocorrem fora do horário escolar e que as agências educacionais adotem a política resultante ou uma política semelhante desenvolvida com a participação local.

O pioneirismo do governo da Califórnia na regulamentação da IA já havia se anunciado em 29 de setembro, quando Gavin Newsom assinou a Lei de Transparência em Inteligência Artificial de Fronteira (TFAIA), de autoria do senador Scott Wiener, destinada a “aprimorar a segurança online, instalando barreiras de bom senso no desenvolvimento de modelos de IA de fronteira, ajudando a construir a confiança do público e, ao mesmo tempo, continuando a estimular a inovação nessas novas tecnologias”, como foi explicado no site do governo do estado.

“A Califórnia provou que é possível estabelecer regulamentações para proteger nossas comunidades e, ao mesmo tempo, garantir que a crescente indústria de IA continue a prosperar. Essa legislação busca esse equilíbrio”, disse o governador. “A IA é a nova fronteira da inovação, e a Califórnia não está aqui apenas para isso, mas também se mantém firme como líder nacional ao promulgar a primeira legislação de segurança de IA de ponta do país, que constrói a confiança do público à medida que essa tecnologia emergente evolui rapidamente”, completou.