Califórnia proíbe feeds viciantes de redes sociais e chatbots complementares de IA para menores de 16 anos

O governador da Califórnia, Gavin Newsom, assinou em 10 de setembro um pacote de 13 projetos de lei que restringem como empresas de tecnologia podem projetar plataformas de redes sociais e chatbots de IA para usuários menores de 16 anos — um conjunto de leis que autoridades estaduais chamam de as mais fortes proteções de segurança infantil do gênero no país.

O pacote visa duas categorias distintas de produtos que atraíram escrutínio crescente no último ano: recursos de redes sociais projetados para maximizar o engajamento, e chatbots complementares de IA comercializados para ou usados por menores.

O que as regras de redes sociais exigem

Empresas de redes sociais agora estão proibidas de dar a usuários menores de 16 anos acesso a recursos que a lei define como "viciantes" — uma definição que inclui explicitamente reprodução automática de vídeos, notificações push e feeds de conteúdo personalizados por algoritmo. Empresas consideradas negligentes ao causar dano a uma criança através desses mecanismos enfrentam multas de até US$ 1 milhão por criança.

O que as regras de chatbot exigem

Para chatbots complementares de IA, as novas leis impõem limites de tempo sobre como adolescentes podem interagir com eles e exigem que criadores de chatbots incorporem recursos de saúde mental e protocolos de segurança acionados se a conversa de um menor tocar em automutilação.

Disposições adicionais

O pacote também expande as proteções de privacidade online para menores de forma mais ampla, e permite que famílias isentem seus filhos de receber laptops emitidos pela escola.

Por que isso importa além da Califórnia

As regulamentações de tecnologia da Califórnia historicamente estabeleceram um piso nacional de fato, já que a maioria das grandes plataformas se constrói de acordo com o requisito estadual mais rigoroso em vez de manter versões de produtos separadas por estado.

Fonte: Gabinete do Governador Gavin Newsom