California prohíbe los feeds adictivos de redes sociales y los chatbots complementarios de IA para menores de 16 años

El gobernador de California, Gavin Newsom, firmó el 10 de septiembre un paquete de 13 proyectos de ley que restringen cómo las empresas tecnológicas pueden diseñar plataformas de redes sociales y chatbots de IA para usuarios menores de 16 años — un conjunto de leyes que los funcionarios estatales califican como las protecciones de seguridad infantil más sólidas de su tipo en el país.

El paquete se dirige a dos categorías de productos distintas que han atraído un escrutinio creciente durante el último año: funciones de redes sociales diseñadas para maximizar la interacción, y chatbots complementarios de IA comercializados o usados por menores.

Qué requieren las reglas de redes sociales

Las empresas de redes sociales ahora tienen prohibido dar a usuarios menores de 16 años acceso a funciones que la ley define como "adictivas" — una definición que incluye explícitamente reproducción automática de videos, notificaciones push y feeds de contenido personalizados por algoritmo. Las empresas declaradas negligentes al causar daño a un menor a través de estos mecanismos enfrentan multas de hasta 1 millón de dólares por niño.

Qué requieren las reglas de chatbots

Para los chatbots complementarios de IA, las nuevas leyes imponen límites de tiempo sobre cómo pueden interactuar los adolescentes con ellos y exigen que los creadores de chatbots incorporen recursos de salud mental y protocolos de seguridad que se activen si la conversación de un menor toca el autolesionismo.

Disposiciones adicionales

El paquete también amplía las protecciones de privacidad en línea para menores de forma más general, y permite a las familias excluir a sus hijos de recibir laptops emitidas por la escuela.

Por qué esto importa más allá de California

Las regulaciones tecnológicas de California han establecido históricamente un piso nacional de facto, ya que la mayoría de las plataformas principales se construyen según el requisito estatal más estricto en lugar de mantener versiones de producto separadas por estado.

Fuente: Oficina del Gobernador Gavin Newsom