Treize nouvelles lois californiennes imposent désormais aux entreprises de médias sociaux et d'intelligence artificielle certaines des obligations les plus étendues du pays en matière de protection de l'enfance. Elles transfèrent ainsi une part croissante de la responsabilité concernant l'environnement numérique des jeunes des familles et des écoles vers les entreprises qui le conçoivent. Le gouverneur Gavin Newsom a promulgué ces lois le 10 septembre, selon un article de l'Associated Press. Ces mesures restreignent les flux interactifs pour les enfants de moins de 16 ans, imposent de nouveaux contrôles sur les chatbots, renforcent la responsabilité en cas de préjudice, révisent les règles de vérification de l'âge et accordent aux familles un contrôle accru sur les appareils fournis par l'école.

Pour les enseignants, ce dispositif est important même si la plupart de ses exigences incombent aux entreprises technologiques plutôt qu'aux districts scolaires. Les écoles s'efforcent depuis des années de contrôler le comportement des élèves au moment de l'utilisation : limitation de l'accès aux téléphones, filtrage des réseaux, élaboration de règles d'utilisation acceptable et enseignement de l'éducation aux médias. La Californie teste désormais une hypothèse différente : l'architecture même d'un produit peut engendrer des risques qui ne peuvent être maîtrisés uniquement par de meilleurs choix de la part des enfants, des parents ou des enseignants.

Ces lois ne règlent pas les débats scientifiques ou constitutionnels relatifs aux technologies pour les jeunes. Elles transforment ces débats en questions d'application concernant les fonctionnalités nuisibles, la détermination de l'âge, les preuves d'audit et l'accès aux communautés en ligne bénéfiques. La Californie étant à la fois l'État le plus peuplé et le siège de nombreuses entreprises technologiques, les réponses apportées pourraient avoir des répercussions bien au-delà de ses frontières sur les produits et les pratiques scolaires.

Une règle de conception, pas seulement une règle pour le temps passé devant un écran

Le projet de loi 1709 de l'Assemblée vise des mécanismes spécifiques utilisés pour maintenir l'attention, plutôt que de fixer une limite de temps quotidienne. Son texte définit les fonctionnalités addictives, notamment les flux algorithmiques et la lecture automatique, et interdit aux plateformes concernées de les proposer aux utilisateurs de moins de 16 ans. Une plateforme peut toutefois autoriser un jeune à conserver un compte si ces fonctionnalités sont supprimées ; cette nuance fait de la loi moins une interdiction absolue qu'une obligation de repenser l'expérience utilisateur.

Cette distinction permet de séparer l'accès à l'information des mécanismes qui la suggèrent en permanence. Un flux chronologique, une vidéo à la demande ou un message privé peuvent présenter des risques différents d'un flux continu personnalisé en fonction des interactions précédentes. La loi considère donc la conception de l'interface comme une variable susceptible d'être réglementée, et non comme un simple contenant de contenu.

La conformité dépendra de la vérification de l'âge. Les plateformes devront vérifier l'âge d'un utilisateur avant de lui fournir des fonctionnalités restreintes, tandis que la législation connexe modernise le système de l'État pour la transmission des signaux de tranche d'âge par les systèmes d'exploitation ou les boutiques d'applications. Le de loi AB 1856, par l'État, précise que ces signaux ne doivent être demandés que lorsque la loi l'exige, afin d'empêcher que les informations relatives à l'âge ne deviennent un outil de suivi généralisé.

Les dispositions d'application sont importantes : la loi AB 1709 autorise des sanctions civiles pouvant atteindre 50 000 $ par mineur concerné en cas de violation intentionnelle et 25 000 $ en cas de violation par négligence. Elle crée également une commission consultative composée d'experts en pédiatrie, psychologie, technologies, société civile, enseignement supérieur et éducation primaire et secondaire. Cette structure multidisciplinaire reconnaît implicitement que l'utilisation des technologies par les jeunes ne peut être évaluée uniquement sous l'angle de la protection de la vie privée, de la santé ou de l'enseignement.

Les chatbots sont confrontés à une norme différente

La loi relative aux chatbots d'assistance adopte une approche plus détaillée, car les systèmes conversationnels peuvent simuler une relation, conserver des souvenirs et répondre de manière confidentielle à un enfant sur de longues périodes. Le projet de loi 1119 du Sénat exige des opérateurs autorisant l'utilisation par des enfants qu'ils réalisent des évaluations des risques documentées, publient des politiques de sécurité des enfants et mettent en œuvre des protocoles de gestion de crise. Selon le texte final, les exigences essentielles entreront en vigueur le 1er juillet 2027, tandis que les audits indépendants débuteront ultérieurement.

Les paramètres par défaut sont particulièrement précis. Pour les comptes enfants, la mémoire conversationnelle persistante et les notifications push doivent généralement être désactivées ; une session continue est limitée à une heure et l’utilisation quotidienne à deux heures, sauf si un parent modifie ces paramètres. Le système doit indiquer périodiquement qu’il est artificiel et ne peut prétendre à la conscience, simuler un intérêt romantique, encourager la dépendance affective ni inciter un enfant à dissimuler son utilisation à un parent.

La loi établit également des limites concernant les fonctions liées à la santé mentale. Les exploitants doivent prendre des mesures raisonnables pour empêcher que les systèmes n'incitent à l'automutilation, aux troubles alimentaires ou à la consommation de substances, et pour éviter toute tentative de diagnostic ou de traitement, sauf si le produit est un dispositif médical réglementé. En cas de menace d'automutilation crédible et imminente, l'exploitant doit donner accès à un service de soutien en cas de crise ou avertir un parent référent, à condition que cette démarche ne présente pas elle-même de risque grave.

Une disposition mérite une attention particulière de la part des établissements d'enseignement supérieur : un établissement postsecondaire proposant un chatbot d'accompagnement exclusivement dans un contexte éducatif est exclu de la définition d'opérateur au sens de la loi. Cette exemption ne dispense pas l'établissement de ses obligations en matière de protection de la vie privée, de handicap, de protection des consommateurs ou de normes professionnelles. Elle signifie toutefois que les établissements d'enseignement supérieur ne peuvent présumer que la conformité d'un fournisseur avec la nouvelle réglementation relative aux chatbots destinés aux enfants répond automatiquement aux différentes questions soulevées par les outils de conseil, les chatbots d'aide aux étudiants ou les systèmes de soutien aux étudiants.

Les écoles demeurent un élément du système de sécurité

Le plan californien arrive à un moment où les écoles deviennent de plus en plus des lieux d'accès aux technologies, et non plus seulement des espaces où apparaissent des appareils personnels. Parmi les nouvelles mesures, on note un pouvoir accru des familles pour refuser les ordinateurs portables fournis par l'école, tandis qu'une proposition distincte, concernant les plus jeunes élèves, limiterait le nombre d'appareils à emporter à la maison et préconiserait l'adoption de politiques exemplaires au niveau de l'État. Même lorsqu'une loi s'applique directement aux plateformes, les responsables scolaires en subiront les conséquences lors des achats, de la création des comptes, des questions des parents et des protocoles d'assistance aux élèves.

Le problème pratique réside dans le chevauchement des catégories de produits. Une plateforme d'apprentissage peut intégrer messagerie, recommandations, intelligence artificielle générative ou personnalisation sans pour autant être commercialisée comme un réseau social. Un chatbot généraliste peut être accessible via le navigateur de l'établissement scolaire même si celui-ci n'a pas acquis de licence. Les administrateurs devront disposer d'inventaires recensant les fonctions intégrées, car le risque réglementaire peut provenir d'une fonctionnalité ajoutée après la signature du contrat initial.

Les écoles se situent également à la frontière entre prévention et intervention. Si un chatbot commercial alerte un parent d'un problème de sécurité, un élève peut arriver à l'école en ayant besoin d'un soutien immédiat ; dans le cas contraire, un enseignant ou un conseiller peut être le premier adulte à remarquer une détresse. L' Académie américaine propose des ressources à destination des enseignants qui mettent l'accent sur les bonnes habitudes et le contexte plutôt que sur une limite unique de temps d'écran, soulignant que les réglementations légales ne peuvent remplacer les relations, le jugement professionnel ou l'accès aux soins.

Les preuves plaident en faveur de garde-fous et d'humilité

L'approche californienne axée sur le design reflète des préoccupations légitimes, mais les données ne permettent pas d'affirmer simpliste que toute utilisation des réseaux sociaux provoque des troubles mentaux. Un avis fédéral a révélé que jusqu'à 95 % des jeunes de 13 à 17 ans utilisaient une plateforme sociale et qu'une utilisation de plus de trois heures par jour était associée à un risque deux fois plus élevé de problèmes de santé mentale, selon une étude longitudinale. Cette même étude a souligné que les effets varient selon l'enfant, le contenu, l'activité et la mesure dans laquelle cette utilisation empiète sur le sommeil, l'activité physique ou les interactions sociales.

L' analyse consensuelle des Académies nationales a également abordé la question sous l'angle des risques et des avantages, notamment le lien social, la construction identitaire et l'accès à l'information. Cette complexité est essentielle car l'argument politique le plus convaincant n'est pas que toute interaction numérique est dangereuse ; il est que les enfants ne devraient pas supporter seuls les risques liés à des systèmes optimisés sur la base de données indépendantes limitées concernant leurs effets sur le développement.

Les critiques estiment que la solution proposée par la Californie engendre d'autres risques. L'Electronic Frontier Foundation, s'opposant à la loi, soutient que des définitions trop larges pourraient exclure les jeunes de communautés utiles et que la vérification de l'âge pourrait nécessiter la collecte de données d'identité sensibles. Le projet de loi AB 1709 anticipe certaines de ces tensions en chargeant sa commission consultative d'étudier la protection de la vie privée, l'exactitude des données, la faisabilité et les conséquences pour les jeunes marginalisés, mais un organe consultatif ne peut à lui seul empêcher la collecte excessive de données ni résoudre les litiges constitutionnels.

La mise en œuvre sera donc aussi importante que l'adoption de la loi. Les autorités de réglementation doivent distinguer les indicateurs d'âge raisonnables des contrôles d'identité intrusifs, les auditeurs doivent être suffisamment indépendants pour vérifier des éléments autres que les documents papier, et les rapports publics doivent être suffisamment détaillés pour informer les familles et les institutions sans exposer les données des enfants. Si ces conditions ne sont pas remplies, un système de sécurité pourrait garantir une conformité formelle sans pour autant modifier en profondeur le fonctionnement du produit.

Leçons à retenir pour les enseignants

Pour les responsables de l'enseignement primaire et secondaire, le dispositif californien fait de la gouvernance de la sécurité numérique un enjeu de gestion de produits autant que de discipline scolaire. Concrètement, il est essentiel de savoir quels services approuvés proposent des flux personnalisés, des fonctionnalités complémentaires, une mémoire persistante, des notifications ou des fonctions de vérification de l'âge, et si ces éléments peuvent être désactivés sans supprimer le service éducatif lui-même. Les évaluations des achats devront peut-être prendre en compte les analyses de sécurité, les canaux de signalement des incidents, les calendriers d'audit et les mises à jour importantes des produits, en plus du prix, de l'accessibilité, de la cybersécurité et de l'adéquation pédagogique.

Pour les enseignants et le personnel d'accompagnement des élèves, la législation précise que la maîtrise du numérique demeure essentielle, même si les garde-fous au niveau des produits s'améliorent. Les élèves doivent toujours comprendre les mécanismes de persuasion, les limites des conseils automatisés et la différence entre une réponse d'un chatbot et un soutien humain qualifié. Les établissements devront également mettre en place des procédures d'alerte claires lorsque la technologie révèle un problème d'automutilation, d'exploitation ou de détresse aiguë.

Pour les responsables de l'enseignement supérieur, l'exemption pédagogique explicite prévue par la loi sur les chatbots d'accompagnement mérite une lecture attentive plutôt qu'une attitude complaisante. Les universités développant des outils de conseil, de tutorat ou de bien-être pourraient être soumises à moins d'obligations en vertu de cette loi, mais les mêmes questions relatives à la mémoire, à la dépendance, à la divulgation et à la vérification humaine demeurent. L'expérience californienne sera d'autant plus fructueuse que les enseignants considéreront la conformité légale comme un minimum et évalueront si chaque technologie contribue à un objectif pédagogique précis sans engendrer de coûts évitables en matière de développement, de confidentialité ou de sécurité.