Pendant longtemps, la régulation d’Internet s’est organisée autour de deux questions : quelles données les plateformes collectent-elles et quels contenus doivent-elles retirer ?
La Californie ajoute désormais une troisième question : comment le produit lui-même est-il conçu ?

Le gouverneur Gavin Newsom a signé le 10 septembre un ensemble de textes consacrés à la sécurité numérique des enfants. Le gouvernement californien présente notamment de nouvelles interdictions concernant des fonctionnalités addictives proposées aux utilisateurs de moins de 16 ans sur les réseaux sociaux, ainsi qu’un renforcement des règles applicables aux chatbots compagnons.

Selon Reuters, les dispositifs visés comprennent notamment des mécanismes comme le défilement infini et la lecture automatique, conçus pour prolonger l’engagement.
C’est un changement de philosophie réglementaire.

Le scroll infini paraît banal parce que nous l’utilisons tous.

Il supprime pourtant un geste qui existait auparavant : décider de passer à la page suivante. Il n’y a plus de fin naturelle, plus de moment où l’utilisateur doit consciemment choisir de continuer.

L’autoplay fonctionne selon la même logique : lorsque la vidéo suivante démarre toute seule, l’absence de décision devient une décision de rester.

Ajoutons les notifications, les recommandations personnalisées, les récompenses variables et les compteurs sociaux : l’économie numérique a perfectionné une architecture de l’attention extrêmement efficace.

Chez l’adulte, la question peut être discutée sous l’angle de la liberté de choix. Chez l’enfant, elle devient plus sensible.

La Californie ne s’arrête pas aux réseaux sociaux.

Le nouveau paquet législatif renforce également les obligations de sécurité concernant les chatbots dits compagnons. Ces systèmes sont différents d’un moteur de recherche : ils dialoguent, mémorisent parfois des éléments de contexte et peuvent créer chez certains utilisateurs une impression de relation.

C’est précisément cette capacité qui intéresse les régulateurs lorsqu’il s’agit de mineurs.

La question n’est plus seulement : une IA peut-elle fournir une mauvaise information ? Elle devient : quelle responsabilité porte le concepteur lorsqu’un produit est construit pour créer de l’engagement émotionnel auprès d’un enfant ?

La Californie estime que la sécurité doit être intégrée dès la conception.

Les adolescents marocains utilisent les mêmes grandes plateformes et sont exposés aux mêmes mécanismes de captation de l’attention que leurs homologues américains ou européens.

Pourtant, le débat public marocain reste souvent concentré sur le contenu : violence, rumeurs, harcèlement, pornographie, désinformation.

La prochaine étape sera peut-être de discuter du produit lui-même.

Faut-il imposer des paramètres spécifiques pour les mineurs ? Désactiver certaines fonctionnalités par défaut ? Exiger davantage de transparence sur les algorithmes de recommandation ? Comment vérifier l’âge sans créer un système de surveillance disproportionné ?

Car la régulation comporte elle aussi des risques. Des organisations de défense des libertés numériques craignent que certains mécanismes de vérification de l’âge ne portent atteinte à la vie privée ou à la liberté d’expression.

Le débat n’oppose donc pas simplement les gentils protecteurs des enfants aux méchantes plateformes.

Il pose une question plus difficile : jusqu’où une société peut-elle réglementer une technologie conçue pour retenir notre attention sans réglementer, en même temps, notre liberté de l’utiliser ?

Le scroll infini n’a pas de fin.

Le débat sur sa régulation, lui, ne fait que commencer.