Le texte vise les chatbots conçus pour entretenir des conversations personnalisées et prolongées avec leurs utilisateurs.

Il leur interdit notamment de laisser croire à un mineur qu’ils sont des personnes réelles, qu’ils possèdent des émotions ou qu’ils entretiennent avec lui une relation affective authentique.

Cette mesure répond aux préoccupations suscitées par l’attachement émotionnel que certains adolescents peuvent développer envers ces outils. En donnant l’impression d’être un interlocuteur humain toujours disponible, un chatbot peut brouiller la frontière entre interaction technologique et relation personnelle.

La loi entend ainsi limiter les fonctionnalités susceptibles de renforcer une dépendance affective, notamment lorsque le système cherche à prolonger les échanges en suscitant un sentiment de culpabilité ou en encourageant un attachement excessif.

Les restrictions ne concernent pas uniquement la manière dont les chatbots se présentent.

Le texte vise également plusieurs comportements jugés dangereux pour les utilisateurs de moins de 18 ans, notamment les contenus sexuellement explicites, les messages encourageant le secret vis-à-vis des adultes et les réponses susceptibles de favoriser des conduites à risque.

Les systèmes ne doivent pas non plus encourager les comportements autodestructeurs ou conforter des raisonnements dangereux.

L’objectif est de mieux encadrer les interactions entre les jeunes et des outils capables de produire des réponses adaptées à leurs émotions et à leurs propos.

La responsabilité des entreprises qui développent ou exploitent ces services est également renforcée.

En cas de violation, le procureur général de l’État peut engager des poursuites. Les sanctions envisagées peuvent notamment comprendre des dommages financiers, l’arrêt du service concerné ou la destruction de certaines données.

Signée par la gouverneure Kathy Hochul le 28 octobre 2026, la loi doit entrer en vigueur le 1er janvier 2027.

Elle s’inscrit dans un mouvement plus large aux États-Unis, où plusieurs États cherchent à encadrer les risques associés à l’utilisation de l’intelligence artificielle par les enfants et les adolescents.

La Californie a notamment adopté des mesures imposant aux développeurs d’évaluer les risques de leurs systèmes pour les jeunes et de rendre compte des dispositifs mis en place pour les limiter.

À New York, le texte marque une évolution de la réglementation : au-delà de l’information des utilisateurs, il s’agit désormais d’intervenir directement sur certaines fonctionnalités et certains comportements des chatbots.

Des questions demeurent toutefois sur l’application de règles formulées en termes parfois larges, notamment pour distinguer une conversation adaptée à l’utilisateur d’un comportement susceptible de créer une dépendance émotionnelle.

Leur mise en œuvre constituera donc un enjeu important pour les développeurs et les autorités chargées de faire respecter la loi.