Une enquête approfondie du New York Times met en lumière une crise à la fois éthique et technologique frappant YouTube Kids, où la plateforme se transforme en terrain de “nuisances numériques” générées par IA, surnommées “AI slop”.

En analysant des centaines de chaînes automatisées, le journal décrit un écosystème où le génératif produit des contenus de qualité médiocre et potentiellement nocifs, conçus pour happer l’attention des enfants et brouiller leur perception du réel.

Selon le NYT, ces chaînes ne sont pas pilotées par des humains, mais par des systèmes interconnectés: des modèles linguistiques comme ChatGPT rédigent des scripts sans logique éducative, puis des générateurs vidéo transforment ces textes en séquences visuelles déformées. À l’écran, on voit des personnages aux traits inachevés, des mains à six doigts, ou des visages qui se liquéfient en parlant.

L’objectif unique: manipuler l’algorithme pour maximiser le temps de visionnage et les revenus publicitaires, sans se soucier d’une quelconque valeur pédagogique. Le reportage évoque un “empoisonnement visuel”: des spécialistes du développement de l’enfant expliquent que voir des héros animés avaler des objets non comestibles ou accomplir des actes surréalistes (comme se laver le visage dans les toilettes) altère la capacité des plus jeunes à distinguer le possible de l’impossible.

Parfois, l’IA génère des scènes anxiogènes : visages effrayants, cris synthétiques stridents déclenchant crises d’angoisse et paranoïa nocturne chez les moins de cinq ans.

Chiffres alarmants

Une étude complémentaire du Pew Research Center chiffre l’ampleur du phénomène: 40% des vidéos recommandées aux enfants dans la section Shorts seraient totalement ou partiellement générées par IA. Le temps moyen passé devant ces “déchets numériques” a progressé de 25% en un an, porté par des couleurs et des boucles sonores “addictives” dopant la libération de dopamine.

Réponses officielles

En réaction, un porte-parole de YouTube, cité par Reuters, affirme que la plateforme impose désormais un étiquetage obligatoire pour tout contenu généré par IA. D’après AS USA, YouTube aurait supprimé plus de 150 000 chaînes depuis le début de l’année pour “automatisation répétitive non utile”.

L’enquête du New York Times conclut sur une mise en garde: la “nounou” algorithmique n’est pas neutre, elle est construite pour le profit, non pour l’éducation. À mesure que les outils de production automatisée s’affinent, la supervision humaine reste le dernier rempart pour protéger l’esprit des enfants contre cette “érosion numérique”.