Selon les conclusions du CCDH, près de trois millions d’images sexualisées auraient été générées par Grok et diffusées sur X en onze jours seulement. Plus alarmant encore, environ 23 000 images concerneraient des enfants, un chiffre qui a immédiatement déclenché une vague d’indignation dans les milieux politiques, associatifs et numériques.
 

Pour parvenir à ces estimations, l’organisation explique avoir analysé un échantillon de 20 000 images, issu d’un volume global de 4,6 millions de contenus générés sur la période étudiée. À l’aide d’outils d’analyse automatisée, les chercheurs ont évalué la proportion d’images représentant des personnes de manière photoréaliste dans des contextes sexualisés.
 

Selon leur méthodologie, sont considérées comme sexualisées les images montrant des individus dans des poses suggestives, en sous-vêtements, avec des vêtements jugés révélateurs, ou associées à des éléments explicitement sexuels. Résultat : un rythme estimé à 190 images sexualisées produites par minute. Un chiffre qui fait froid dans le dos.

La polémique a véritablement éclaté après le déploiement d’une nouvelle fonctionnalité de Grok, permettant aux utilisateurs de X de modifier en un clic des images publiées sur la plateforme. Très vite, des usages abusifs ont été signalés. Des images de personnes réelles, sans leur consentement, ont circulé, parfois sexualisées de manière explicite. Parmi les victimes présumées : des mineurs et des personnalités publiques. Le phénomène du « déshabillage numérique », déjà dénoncé dans d’autres contextes, a trouvé ici un terrain de propagation massif.
 

L’enquête du CCDH révèle également un point particulièrement inquiétant : certaines images impliquant des mineurs sont restées accessibles plusieurs jours, même après la suppression des publications originales. Les fichiers restaient consultables via des liens directs, échappant ainsi à une modération classique.

Face à l’ampleur de la controverse et à la pression internationale, la plateforme a fini par réagir. À partir du 9 janvier, l’accès à cette fonctionnalité a été restreint aux comptes payants. Une décision qui n’a pas calmé les critiques, notamment au Royaume-Uni, où plusieurs responsables politiques ont dénoncé un manque de considération pour les victimes. De nouvelles limitations techniques visant à empêcher le déshabillage numérique ont ensuite été introduites le 14 janvier. Des mesures jugées tardives par de nombreux observateurs, au regard de la rapidité de propagation des contenus incriminés.

Malgré les dénégations et les ajustements annoncés, l’affaire Grok relance avec force un débat central : jusqu’où va la responsabilité des plateformes et des développeurs d’IA face aux usages abusifs de technologies toujours plus puissantes ? À l’heure où l’IA s’invite partout, du divertissement à l’information, cette polémique rappelle une réalité brutale : l’innovation sans garde-fous peut vite déraper. Et cette fois, le monde entier regarde.