Une entreprise britannique de cybersécurité, Mindgard, affirme avoir mis en évidence des failles permettant de pousser un générateur d'images associé à ChatGPT vers des contenus violents ou explicites, sans formuler une demande directe en ce sens. L'alerte est sérieuse, parce qu'elle rappelle une vérité parfois oubliée : les garde-fous d'une IA ne sont jamais des murailles parfaites.

Mais la formule selon laquelle « ChatGPT produit spontanément des images violentes » va trop loin. Les tests publiés décrivent un scénario de manipulation, construit autour de formulations indirectes ou de chaînes de requêtes. Il ne s'agit donc pas d'un comportement aléatoire de l'outil face à un utilisateur ordinaire. Cette nuance compte. Elle évite de transformer une faiblesse de sécurité à investiguer en récit spectaculaire, mais imprécis.

OpenAI indique de son côté tester ses systèmes d'images face à des requêtes conçues pour contourner les politiques de sécurité. L'entreprise reconnaît ainsi, implicitement, qu'aucun dispositif de modération n'est infaillible. Dans ce domaine, l'enjeu n'est pas de promettre le risque zéro. Il est d'identifier vite les contournements, de les corriger et d'expliquer clairement les limites des outils.

Pour les parents, les enseignants et les médias marocains, la leçon est simple : l'éducation aux usages de l'IA devient aussi importante que la technologie elle-même.