Ces discours fascinent. Mais ils induisent aussi une confusion profonde.
Car ce qu’ils donnent à voir n’est pas une montée en intelligence, mais une accumulation de couches techniques autour d’un même noyau : le modèle de langage. Un LLM ne pense pas.
Il ne comprend pas le monde. Il n’a ni intention, ni conscience, ni rapport au réel. Il calcule des probabilités linguistiques à partir de données issues du passé et produit des réponses plausibles. Il manipule des signes, pas du sens.
Le RAG, souvent présenté comme une avancée décisive, ne change pas la nature du système. Il connecte le modèle à des sources documentaires externes, parfois locales ou organisationnelles.
Son apport est réel et utile : amélioration de la fiabilité, réduction des hallucinations, meilleure traçabilité de l’information. Mais il s’agit d’une extension mémorielle contrôlée, d’une prothèse informationnelle. Le RAG n’introduit ni jugement, ni compréhension, ni responsabilité.
Avec les agents d’intelligence artificielle, un seuil est franchi, mais là encore fréquemment mal interprété. L’agent n’est pas plus intelligent que le modèle qui le sous-tend.
Il est simplement autorisé à agir : appeler des outils, exécuter des scripts, enchaîner des tâches, interagir avec des systèmes informatiques.
On confond alors action et intelligence, automatisation et décision.
Or l’agent ne comprend pas ce qu’il fait. Il exécute des objectifs définis par des humains, dans un cadre normé, selon des règles codées en amont.
Il ne comprend pas le monde. Il n’a ni intention, ni conscience, ni rapport au réel. Il calcule des probabilités linguistiques à partir de données issues du passé et produit des réponses plausibles. Il manipule des signes, pas du sens.
Le RAG, souvent présenté comme une avancée décisive, ne change pas la nature du système. Il connecte le modèle à des sources documentaires externes, parfois locales ou organisationnelles.
Son apport est réel et utile : amélioration de la fiabilité, réduction des hallucinations, meilleure traçabilité de l’information. Mais il s’agit d’une extension mémorielle contrôlée, d’une prothèse informationnelle. Le RAG n’introduit ni jugement, ni compréhension, ni responsabilité.
Avec les agents d’intelligence artificielle, un seuil est franchi, mais là encore fréquemment mal interprété. L’agent n’est pas plus intelligent que le modèle qui le sous-tend.
Il est simplement autorisé à agir : appeler des outils, exécuter des scripts, enchaîner des tâches, interagir avec des systèmes informatiques.
On confond alors action et intelligence, automatisation et décision.
Or l’agent ne comprend pas ce qu’il fait. Il exécute des objectifs définis par des humains, dans un cadre normé, selon des règles codées en amont.
L’agentic AI, enfin, que certains présentent comme l’horizon ultime de l’autonomie, repose sur des systèmes multi-agents orchestrés :
Délégation de rôles, coordination, mémoire distribuée, hiérarchisation des tâches, boucles de rétroaction. Cette sophistication crée une illusion d’autonomie, mais elle ne produit ni volonté, ni conscience, ni responsabilité morale.
Ce que ces discours oublient, c’est l’essentiel.
Le véritable enjeu n’est pas technologique. Il est humain, cognitif et politique. Le risque majeur n’est pas que l’intelligence artificielle gouverne les sociétés humaines.
Le risque est que des humains délèguent sans comprendre, qu’ils utilisent des dispositifs qu’ils ne maîtrisent pas, et qu’ils transforment l’outil en autorité implicite, au nom de l’efficacité, de la performance ou de la modernité.
Dans un pays comme le Maroc, engagé dans une dynamique de transformation numérique et de développement, cette question est centrale.
La modernisation ne peut se réduire à l’adoption rapide de technologies importées ou à la fascination pour des solutions clés en main.
Elle suppose un effort d’apprentissage, une capacité critique, une compréhension profonde des systèmes déployés. Il ne peut y avoir de souveraineté numérique sans souveraineté cognitive.
Ce que ces discours oublient, c’est l’essentiel.
Le véritable enjeu n’est pas technologique. Il est humain, cognitif et politique. Le risque majeur n’est pas que l’intelligence artificielle gouverne les sociétés humaines.
Le risque est que des humains délèguent sans comprendre, qu’ils utilisent des dispositifs qu’ils ne maîtrisent pas, et qu’ils transforment l’outil en autorité implicite, au nom de l’efficacité, de la performance ou de la modernité.
Dans un pays comme le Maroc, engagé dans une dynamique de transformation numérique et de développement, cette question est centrale.
La modernisation ne peut se réduire à l’adoption rapide de technologies importées ou à la fascination pour des solutions clés en main.
Elle suppose un effort d’apprentissage, une capacité critique, une compréhension profonde des systèmes déployés. Il ne peut y avoir de souveraineté numérique sans souveraineté cognitive.
La souveraineté cognitive, c’est la capacité collective à comprendre les technologies que l’on utilise, à en maîtriser les logiques, à en questionner les effets, et à en assumer la responsabilité.
C’est refuser de confondre automatisation et intelligence, innovation et progrès, complexité technique et sagesse décisionnelle.
L’intelligence artificielle est un objet socio-technique. Elle n’est ni neutre, ni magique, ni autonome. Elle reflète les choix, les valeurs et les limites de ceux qui la conçoivent et de ceux qui l’utilisent.
Plus elle devient puissante, plus elle exige des humains formés, responsables et conscients de ce qu’ils délèguent.
Une IA, aussi sophistiquée soit-elle, ne gouverne jamais une société.
Ce sont toujours des humains qui gouvernent. Parfois simplement sans comprendre les outils qu’ils utilisent.
C’est cela que les discours dominants sur l’IA oublient trop souvent. Et c’est pourtant là que se joue l’essentiel.
Par Dr Az-Eddine Bennani
L’intelligence artificielle est un objet socio-technique. Elle n’est ni neutre, ni magique, ni autonome. Elle reflète les choix, les valeurs et les limites de ceux qui la conçoivent et de ceux qui l’utilisent.
Plus elle devient puissante, plus elle exige des humains formés, responsables et conscients de ce qu’ils délèguent.
Une IA, aussi sophistiquée soit-elle, ne gouverne jamais une société.
Ce sont toujours des humains qui gouvernent. Parfois simplement sans comprendre les outils qu’ils utilisent.
C’est cela que les discours dominants sur l’IA oublient trop souvent. Et c’est pourtant là que se joue l’essentiel.
Par Dr Az-Eddine Bennani