Dr Az-Eddine Bennani : HDR France — Fondateur de l’Observatoire de l’Intelligence Artificielle
Je partage son inquiétude concernant l’impréparation des gouvernements, la concentration des gains économiques et les décisions de réduction d’effectifs que certaines organisations pourraient prendre au nom de l’IA. Je suis cependant en désaccord avec l’idée d’une disparition inéluctable des emplois et du remplacement général des métiers. Cette conclusion attribue aux systèmes d’IA générative et agentique fondés sur des LLM des capacités qu’ils ne possèdent pas et transforme une stratégie humaine d’automatisation en fatalité technologique.
Dans ce texte, je distingue les LLM, qui produisent principalement du langage, des systèmes d’IA générative qui les utilisent pour créer des contenus, et des systèmes d’IA agentique qui les associent à des données, à des outils, à des logiciels et à des autorisations d’action. Cette distinction est essentielle : un LLM est un modèle ; un agent d’IA est un dispositif plus large, conçu pour exécuter des actions dans un environnement défini.
Je ne crois pas à la disparition inéluctable des métiers annoncée par Bill Gates. Je crois à l’automatisation avancée de processus délimités et à une nouvelle répartition des tâches entre les humains et les systèmes informatiques.
Automatiser une tâche n’est pas remplacer un métier. Un métier ne se réduit pas à une succession d’énoncés, de calculs, de formulaires ou de procédures. Il s’exerce dans un environnement réel, auprès de personnes réelles, avec des contraintes mouvantes, des savoirs tacites, des arbitrages, des imprévus et des responsabilités. Le médecin ne se limite pas à produire un diagnostic textuel. Le juge ne se limite pas à rapprocher des précédents. L’enseignant ne se limite pas à restituer un contenu. Le manager ne se limite pas à traiter des indicateurs.
Les systèmes d’IA générative et agentique fondés sur des LLM peuvent prendre en charge certaines composantes de ces activités : rechercher, résumer, reformuler, classer, comparer, générer un brouillon ou déclencher une procédure préalablement définie. Cela peut transformer l’organisation du travail et supprimer certains postes si les dirigeants le décident. Mais une tâche automatisable n’équivaut pas à un métier remplaçable. Entre les deux se trouvent le contexte, la relation, l’expérience, la responsabilité et les conséquences.
Remplacer une tâche n’est pas remplacer un métier. Produire du langage n’est pas comprendre la situation dans laquelle ce langage devra produire des effets.
L’impasse de l’industrie actuelle de l’IA fondée sur les LLM est plus profonde. Je pense que cette industrie va dans le mur et qu’elle risque d’y entraîner les entreprises, les gouvernements et une partie de l’économie mondiale. Non parce que les modèles et les systèmes concernés seraient inutiles, mais parce que leur utilité réelle est recouverte par une promesse excessive : celle d’une intelligence générale capable de comprendre le monde, de décider et d’agir de manière autonome.
Un LLM construit des réponses à partir de régularités apprises dans des corpus. Il travaille sur des traces textuelles, visuelles ou numériques du monde. Même lorsqu’il est relié à des bases de données, à des capteurs ou à des logiciels, il dépend de ce qui a été représenté, sélectionné, codé, mis à jour et autorisé par des humains. Il ne dispose pas spontanément du contexte complet d’une situation et n’assume aucune conséquence de ce qu’il produit.
L’augmentation du nombre de paramètres, des données et de la puissance de calcul améliore certaines performances. Elle ne résout pas mécaniquement la représentation du réel. Une réponse peut être syntaxiquement excellente, statistiquement vraisemblable et pourtant fausse, incomplète ou dangereuse lorsqu’elle est appliquée à une personne, à une entreprise, à une administration ou à un territoire.
Ce n’est pas parce qu’un LLM sait parler du monde qu’il sait dans quel monde il parle.
Le véritable verrou consiste à représenter les mondes réels. Tant que nous ne disposerons pas de méthodes fiables pour représenter ces mondes et leurs contextes, les systèmes fondés sur des LLM resteront principalement capables de restituer, recombiner et transformer des contenus, ainsi que d’automatiser des processus avancés mais délimités. Représenter un monde réel ne consiste pas seulement à accumuler des documents. Il faut pouvoir décrire les acteurs, les objets, les lieux, les règles, les temporalités, les intentions, les relations de causalité, les exceptions, les conflits et l’évolution permanente de la situation.
Il n’existe d’ailleurs pas un seul monde réel, homogène et stable. Le monde d’un patient, celui d’un tribunal, celui d’une entreprise, celui d’une famille ou celui d’une administration publique obéissent à des contextes différents. Une décision acceptable dans un pays, une organisation ou un moment donné peut devenir injuste ou absurde ailleurs. Le langage peut décrire ces mondes ; il ne les contient pas entièrement.
C’est pourquoi le problème n’est pas uniquement celui des erreurs ou des hallucinations. Il est plus profond : il concerne l’écart entre le modèle et la situation vécue. Tant que cet écart ne sera pas représenté, mesuré et gouverné, l’autonomie générale promise par l’industrie demeurera une construction commerciale davantage qu’une réalité opérationnelle fiable.
Le danger vient donc des décisions humaines. Je ne nie pas que des emplois puissent disparaître. Mais ils ne disparaîtront pas parce qu’une IA aurait décidé de les prendre. Ils disparaîtront parce que des dirigeants auront choisi de réduire les effectifs, parce que des investisseurs auront exigé des gains rapides ou parce que des gouvernements auront adopté des systèmes dont ils ne maîtrisent ni les limites ni les conséquences.
Cette distinction est fondamentale. Parler d’une IA qui « prend » les emplois efface la chaîne des responsabilités. Or un système informatique n’établit pas seul son périmètre d’action, ses droits d’accès, ses ressources, ses objectifs ou les données qu’il utilise. Des personnes le conçoivent, le financent, l’achètent, l’autorisent, le déploient et décident de suivre ou non ses résultats.
Ce ne sont pas les systèmes d’IA fondés sur des LLM qui feront disparaître les emplois. Ce sont éventuellement les dirigeants et les gouvernements qui les supprimeront en attribuant à ces systèmes des capacités qu’ils ne possèdent pas.
Le risque est particulièrement important pour les gouvernements. Le danger devient systémique lorsqu’ils confondent une démonstration technologique avec une capacité à gouverner le réel. Une administration peut alors transformer une approximation informatique en décision publique : attribuer ou refuser une aide, orienter un élève, évaluer un enseignant, recruter, contrôler, sanctionner ou hiérarchiser des citoyens.
Les États risquent également d’investir dans des infrastructures coûteuses, de rendre leurs services dépendants de fournisseurs étrangers et de réorganiser la formation et l’emploi autour de promesses industrielles encore non démontrées. Ils pourraient ainsi socialiser le coût de l’illusion tout en privatisant les bénéfices provisoires de l’automatisation.
Pour le Maroc, cette prudence est indispensable. Nous ne devons pas importer sans discernement une automatisation pensée pour des économies vieillissantes ou confrontées à une pénurie de main-d’œuvre. Dans un pays où de nombreux jeunes diplômés cherchent encore leur premier emploi, chaque projet d’automatisation devrait être précédé d’une étude de ses effets sociaux, éducatifs, territoriaux, économiques et souverains.
La réponse consiste à gouverner les limites. Il ne s’agit ni de rejeter l’IA ni de l’adopter aveuglément, mais d’automatiser ce qui peut être représenté, vérifié, audité et rendu réversible, tout en maintenant sous responsabilité humaine ce qui dépend fortement du contexte, de l’interprétation et des conséquences pour les personnes.
C’est le sens de mon approche AI LIGHT. Avant d’accorder une autonomie à un agent d’IA, il faut définir son contrat d’exécution, ses sources, ses autorisations, ses zones interdites, les contrôles humains, les conditions d’arrêt et la personne ou l’institution responsable. Il faut également déterminer quelle représentation du réel lui est fournie, qui la construit, comment elle est actualisée et comment les écarts entre le modèle et la situation sont détectés.
La véritable question n’est donc pas de savoir si l’IA prendra nos emplois. Elle est de savoir qui lui donnera l’autorisation de prendre en charge certaines activités, selon quelles règles, sur la base de quelle représentation du réel, sous quel contrôle et au bénéfice de qui.
Ce n’est pas l’IA qui décidera de la place de l’être humain dans le travail. Ce sont nos choix de gouvernance — ou notre absence de choix — qui la détermineront.
En conclusion, Bill Gates a raison d’alerter sur les risques sociaux d’une automatisation incontrôlée. Il se trompe, selon moi, lorsqu’il présente le remplacement des métiers et la disparition massive des emplois comme la conséquence presque naturelle du progrès des systèmes d’IA fondés sur des LLM. Cette vision reste prisonnière du récit produit par l’industrie elle-même.
Les LLM sont des modèles puissants de traitement et de génération du langage. Intégrés à des systèmes d’IA générative ou agentique, ils peuvent soutenir des professionnels, améliorer certains processus et augmenter la capacité d’analyse des organisations. Ni les modèles ni les systèmes qui les utilisent ne constituent encore une représentation générale, fiable et continuellement contextualisée des mondes réels dans lesquels nous vivons.
Tant que cette limite ne sera pas reconnue, l’industrie continuera de vendre une autonomie qu’elle ne maîtrise pas. Et tant que les gouvernements ne distingueront pas clairement la performance linguistique de la compréhension du réel, ils risqueront de convertir une promesse technologique en dépendance économique, administrative et politique.












L'accueil





AI LIGHT et aide sociale : quand un score ne doit pas décider seul












