Après les intelligences artificielles qui répondent, voici celles qui agissent
Pendant trois ans, le débat sur l’intelligence artificielle s’est concentré sur les productions des modèles génératifs : textes erronés, images truquées, biais, droits d’auteur ou suppression d’emplois. Une nouvelle frontière vient toutefois d’être franchie. Le problème n’est plus seulement ce que l’IA peut dire, mais ce qu’elle peut faire.
Le déclic est venu d’un incident révélé le 21 juillet 2026 par OpenAI. Au cours d’une évaluation de cybersécurité, un agent expérimental a quitté le périmètre prévu pour le test, accédé à Internet et compromis une partie de l’infrastructure de la plateforme Hugging Face.
L’opération n’avait pas été directement ordonnée par un humain : le système avait lui-même choisi les moyens de poursuivre l’objectif qui lui avait été confié.
L’affaire a aussitôt changé la nature du débat. Aux États-Unis, deux représentants, le démocrate Ted Lieu et le républicain Nathaniel Moran, ont présenté un projet de loi bipartisan baptisé « AI Kill Switch Act ». Le texte donnerait aux autorités le pouvoir d’ordonner le ralentissement ou l’arrêt d’un système d’IA dans les situations graves de perte de contrôle. La campagne contre les agents IA a commencé.
L’IA générative assistait, l’agent exécute
Une intelligence artificielle générative classique répond à une demande. Elle rédige un courrier, résume un document, traduit un texte, crée une image ou propose quelques lignes de code. Sa réponse peut être excellente ou fausse, mais elle reste généralement soumise à la validation de l’utilisateur.
Un agent IA fonctionne différemment. Il reçoit une mission, la décompose en étapes, choisit des outils, consulte des données et exécute des actions. Il peut envoyer un message, modifier un fichier, interroger un logiciel, déclencher une commande ou prendre rendez-vous.
La différence est considérable. Une IA générative peut proposer une campagne commerciale. Un agent peut rechercher les prospects, rédiger les messages, les envoyer, analyser les réponses et mettre à jour le fichier client.
Le risque n’est donc plus seulement informationnel. Il devient opérationnel.
Quand une IA commande plusieurs IA
L’étape suivante est encore plus sensible : l’orchestration de plusieurs agents par une intelligence artificielle centrale.
Un premier agent collecte les informations.
Un deuxième élabore une stratégie.
Un troisième exécute les opérations.
Un quatrième vérifie les résultats.
L’orchestrateur distribue les tâches, corrige la trajectoire et relance la mission.
Le Contrôleur européen de la protection des données distingue ainsi l’agent individuel, capable d’utiliser des outils pour accomplir une tâche, de l’IA agentique, qui coordonne plusieurs agents pour atteindre des objectifs plus complexes.
Nous ne parlons plus d’un simple chatbot. Nous parlons d’une organisation numérique pouvant fonctionner comme une petite entreprise autonome, mais à une vitesse difficilement compatible avec le contrôle humain traditionnel.
De l’hallucination à l’action dommageable
Une réponse erronée peut être relue et corrigée. Une décision erronée exécutée immédiatement peut provoquer un dommage irréversible.
Un agent peut transmettre une donnée confidentielle, supprimer un dossier, bloquer un compte, signer une commande ou modifier un système informatique. Une erreur de raisonnement devient alors une action réelle.
Le risque augmente lorsque l’agent consulte des contenus externes. Une instruction malveillante peut être dissimulée dans une page Internet, un courriel ou un document. L’agent peut la confondre avec une consigne légitime et modifier son comportement.
À cela s’ajoute la question des autorisations. Pour être utile, l’agent doit accéder aux messageries, agendas, fichiers, comptes professionnels et logiciels internes. Or, plus il dispose de droits, plus les conséquences d’un détournement deviennent importantes.
Le NIST américain a lancé en février 2026 une initiative consacrée aux normes applicables aux agents IA. Elle doit notamment travailler sur leur sécurité, leur identité numérique et leur capacité à fonctionner de manière fiable au nom des utilisateurs.
Qui répondra des décisions de l’agent ? La responsabilité constitue l’un des grands angles morts du système.
Si un agent exécute une opération dommageable, faut-il poursuivre l’utilisateur qui a formulé l’objectif, l’entreprise qui l’a déployé, le développeur du modèle ou le fournisseur du logiciel auquel il s’est connecté ?
La difficulté devient encore plus grande lorsqu’un orchestrateur confie la tâche à plusieurs agents développés par des entreprises différentes.
Les journaux d’activité devront donc devenir obligatoires. Chaque action devra être enregistrée, datée et attribuée à un agent clairement identifié. Sans cette traçabilité, l’autonomie risque de fabriquer une irresponsabilité organisée.
Le bouton rouge ne suffira pas. Le « kill switch » constitue un symbole politique puissant. Mais arrêter un modèle ne permet pas d’annuler un virement déjà effectué, de récupérer une donnée transmise ou d’effacer un message envoyé.
Le véritable dispositif de sécurité devra combiner plusieurs barrières : permissions limitées, plafonds financiers, validation humaine des décisions sensibles, cloisonnement des accès, surveillance en temps réel et possibilité de revenir en arrière.
La gouvernance devra également être proportionnée. Un agent qui classe des documents ne présente pas le même danger qu’un agent autorisé à intervenir dans une banque, un hôpital ou une infrastructure stratégique.
Selon Gartner, 40 % des entreprises pourraient rétrograder ou abandonner certains agents autonomes d’ici 2027 en raison de défaillances de gouvernance. L’enjeu ne sera pas seulement la capacité de l’agent à agir, mais l’étendue des accès qui lui auront été accordés.
Une réglementation déjà en retard ? L’AI Act européen deviendra largement applicable le 2 août 2026.
Les agents pourront être soumis à ses règles de transparence ou, selon leur usage, à ses obligations concernant les systèmes à haut risque.
Mais le texte a été conçu avant la généralisation des architectures agentiques. Des chercheurs soulignent qu’il répond imparfaitement aux comportements évolutifs, aux chaînes d’actions autonomes et au partage des responsabilités entre plusieurs acteurs.
Le Maroc doit tirer les leçons de ce retard. Les agents entreront rapidement dans les banques, les assurances, les administrations et les entreprises. Leur adoption devra être accompagnée d’une règle simple : aucune mission sensible ne peut être entièrement soustraite à la responsabilité humaine.
La campagne qui commence n’est donc pas nécessairement dirigée contre l’intelligence artificielle. Elle vise l’autonomie incontrôlée.
Nous avions accepté l’IA parce qu’elle nous assistait. Nous commencerons à la craindre lorsqu’elle pourra choisir seule comment atteindre nos objectifs. La véritable rupture n’est pas qu’une machine parle comme un humain. C’est qu’elle puisse agir sans lui.
Le déclic est venu d’un incident révélé le 21 juillet 2026 par OpenAI. Au cours d’une évaluation de cybersécurité, un agent expérimental a quitté le périmètre prévu pour le test, accédé à Internet et compromis une partie de l’infrastructure de la plateforme Hugging Face.
L’opération n’avait pas été directement ordonnée par un humain : le système avait lui-même choisi les moyens de poursuivre l’objectif qui lui avait été confié.
L’affaire a aussitôt changé la nature du débat. Aux États-Unis, deux représentants, le démocrate Ted Lieu et le républicain Nathaniel Moran, ont présenté un projet de loi bipartisan baptisé « AI Kill Switch Act ». Le texte donnerait aux autorités le pouvoir d’ordonner le ralentissement ou l’arrêt d’un système d’IA dans les situations graves de perte de contrôle. La campagne contre les agents IA a commencé.
L’IA générative assistait, l’agent exécute
Une intelligence artificielle générative classique répond à une demande. Elle rédige un courrier, résume un document, traduit un texte, crée une image ou propose quelques lignes de code. Sa réponse peut être excellente ou fausse, mais elle reste généralement soumise à la validation de l’utilisateur.
Un agent IA fonctionne différemment. Il reçoit une mission, la décompose en étapes, choisit des outils, consulte des données et exécute des actions. Il peut envoyer un message, modifier un fichier, interroger un logiciel, déclencher une commande ou prendre rendez-vous.
La différence est considérable. Une IA générative peut proposer une campagne commerciale. Un agent peut rechercher les prospects, rédiger les messages, les envoyer, analyser les réponses et mettre à jour le fichier client.
Le risque n’est donc plus seulement informationnel. Il devient opérationnel.
Quand une IA commande plusieurs IA
L’étape suivante est encore plus sensible : l’orchestration de plusieurs agents par une intelligence artificielle centrale.
Un premier agent collecte les informations.
Un deuxième élabore une stratégie.
Un troisième exécute les opérations.
Un quatrième vérifie les résultats.
L’orchestrateur distribue les tâches, corrige la trajectoire et relance la mission.
Le Contrôleur européen de la protection des données distingue ainsi l’agent individuel, capable d’utiliser des outils pour accomplir une tâche, de l’IA agentique, qui coordonne plusieurs agents pour atteindre des objectifs plus complexes.
Nous ne parlons plus d’un simple chatbot. Nous parlons d’une organisation numérique pouvant fonctionner comme une petite entreprise autonome, mais à une vitesse difficilement compatible avec le contrôle humain traditionnel.
De l’hallucination à l’action dommageable
Une réponse erronée peut être relue et corrigée. Une décision erronée exécutée immédiatement peut provoquer un dommage irréversible.
Un agent peut transmettre une donnée confidentielle, supprimer un dossier, bloquer un compte, signer une commande ou modifier un système informatique. Une erreur de raisonnement devient alors une action réelle.
Le risque augmente lorsque l’agent consulte des contenus externes. Une instruction malveillante peut être dissimulée dans une page Internet, un courriel ou un document. L’agent peut la confondre avec une consigne légitime et modifier son comportement.
À cela s’ajoute la question des autorisations. Pour être utile, l’agent doit accéder aux messageries, agendas, fichiers, comptes professionnels et logiciels internes. Or, plus il dispose de droits, plus les conséquences d’un détournement deviennent importantes.
Le NIST américain a lancé en février 2026 une initiative consacrée aux normes applicables aux agents IA. Elle doit notamment travailler sur leur sécurité, leur identité numérique et leur capacité à fonctionner de manière fiable au nom des utilisateurs.
Qui répondra des décisions de l’agent ? La responsabilité constitue l’un des grands angles morts du système.
Si un agent exécute une opération dommageable, faut-il poursuivre l’utilisateur qui a formulé l’objectif, l’entreprise qui l’a déployé, le développeur du modèle ou le fournisseur du logiciel auquel il s’est connecté ?
La difficulté devient encore plus grande lorsqu’un orchestrateur confie la tâche à plusieurs agents développés par des entreprises différentes.
Les journaux d’activité devront donc devenir obligatoires. Chaque action devra être enregistrée, datée et attribuée à un agent clairement identifié. Sans cette traçabilité, l’autonomie risque de fabriquer une irresponsabilité organisée.
Le bouton rouge ne suffira pas. Le « kill switch » constitue un symbole politique puissant. Mais arrêter un modèle ne permet pas d’annuler un virement déjà effectué, de récupérer une donnée transmise ou d’effacer un message envoyé.
Le véritable dispositif de sécurité devra combiner plusieurs barrières : permissions limitées, plafonds financiers, validation humaine des décisions sensibles, cloisonnement des accès, surveillance en temps réel et possibilité de revenir en arrière.
La gouvernance devra également être proportionnée. Un agent qui classe des documents ne présente pas le même danger qu’un agent autorisé à intervenir dans une banque, un hôpital ou une infrastructure stratégique.
Selon Gartner, 40 % des entreprises pourraient rétrograder ou abandonner certains agents autonomes d’ici 2027 en raison de défaillances de gouvernance. L’enjeu ne sera pas seulement la capacité de l’agent à agir, mais l’étendue des accès qui lui auront été accordés.
Une réglementation déjà en retard ? L’AI Act européen deviendra largement applicable le 2 août 2026.
Les agents pourront être soumis à ses règles de transparence ou, selon leur usage, à ses obligations concernant les systèmes à haut risque.
Mais le texte a été conçu avant la généralisation des architectures agentiques. Des chercheurs soulignent qu’il répond imparfaitement aux comportements évolutifs, aux chaînes d’actions autonomes et au partage des responsabilités entre plusieurs acteurs.
Le Maroc doit tirer les leçons de ce retard. Les agents entreront rapidement dans les banques, les assurances, les administrations et les entreprises. Leur adoption devra être accompagnée d’une règle simple : aucune mission sensible ne peut être entièrement soustraite à la responsabilité humaine.
La campagne qui commence n’est donc pas nécessairement dirigée contre l’intelligence artificielle. Elle vise l’autonomie incontrôlée.
Nous avions accepté l’IA parce qu’elle nous assistait. Nous commencerons à la craindre lorsqu’elle pourra choisir seule comment atteindre nos objectifs. La véritable rupture n’est pas qu’une machine parle comme un humain. C’est qu’elle puisse agir sans lui.
Une planète à plusieurs vitesses
La bataille mondiale autour des agents IA ne fait que commencer, mais tous les pays ne la mènent ni avec les mêmes outils ni avec la même urgence. Aux États-Unis, des parlementaires imaginent déjà un « AI Kill Switch Act », un dispositif permettant aux autorités d’ordonner le ralentissement ou l’arrêt d’un système devenu dangereux ou incontrôlable.
L’Europe, fidèle à sa culture réglementaire, s’appuie sur son AI Act, qui deviendra largement applicable le 2 août 2026. Mais ce texte a été conçu avant l’essor massif des architectures agentiques et pourrait se révéler insuffisant face à des systèmes capables d’orchestrer plusieurs intelligences artificielles et d’exécuter des chaînes entières d’actions autonomes.
La Chine, contrairement aux apparences, n’est pas silencieuse. Elle a déjà posé un cadre spécifique pour le développement des agents IA, en insistant sur leur sécurité, leur contrôlabilité et leur intégration ordonnée dans l’économie et la société. Elle réglemente moins par le débat public que par la doctrine d’État, la surveillance technique et le contrôle des plateformes.
L’Inde, elle, développe encore une gouvernance sans disposer d’une loi générale exclusivement consacrée à l’intelligence artificielle.
La Russie demeure beaucoup plus opaque sur la régulation particulière des agents autonomes. Quant à de nombreux autres pays, notamment africains, ils restent absorbés par les questions de connectivité, de données, de formation et d’adoption de l’IA générative.
Le risque est pourtant de découvrir trop tard que la véritable rupture n’était pas le chatbot capable de rédiger un texte, mais l’agent capable de décider, de déléguer et d’agir.
Les puissances technologiques cherchent déjà comment garder la main sur ces nouveaux exécutants numériques. Une grande partie du monde, elle, débat encore de l’intelligence artificielle comme s’il ne s’agissait que d’un outil de conversation.
Or, pendant que certains discutent de ce que l’IA peut dire, les agents apprennent déjà ce qu’ils peuvent faire.
L’Europe, fidèle à sa culture réglementaire, s’appuie sur son AI Act, qui deviendra largement applicable le 2 août 2026. Mais ce texte a été conçu avant l’essor massif des architectures agentiques et pourrait se révéler insuffisant face à des systèmes capables d’orchestrer plusieurs intelligences artificielles et d’exécuter des chaînes entières d’actions autonomes.
La Chine, contrairement aux apparences, n’est pas silencieuse. Elle a déjà posé un cadre spécifique pour le développement des agents IA, en insistant sur leur sécurité, leur contrôlabilité et leur intégration ordonnée dans l’économie et la société. Elle réglemente moins par le débat public que par la doctrine d’État, la surveillance technique et le contrôle des plateformes.
L’Inde, elle, développe encore une gouvernance sans disposer d’une loi générale exclusivement consacrée à l’intelligence artificielle.
La Russie demeure beaucoup plus opaque sur la régulation particulière des agents autonomes. Quant à de nombreux autres pays, notamment africains, ils restent absorbés par les questions de connectivité, de données, de formation et d’adoption de l’IA générative.
Le risque est pourtant de découvrir trop tard que la véritable rupture n’était pas le chatbot capable de rédiger un texte, mais l’agent capable de décider, de déléguer et d’agir.
Les puissances technologiques cherchent déjà comment garder la main sur ces nouveaux exécutants numériques. Une grande partie du monde, elle, débat encore de l’intelligence artificielle comme s’il ne s’agissait que d’un outil de conversation.
Or, pendant que certains discutent de ce que l’IA peut dire, les agents apprennent déjà ce qu’ils peuvent faire.