L'accueil
Cette représentation industrielle rappelle que l’IA fonctionne grâce à toute une chaîne de moyens et d’opérations.
Elle conduit cependant à une question centrale : qui autorise cette usine à agir, dans quel périmètre et sous quelle responsabilité ? C’est à cette question que répond le concept AI LIGHT que je développe dans mes écrits sur la gouvernance des agents d’IA.
Son application à cette architecture permet de relier les moyens techniques aux conditions de leur exécution.
Car produire une réponse, recommander une action et exécuter une décision engagent des conséquences différentes. Un système peut préparer un courrier sans être autorisé à l’envoyer.
Il peut analyser un dossier sans pouvoir modifier les droits de la personne concernée. Il peut proposer une dépense sans disposer du pouvoir de l’engager. Ces distinctions doivent être définies avant son fonctionnement et respectées pendant toute son exécution.
Dans cette usine, l’agent d’IA organise l’enchaînement des opérations. Son action dépend des possibilités de ses programmes, des outils auxquels il accède, des données disponibles et des autorisations qui lui sont accordées. La responsabilité de cette organisation demeure humaine.
AI LIGHT gouverne précisément ce pouvoir d’action.
Le point de départ est le contrat d’exécution. Celui-ci précise la mission, sa finalité, les données autorisées, les programmes et outils mobilisables, les ressources disponibles, la durée, les permissions, les interdictions et les conditions d’arrêt. Il identifie également les responsables et les situations dans lesquelles une intervention humaine devient nécessaire.
Son application à cette architecture permet de relier les moyens techniques aux conditions de leur exécution.
Car produire une réponse, recommander une action et exécuter une décision engagent des conséquences différentes. Un système peut préparer un courrier sans être autorisé à l’envoyer.
Il peut analyser un dossier sans pouvoir modifier les droits de la personne concernée. Il peut proposer une dépense sans disposer du pouvoir de l’engager. Ces distinctions doivent être définies avant son fonctionnement et respectées pendant toute son exécution.
Dans cette usine, l’agent d’IA organise l’enchaînement des opérations. Son action dépend des possibilités de ses programmes, des outils auxquels il accède, des données disponibles et des autorisations qui lui sont accordées. La responsabilité de cette organisation demeure humaine.
AI LIGHT gouverne précisément ce pouvoir d’action.
Le point de départ est le contrat d’exécution. Celui-ci précise la mission, sa finalité, les données autorisées, les programmes et outils mobilisables, les ressources disponibles, la durée, les permissions, les interdictions et les conditions d’arrêt. Il identifie également les responsables et les situations dans lesquelles une intervention humaine devient nécessaire.
Ce contrat doit avoir une traduction effective dans le système.
Une limite inscrite dans un document, mais sans effet sur les accès ou sur les opérations possibles, laisse entière la question du contrôle. Gouverner implique de faire correspondre ce qui est permis à ce qui peut effectivement être exécuté.
Cette exigence concerne chaque composante de l’usine.
Pour le modèle de langage, il faut définir la finalité de la production et l’usage autorisé du résultat. Une réponse formulée avec assurance ne reçoit pas, de ce seul fait, une autorité pour décider. Son utilisation doit rester dans le cadre de la mission confiée au système.
Pour la recherche documentaire, souvent désignée par le terme RAG, il faut préciser les sources mobilisables et leurs conditions d’utilisation.
Retrouver une information pertinente pour une requête ne suffit pas à établir qu’elle peut être utilisée dans toute situation. Sa provenance, son contexte et son autorisation d’accès participent à la gouvernance de l’exécution.
La même exigence s’applique à la base vectorielle. Le stockage et la recherche par similarité rendent des informations accessibles au système. Le contrat doit délimiter celles qui peuvent être mobilisées pour la mission.
La disponibilité technique d’une donnée ne constitue pas une permission générale de l’exploiter.
Cette exigence concerne chaque composante de l’usine.
Pour le modèle de langage, il faut définir la finalité de la production et l’usage autorisé du résultat. Une réponse formulée avec assurance ne reçoit pas, de ce seul fait, une autorité pour décider. Son utilisation doit rester dans le cadre de la mission confiée au système.
Pour la recherche documentaire, souvent désignée par le terme RAG, il faut préciser les sources mobilisables et leurs conditions d’utilisation.
Retrouver une information pertinente pour une requête ne suffit pas à établir qu’elle peut être utilisée dans toute situation. Sa provenance, son contexte et son autorisation d’accès participent à la gouvernance de l’exécution.
La même exigence s’applique à la base vectorielle. Le stockage et la recherche par similarité rendent des informations accessibles au système. Le contrat doit délimiter celles qui peuvent être mobilisées pour la mission.
La disponibilité technique d’une donnée ne constitue pas une permission générale de l’exploiter.
Les connexions aux outils rendent cette question encore plus concrète.
Consulter un fichier, le modifier, transmettre son contenu ou déclencher une opération sont des pouvoirs distincts.
Un protocole de connexion tel que MCP organise l’accès technique. Les autorisations doivent préciser ce que le système peut faire à travers cet accès.
C’est à cet endroit que l’autonomie devient un enjeu de gouvernance. Jusqu’où l’agent peut-il poursuivre son exécution ?
À quel moment doit-il solliciter une validation ? Quelle action doit provoquer sa suspension ? Qui reçoit l’alerte et dispose du pouvoir d’intervenir ?
La logique de feux d’AI LIGHT permet de rendre ces conditions lisibles. Le vert correspond à une action autorisée dans les limites établies. L’orange impose une vigilance, une vérification ou une validation humaine. Le rouge signifie une interdiction ou un arrêt de l’exécution.
Ces feux concernent les actions que le système peut accomplir. Leur application dépend de la mission et des conséquences possibles. Plus une action affecte des droits ou engage des ressources importantes, plus son autonomie doit être encadrée.
Les dispositifs de protection, généralement appelés « guardrails », contribuent à faire respecter ces limites. Ils doivent être reliés au contrat d’exécution : quelles règles contrôlent-ils, quels événements déclenchent une alerte et quelles opérations peuvent-ils bloquer ?
Leur présence dans une architecture ne dispense pas d’identifier les responsables de leur définition et de leur suivi.
Les évaluations doivent, elles aussi, examiner davantage que la qualité apparente d’une réponse. Un système peut fournir un résultat utile tout en ayant dépassé une autorisation ou mobilisé une donnée hors du périmètre prévu.
L’évaluation doit donc porter sur le résultat et sur les conditions de sa production.
Un protocole de connexion tel que MCP organise l’accès technique. Les autorisations doivent préciser ce que le système peut faire à travers cet accès.
C’est à cet endroit que l’autonomie devient un enjeu de gouvernance. Jusqu’où l’agent peut-il poursuivre son exécution ?
À quel moment doit-il solliciter une validation ? Quelle action doit provoquer sa suspension ? Qui reçoit l’alerte et dispose du pouvoir d’intervenir ?
La logique de feux d’AI LIGHT permet de rendre ces conditions lisibles. Le vert correspond à une action autorisée dans les limites établies. L’orange impose une vigilance, une vérification ou une validation humaine. Le rouge signifie une interdiction ou un arrêt de l’exécution.
Ces feux concernent les actions que le système peut accomplir. Leur application dépend de la mission et des conséquences possibles. Plus une action affecte des droits ou engage des ressources importantes, plus son autonomie doit être encadrée.
Les dispositifs de protection, généralement appelés « guardrails », contribuent à faire respecter ces limites. Ils doivent être reliés au contrat d’exécution : quelles règles contrôlent-ils, quels événements déclenchent une alerte et quelles opérations peuvent-ils bloquer ?
Leur présence dans une architecture ne dispense pas d’identifier les responsables de leur définition et de leur suivi.
Les évaluations doivent, elles aussi, examiner davantage que la qualité apparente d’une réponse. Un système peut fournir un résultat utile tout en ayant dépassé une autorisation ou mobilisé une donnée hors du périmètre prévu.
L’évaluation doit donc porter sur le résultat et sur les conditions de sa production.
Enfin, l’observabilité permet de suivre le fonctionnement technique de l’usine IA à travers les traces, les erreurs, les délais ou les coûts.
La supervision humaine exige également de comprendre les actions engagées et de pouvoir infléchir leur exécution.
Dans AI LIGHT, le Rapport d’Activité Continu contribue à rendre cette exécution observable.
La tour de contrôle doit permettre à un humain compétent, informé et autorisé de corriger, suspendre ou arrêter le système.
Une alerte devient un instrument de gouvernance lorsqu’elle parvient à une personne capable d’en apprécier la portée et d’agir au moment utile.
Le regard humain intervient ainsi avant, pendant et après l’exécution : pour définir la mission et les limites, pour superviser les opérations, puis pour examiner les résultats, les écarts et les responsabilités.
Appliquée au Maroc, cette lecture invite les entreprises, les administrations et les établissements de formation à intégrer ces exigences dès la conception de leurs projets d’IA.
Pour chaque système envisagé, il faut pouvoir répondre à des questions concrètes :
Quelle mission lui confier ? Quelles données lui ouvrir ? Quelles actions lui permettre ? Quelles ressources lui attribuer ? Qui peut interrompre son fonctionnement et qui répond de ses conséquences ?
L’industrialisation de l’IA engage donc une capacité d’organisation autant qu’une capacité technique.
Elle suppose des responsabilités identifiées, des permissions maîtrisées et une supervision dotée de moyens réels.
L’usine IA produit. AI LIGHT gouverne les conditions de son exécution. La performance prend alors son sens dans une mission définie, sous des limites effectives et avec une responsabilité humaine qui demeure identifiable.
Dans AI LIGHT, le Rapport d’Activité Continu contribue à rendre cette exécution observable.
La tour de contrôle doit permettre à un humain compétent, informé et autorisé de corriger, suspendre ou arrêter le système.
Une alerte devient un instrument de gouvernance lorsqu’elle parvient à une personne capable d’en apprécier la portée et d’agir au moment utile.
Le regard humain intervient ainsi avant, pendant et après l’exécution : pour définir la mission et les limites, pour superviser les opérations, puis pour examiner les résultats, les écarts et les responsabilités.
Appliquée au Maroc, cette lecture invite les entreprises, les administrations et les établissements de formation à intégrer ces exigences dès la conception de leurs projets d’IA.
Pour chaque système envisagé, il faut pouvoir répondre à des questions concrètes :
Quelle mission lui confier ? Quelles données lui ouvrir ? Quelles actions lui permettre ? Quelles ressources lui attribuer ? Qui peut interrompre son fonctionnement et qui répond de ses conséquences ?
L’industrialisation de l’IA engage donc une capacité d’organisation autant qu’une capacité technique.
Elle suppose des responsabilités identifiées, des permissions maîtrisées et une supervision dotée de moyens réels.
L’usine IA produit. AI LIGHT gouverne les conditions de son exécution. La performance prend alors son sens dans une mission définie, sous des limites effectives et avec une responsabilité humaine qui demeure identifiable.
Accueil
Envoyer à un ami
Version imprimable
Augmenter la taille du texte
Diminuer la taille du texte
Partager
Le Maroc à Abou Dhabi : Flux financiers illicites & droit au développement 
