Il ne s’agit pas d’en reprendre les arguments, mais de montrer comment mon concept AI LIGHT peut s’appliquer concrètement à la préparation, à l’autorisation, à l’exécution et à l’évaluation des dépenses publiques consacrées à l’intelligence artificielle et au digital.

AI LIGHT est un cadre de gouvernance destiné à piloter, superviser et contrôler l’action des systèmes et des agents d’intelligence artificielle.

Son point de départ est simple : une IA n’agit jamais par elle-même dans un espace sans limites. Elle exécute des opérations à l’intérieur de programmes, d’autorisations, de ressources, de données et d’environnements techniques définis par des humains et des organisations.

Appliqué à la loi de finances, ce principe signifie qu’aucun financement public d’un système d’IA ne devrait être autorisé sans définir au préalable ce que ce système peut faire, avec quelles ressources, sous quelle responsabilité et dans quelles conditions son fonctionnement peut être suspendu.

La première application d’AI LIGHT intervient donc avant même l’inscription budgétaire. Chaque projet d’IA ou de digital devrait être accompagné d’une fiche d’autorisation publique. Cette fiche ne serait pas une présentation commerciale ni une simple description technique.

Elle préciserait le problème public à traiter, les bénéficiaires, les opérations confiées au système, les données utilisées, les administrations responsables, les prestataires éventuels, le coût complet prévu et les résultats attendus. Elle indiquerait également ce que le système n’est pas autorisé à faire.

Une plateforme destinée à informer les citoyens ne doit pas pouvoir décider de leurs droits. Un outil d’aide à l’instruction d’un dossier ne doit pas pouvoir rejeter automatiquement une demande si cette possibilité n’a pas été explicitement autorisée.

Un agent chargé de préparer un document administratif ne doit pas pouvoir le transmettre, engager une dépense ou modifier une base de données sans validation humaine. Dans AI LIGHT, l’autorisation budgétaire devient ainsi le premier niveau du contrat d’exécution.

Ce contrat d’exécution relie la dépense votée à un usage précis. Il définit la mission du système, son périmètre, ses accès, ses ressources, sa durée, ses seuils de décision et ses obligations de traçabilité. Il identifie une personne ou une autorité responsable de chaque pouvoir accordé.

Une ligne budgétaire ne doit donc plus financer une IA en général. Elle doit financer une capacité déterminée, utilisée dans un processus identifié et soumise à des règles vérifiables.

Prenons le cas d’un agent d’IA utilisé pour traiter des dossiers d’aide publique. La loi de finances pourrait autoriser les crédits nécessaires au développement et au fonctionnement du système.

AI LIGHT imposerait en complément de préciser si l’agent peut seulement classer les pièces, signaler les documents manquants, calculer un montant selon des règles préétablies ou proposer une décision.

Si la décision finale touche aux droits d’une personne, elle doit rester attribuée à un responsable humain clairement désigné. Le citoyen doit savoir qu’un traitement automatisé est intervenu, pouvoir demander une explication et disposer d’une voie de recours.

Un projet ne doit pas être apprécié uniquement à partir du montant annoncé la première année. Le contrat d’exécution doit couvrir l’hébergement, le calcul, les licences, les données, la cybersécurité, la maintenance, les mises à jour, la formation, l’assistance et les dépenses de sortie.

Il doit rendre visibles les coûts récurrents et les dépendances créées. Si le fournisseur change ses conditions, si le coût du calcul augmente ou si l’hébergement devient incompatible avec les exigences de souveraineté, l’État doit pouvoir réviser ou interrompre le dispositif.

AI LIGHT exige ensuite une supervision pendant toute l’exécution budgétaire. Le contrôle ne peut pas se limiter à vérifier que les crédits ont été consommés et que la plateforme a été livrée.

Il faut suivre ce que le système accomplit réellement : les opérations exécutées, les erreurs, les interventions humaines, les incidents, les catégories de personnes affectées, les écarts par rapport aux résultats attendus et l’évolution du coût complet.

La performance ne se mesure pas au nombre de requêtes traitées, mais à l’amélioration effective du service public.

Pour rendre cette supervision possible, je propose une tour de contrôle interministérielle AI LIGHT.

Elle ne remplacerait ni le Parlement, ni le ministère chargé des finances, ni les administrations sectorielles. Elle leur donnerait une vision consolidée des projets d’IA financés par l’État.

Elle regrouperait, pour chaque système, les autorisations accordées, les responsables, les données mobilisées, les fournisseurs, les infrastructures, les coûts, les indicateurs, les incidents et les décisions de poursuite, de correction ou d’arrêt.

Cette tour de contrôle éviterait que plusieurs administrations financent séparément des solutions similaires sans le savoir. Elle permettrait aussi de repérer les dépendances communes envers un même fournisseur, un même cloud, un même modèle ou une même source de données.

Une dépense peut sembler limitée dans le budget d’un ministère tout en contribuant, à l’échelle de l’État, à une dépendance beaucoup plus importante. AI LIGHT rend visible cette accumulation avant qu’elle ne devienne irréversible.

Il ne suffit pas d’écrire qu’un humain reste dans la boucle. Il faut préciser qui intervient, à quel moment, avec quelles informations et avec quel pouvoir. Le responsable doit pouvoir refuser une proposition du système, corriger son fonctionnement, limiter ses accès et ordonner son arrêt.

Il doit également disposer des compétences et du temps nécessaires pour exercer ce contrôle. Une validation humaine purement formelle ne constitue pas une supervision.

La loi de finances pourrait traduire cette exigence par des conditions de décaissement.

Une première tranche financerait l’expérimentation dans un périmètre limité.

Les tranches suivantes ne seraient ouvertes qu’après vérification de critères annoncés : qualité des données, sécurité, respect des autorisations, utilité pour les usagers, maîtrise des coûts, capacité des agents publics à superviser le système et possibilité de changer de fournisseur.

Le budget deviendrait ainsi un instrument de pilotage progressif, et non un engagement irrévocable pris avant de connaître les effets réels du projet.

AI LIGHT prévoit également un pouvoir d’arrêt. Tout projet devrait comporter, dès son financement, des seuils d’alerte et des clauses de suspension. Une hausse incontrôlée des coûts, des erreurs répétées, un usage non autorisé des données, une atteinte aux droits, une défaillance de sécurité ou l’absence de résultats mesurables doivent pouvoir entraîner une limitation, une révision ou un arrêt.

Prévoir cette possibilité ne traduit pas une hostilité à l’innovation. C’est une condition de responsabilité dans l’emploi de l’argent public.

L’évaluation doit enfin porter sur les effets obtenus. À la clôture de l’exercice, chaque administration concernée devrait pouvoir répondre à quelques questions concrètes : le problème initial a-t-il été réduit ? Le service est-il plus accessible, plus rapide ou plus fiable ?

Les agents publics ont-ils réellement gagné en capacité d’action ? Quels risques nouveaux sont apparus ? Quel est le coût total par rapport au bénéfice constaté ? Les autorisations initiales ont-elles été respectées ? Faut-il poursuivre, modifier, généraliser ou arrêter le système ?

Avant la dépense, il faut autoriser une mission et ses limites. Pendant l’exécution, il faut observer les opérations, les coûts et les incidents. Après l’usage, il faut évaluer les résultats et décider explicitement de la suite. À chaque étape, une responsabilité humaine doit être identifiable.

La loi de finances ne doit pas seulement donner à l’administration les moyens d’acheter des technologies. Elle doit lui permettre de conserver la maîtrise de leur action. Avec AI LIGHT, chaque dirham consacré à l’IA et au digital est relié à un contrat d’exécution, à une autorisation, à un responsable, à un contrôle et à un résultat vérifiable.

C’est ainsi que l’investissement public peut soutenir l’innovation tout en protégeant les citoyens, les finances publiques et la souveraineté du Maroc.