​AI LIGHT et aide sociale : quand un score ne doit pas décider seul


Septième tribune d’une série consacrée à AI LIGHT
Après six tribunes consacrées à l’autonomie des agents d’IA, au contrat d’exécution, à la tour de contrôle, à la supervision humaine et aux conditions matérielles de fonctionnement de ces systèmes, je propose dans cette septième tribune d’étendre la logique d’AI LIGHT à un autre domaine : celui de la décision publique automatisée. La même question se pose alors avec force : jusqu’où un système peut-il agir seul lorsqu’une décision produit des conséquences concrètes sur la vie d’une personne ?



Par Dr Az-Eddine Bennani

Au Maroc, l’accès au régime des Aides Sociales Directes repose notamment sur l’indice socio-économique attribué au ménage dans le cadre du Registre Social Unifié, le RSU.

Sauf erreur de ma part, l’Agence Nationale du Soutien Social (ANSS), dans sa rubrique officielle consacrée aux conditions d’éligibilité au régime des Aides Sociales Directes, indique actuellement qu’un ménage doit disposer d’un indice socio-économique inférieur ou égal à 9,743001 pour satisfaire à cette condition d’éligibilité.

L’ANSS précise également, dans le parcours officiel de demande, que l’inscription au RSU permet d’obtenir cet indice et que la demande d’Aides Sociales Directes peut être déposée lorsque celui-ci est inférieur ou égal à ce seuil.
9,743001.

Six chiffres après la virgule.

Cette précision donne l’impression d’une frontière parfaitement objective.

Pourtant, la réalité sociale ne connaît évidemment pas six chiffres après la virgule.

Un ménage situé juste en dessous de ce seuil et un ménage situé légèrement au-dessus peuvent vivre dans des conditions presque identiques.

Le franchissement du seuil modifie le statut administratif.

Il ne transforme pas nécessairement la réalité économique de la famille.

Cette question a été publiquement évoquée au Maroc.

Le 8 décembre 2025, devant la Chambre des représentants, le ministre délégué chargé du Budget, Monsieur Fouzi Lekjaa, a reconnu la nécessité d’actualiser le mécanisme de calcul de l’indice. Le quotidien Le Matin, dans son compte rendu publié le même jour, rapporte que le ministre a considéré que le seuil n’était « ni figé ni définitif » et que le dispositif devait évoluer afin de corriger certaines situations.

Le Matin rapporte notamment, à propos de cette intervention, le cas de citoyens qui auraient perdu leur droit au soutien après une simple recharge de crédit téléphonique ou la souscription à un abonnement Internet. C’est ce cas, publiquement évoqué devant les députés et repris par la presse, que je retiens ici comme exemple de la sensibilité d’un système de décision fondé sur un score.

Il faut être extrêmement précis sur ce point.

Cela ne signifie pas qu’une recharge donnée de dix, vingt ou cinquante dirhams provoque automatiquement la suppression d’une aide.

Aucun texte officiel que j’ai pu consulter ne permet d’établir une relation mécanique de cette nature.

Mais le fait même que ce type de situation ait été évoqué publiquement révèle une difficulté plus générale.

Comment transformer une multitude d’informations individuelles en un indicateur socio-économique sans que certaines données prennent une importance disproportionnée ?

Et surtout :
que doit-il se passer lorsqu’un score franchit de très peu un seuil dont dépend un droit social ?

Cette question rejoint directement AI LIGHT.

Le Registre Social Unifié repose sur un dispositif statistique encadré juridiquement.

Le décret n° 2-21-582 du 28 juillet 2021, pris pour l’application de la loi n° 72-18 relative au dispositif de ciblage des bénéficiaires des programmes d’appui social, précise que le score attribué au ménage est calculé à partir d’une formule mathématique combinant des variables socio-économiques et leurs coefficients, avec des formules distinctes selon le milieu urbain ou rural.
Nous ne sommes donc pas devant un mécanisme improvisé.

Nous sommes devant un système de ciblage construit à partir de données, de variables, de coefficients et d’un seuil réglementaire.

AI LIGHT ne propose pas de supprimer ce calcul.

Il ne propose pas davantage de remplacer la statistique par la décision subjective d’un agent administratif.
Il propose de séparer deux fonctions que nous avons trop souvent tendance à confondre :
calculer et décider.

Le système peut calculer un score.

Mais doit-il automatiquement exécuter toutes les conséquences associées à ce score ?
C’est précisément là qu’intervient le contrat d’exécution.

Dans une logique AI LIGHT, un système social pourrait être autorisé à :
collecter les données prévues par le cadre réglementaire ;
calculer l’indice ;
détecter les variations ;
préparer une décision ;
signaler les anomalies.

Mais son contrat d’exécution pourrait également lui interdire de supprimer automatiquement un droit dans certaines situations définies à l’avance.

Par exemple lorsque le franchissement du seuil est très faible.
Ou lorsque la variation est brutale.
Ou lorsqu’elle semble provenir d’un événement ponctuel.
Ou encore lorsque plusieurs données apparaissent contradictoires.
C’est ici que retrouve tout son sens la logique de la tour de contrôle AI LIGHT.

Imaginons trois niveaux.
Vert.
Le système traite normalement une situation ne présentant pas d’anomalie particulière et restant dans les limites de son contrat d’exécution.
Orange.
Une décision est statistiquement possible mais présente une situation nécessitant une vérification.
Le système ne décide pas à la place de l’humain.
Il signale.
Il explique quelles données ont provoqué la variation.
Il suspend éventuellement l’exécution jusqu’à vérification.
Rouge.
La décision envisagée peut avoir une conséquence importante sur un droit social et entre dans une catégorie pour laquelle l’automatisation complète est interdite.

L’humain doit reprendre la décision.

Il faut insister sur un point.
Les couleurs ne décrivent pas les citoyens.
Elles décrivent le niveau d’autorisation accordé au système.
AI LIGHT ne classe pas les personnes.
AI LIGHT classe les actions qu’un système peut ou ne peut pas exécuter seul.
Cette distinction est fondamentale.

Dans le cas d’une recharge téléphonique, la question ne devrait donc pas être :
« le citoyen a-t-il dépensé de l’argent ? »

Mais :

« cette information permet-elle réellement de conclure à une amélioration suffisamment significative et durable de sa situation pour modifier son droit à une aide ? »

Ce sont deux questions très différentes.

Une personne vulnérable utilise aujourd’hui son téléphone pour chercher un emploi.
Pour communiquer avec une administration.
Pour recevoir un rendez-vous.
Pour suivre la scolarité de ses enfants.
Pour accéder à des services numériques.
Pour effectuer des démarches auprès de l’État.
La consommation téléphonique ne peut donc pas être interprétée automatiquement comme un indicateur simple de richesse.
Le contexte compte.

C’est précisément ce que les algorithmes peuvent perdre lorsqu’ils transforment la réalité en variables.
Dans une précédente tribune consacrée à AI LIGHT, j’avais insisté sur la nécessité d’un contrat d’exécution avant toute autonomie.

Le cas du RSU permet d’en comprendre très concrètement la portée.

Avant de déployer un système participant à l’attribution ou à la suppression d’un droit social, nous devrions pouvoir répondre clairement à plusieurs questions :
Qu’est-il autorisé à calculer ?
Qu’est-il autorisé à décider ?
Qu’est-il autorisé à exécuter ?

À partir de quel niveau de risque doit-il s’arrêter ?

Qui reprend la décision ?
Comment expliquer la décision au citoyen ?
Comment celui-ci peut-il la contester ?
Et qui porte finalement la responsabilité ?

AI LIGHT ne cherche donc pas seulement à superviser des agents d’intelligence artificielle capables d’appeler des logiciels, d’envoyer des messages ou d’exécuter des transactions.

Il pose une question plus large sur notre rapport aux systèmes numériques.

À quel moment devons-nous remettre l’humain dans la boucle ?

Dans le domaine social, la réponse me paraît claire.

Plus une décision touche à un droit essentiel, plus l’autonomie du système devrait être limitée.

Le Maroc a accompli un travail considérable de numérisation des dispositifs sociaux.

Les registres permettent de traiter des volumes d’informations qui auraient été impossibles à gérer manuellement.
Cette évolution est nécessaire.

Mais la transformation numérique de l’État ne peut pas seulement consister à automatiser davantage.
Elle doit aussi apprendre à gouverner l’automatisation.

C’est là que je situe AI LIGHT.
Non pas contre le numérique.
Non pas contre les algorithmes.

Mais comme une couche de gouvernance entre la capacité technique et la décision humaine.
Une tour de contrôle capable de dire :
le système peut continuer.
Le système doit demander une vérification.
Le système doit s’arrêter.

Le seuil de 9,743001 constitue à cet égard une image particulièrement forte.
Le nombre est précis.

La réalité sociale l’est beaucoup moins.

Et entre les deux doit exister une gouvernance.

AI LIGHT pourrait commencer exactement là :
entre le score et la décision.


Samedi 29 Aout 2026

Dans la même rubrique :