Le système viserait à repérer, à partir de données administratives et comportementales, les profils susceptibles de ne pas respecter leurs obligations de recherche d’emploi.
Ces personnes pourraient alors être orientées plus fréquemment vers un contrôle humain. L’algorithme ne prononcerait donc pas directement la sanction, mais il contribuerait à sélectionner les individus exposés à la procédure.
Cette distinction ne règle pas tout. Être choisi pour un contrôle constitue déjà une décision ayant des conséquences concrètes : convocations, production de justificatifs, risque de suspension ou de suppression des allocations. Si le modèle reproduit des biais présents dans les données, certains territoires, métiers ou profils sociaux peuvent être davantage surveillés sans avoir nécessairement davantage fraudé.
La question de la transparence devient centrale.
Quels critères sont utilisés ? Les personnes contrôlées sont-elles informées de l’intervention d’un algorithme ?
Peuvent-elles contester un classement ?
Et comment vérifier qu’une ancienne erreur administrative ne se transforme pas en signal de suspicion permanent ?
Le débat français peut intéresser directement le Maroc, où la numérisation de l’aide sociale, de l’emploi et des registres administratifs progresse. L’IA permet de traiter davantage de dossiers, mais elle peut aussi industrialiser la suspicion.
Une administration moderne ne se mesure pas uniquement à la vitesse de ses outils. Elle se juge à sa capacité à expliquer ses décisions, à corriger ses erreurs et à ne pas transformer les citoyens les plus fragiles en simples scores de risque.
Cette distinction ne règle pas tout. Être choisi pour un contrôle constitue déjà une décision ayant des conséquences concrètes : convocations, production de justificatifs, risque de suspension ou de suppression des allocations. Si le modèle reproduit des biais présents dans les données, certains territoires, métiers ou profils sociaux peuvent être davantage surveillés sans avoir nécessairement davantage fraudé.
La question de la transparence devient centrale.
Quels critères sont utilisés ? Les personnes contrôlées sont-elles informées de l’intervention d’un algorithme ?
Peuvent-elles contester un classement ?
Et comment vérifier qu’une ancienne erreur administrative ne se transforme pas en signal de suspicion permanent ?
Le débat français peut intéresser directement le Maroc, où la numérisation de l’aide sociale, de l’emploi et des registres administratifs progresse. L’IA permet de traiter davantage de dossiers, mais elle peut aussi industrialiser la suspicion.
Une administration moderne ne se mesure pas uniquement à la vitesse de ses outils. Elle se juge à sa capacité à expliquer ses décisions, à corriger ses erreurs et à ne pas transformer les citoyens les plus fragiles en simples scores de risque.