Je tiens d’abord à féliciter l’Association des Centraliens et Supélec du Maroc, son président Jalal Charaf et l’ensemble des contributeurs pour la réalisation du rapport citoyen consacré aux 148 propositions issues de huit forums organisés entre 2007 et 2024 et de leur contribution au Nouveau Modèle de Développement.
Ce rapport représente un travail considérable de mémoire, d’analyse et d’actualisation. Il ne se limite pas à rassembler des propositions formulées au cours des années précédentes.
Il cherche à mesurer les avancées réalisées, à identifier les écarts persistants et à proposer de nouvelles pistes d’action au service du développement du Maroc.
La méthode retenue mérite également d’être soulignée. Chaque proposition est examinée à partir de son contexte historique, de sa mise en œuvre, de son état d’avancement et des conditions nécessaires à son actualisation.
Le rapport rappelle avec justesse que l’existence d’une loi, d’une stratégie, d’une institution ou d’un programme ne signifie pas nécessairement que les résultats attendus ont été obtenus.
À quelques jours des élections législatives, cette contribution citoyenne fournit aux responsables politiques, aux institutions, aux entreprises, aux universitaires et à la société civile une matière riche pour réfléchir aux priorités du Maroc.
Il cherche à mesurer les avancées réalisées, à identifier les écarts persistants et à proposer de nouvelles pistes d’action au service du développement du Maroc.
La méthode retenue mérite également d’être soulignée. Chaque proposition est examinée à partir de son contexte historique, de sa mise en œuvre, de son état d’avancement et des conditions nécessaires à son actualisation.
Le rapport rappelle avec justesse que l’existence d’une loi, d’une stratégie, d’une institution ou d’un programme ne signifie pas nécessairement que les résultats attendus ont été obtenus.
À quelques jours des élections législatives, cette contribution citoyenne fournit aux responsables politiques, aux institutions, aux entreprises, aux universitaires et à la société civile une matière riche pour réfléchir aux priorités du Maroc.
C’est dans cet esprit constructif que je souhaite apporter une contribution complémentaire au rapport.
Parmi les 148 propositions figure une recommandation appelant à « adopter de manière agile et urgente la digitalisation et l’Intelligence Artificielle à tous les niveaux ».
Cette proposition reconnaît l’importance de l’IA pour améliorer les processus, réduire les délais et les coûts, renforcer l’analyse, la prévision, la décision et la gestion des risques.
Je propose d’aller plus loin en ajoutant aux 148 propositions une proposition transversale consacrée à la gouvernance de l’intelligence artificielle.
« Définir et mettre en œuvre une gouvernance marocaine transversale de l’intelligence artificielle, fondée sur la responsabilité humaine, la souveraineté technologique, la maîtrise des données, la supervision des systèmes, l’inclusion territoriale et l’évaluation permanente de leurs effets économiques, sociaux, environnementaux et démocratiques. »
Cette proposition est le prolongement des réflexions que je mène et des recommandations que je formule depuis le début de la vague ChatGPT en novembre 2022.
Depuis cette date, l’intelligence artificielle générative a envahi les discours, les stratégies des entreprises, les programmes de formation, les administrations et les débats publics.
Elle est fréquemment présentée comme une intelligence comparable à celle de l’être humain, capable de comprendre le monde, de penser, de décider et bientôt de remplacer une grande partie des métiers.
Cette proposition reconnaît l’importance de l’IA pour améliorer les processus, réduire les délais et les coûts, renforcer l’analyse, la prévision, la décision et la gestion des risques.
Je propose d’aller plus loin en ajoutant aux 148 propositions une proposition transversale consacrée à la gouvernance de l’intelligence artificielle.
« Définir et mettre en œuvre une gouvernance marocaine transversale de l’intelligence artificielle, fondée sur la responsabilité humaine, la souveraineté technologique, la maîtrise des données, la supervision des systèmes, l’inclusion territoriale et l’évaluation permanente de leurs effets économiques, sociaux, environnementaux et démocratiques. »
Cette proposition est le prolongement des réflexions que je mène et des recommandations que je formule depuis le début de la vague ChatGPT en novembre 2022.
Depuis cette date, l’intelligence artificielle générative a envahi les discours, les stratégies des entreprises, les programmes de formation, les administrations et les débats publics.
Elle est fréquemment présentée comme une intelligence comparable à celle de l’être humain, capable de comprendre le monde, de penser, de décider et bientôt de remplacer une grande partie des métiers.
Je défends une autre lecture.
L’intelligence artificielle est une informatique avancée reposant sur des logiciels, des mathématiques, des statistiques, des algorithmes, des données et des infrastructures de calcul. Elle ne possède ni conscience, ni volonté propre, ni compréhension humaine du monde réel.
Les modèles génératifs produisent des textes, des images, des sons ou des programmes à partir des données et des régularités apprises. Ils peuvent être extrêmement utiles, mais leurs performances ne doivent pas être confondues avec une intelligence humaine ou une capacité autonome de jugement.
Cette distinction doit constituer le point de départ de toute politique publique.
La question principale n’est pas de savoir si l’intelligence artificielle deviendra un jour incontrôlable par elle-même. Elle est de déterminer qui conçoit les systèmes, qui les programme, qui les autorise à agir, quelles données leur sont accessibles, quelles ressources ils peuvent mobiliser et qui assume la responsabilité de leurs résultats.
Les agents d’intelligence artificielle agissent dans les limites des programmes informatiques qui traduisent les algorithmes définis par leurs concepteurs, des autorisations qui leur sont accordées, des données auxquelles ils peuvent accéder, des ressources qu’ils peuvent mobiliser et des environnements techniques dans lesquels ils sont exécutés.
Lorsqu’un système produit une information erronée, discrimine une personne, recommande une décision contestable ou accède à une ressource sensible, la responsabilité ne peut pas être attribuée à la machine.
Elle reste humaine, organisationnelle, technique, économique et politique.
Les modèles génératifs produisent des textes, des images, des sons ou des programmes à partir des données et des régularités apprises. Ils peuvent être extrêmement utiles, mais leurs performances ne doivent pas être confondues avec une intelligence humaine ou une capacité autonome de jugement.
Cette distinction doit constituer le point de départ de toute politique publique.
La question principale n’est pas de savoir si l’intelligence artificielle deviendra un jour incontrôlable par elle-même. Elle est de déterminer qui conçoit les systèmes, qui les programme, qui les autorise à agir, quelles données leur sont accessibles, quelles ressources ils peuvent mobiliser et qui assume la responsabilité de leurs résultats.
Les agents d’intelligence artificielle agissent dans les limites des programmes informatiques qui traduisent les algorithmes définis par leurs concepteurs, des autorisations qui leur sont accordées, des données auxquelles ils peuvent accéder, des ressources qu’ils peuvent mobiliser et des environnements techniques dans lesquels ils sont exécutés.
Lorsqu’un système produit une information erronée, discrimine une personne, recommande une décision contestable ou accède à une ressource sensible, la responsabilité ne peut pas être attribuée à la machine.
Elle reste humaine, organisationnelle, technique, économique et politique.
C’est pour répondre à cette exigence que je propose, à travers mon approche AI LIGHT, une gouvernance fondée sur le pilotage, la supervision et le contrôle humain des systèmes et des agents d’intelligence artificielle.
Cette gouvernance doit commencer avant le déploiement d’un système. Chaque projet devrait être encadré par un contrat d’exécution précisant sa finalité, son périmètre, les données utilisées, les actions autorisées, les ressources accessibles, les mécanismes de supervision et les conditions de suspension ou d’arrêt.
La supervision humaine ne doit pas être une formule ajoutée dans un document. Elle doit être organisée, dotée de compétences, de moyens d’intervention et d’une véritable autorité. Un responsable humain ou institutionnel clairement identifié doit répondre de chaque système utilisé dans une fonction sensible.
Cette proposition transversale concerne l’ensemble des thèmes du rapport.
Dans l’économie et l’industrie, l’IA doit soutenir la productivité, l’innovation et le développement des entreprises marocaines, sans créer une dépendance totale envers quelques plateformes étrangères.
Dans l’emploi et la formation, elle doit accompagner les compétences humaines et améliorer les conditions de travail. Il faut former les citoyens à utiliser ces outils, mais aussi leur apprendre à en comprendre les limites, à vérifier leurs résultats et à conserver leur capacité de jugement.
Dans l’éducation, l’objectif ne peut pas être de remplacer l’enseignant. Il faut déterminer comment l’IA peut assister les enseignants, personnaliser certains apprentissages et réduire les inégalités, tout en protégeant les données des élèves et en préservant la relation humaine.
Dans la santé, les systèmes peuvent contribuer à l’analyse et à l’aide au diagnostic, mais la décision médicale et la responsabilité doivent rester humaines.
Dans l’administration, l’IA peut simplifier des procédures, faciliter l’accès aux services publics et améliorer l’analyse.
Toutefois, aucun citoyen ne devrait subir une décision automatisée sans explication, sans responsable identifiable et sans possibilité de recours humain.
Dans les territoires, l’IA ne doit pas accentuer les inégalités entre les grandes villes, les petites villes, les zones rurales et les régions éloignées.
Les solutions développées doivent prendre en compte la diversité linguistique et culturelle du Maroc, notamment l’arabe, l’amazighe et le français.
La supervision humaine ne doit pas être une formule ajoutée dans un document. Elle doit être organisée, dotée de compétences, de moyens d’intervention et d’une véritable autorité. Un responsable humain ou institutionnel clairement identifié doit répondre de chaque système utilisé dans une fonction sensible.
Cette proposition transversale concerne l’ensemble des thèmes du rapport.
Dans l’économie et l’industrie, l’IA doit soutenir la productivité, l’innovation et le développement des entreprises marocaines, sans créer une dépendance totale envers quelques plateformes étrangères.
Dans l’emploi et la formation, elle doit accompagner les compétences humaines et améliorer les conditions de travail. Il faut former les citoyens à utiliser ces outils, mais aussi leur apprendre à en comprendre les limites, à vérifier leurs résultats et à conserver leur capacité de jugement.
Dans l’éducation, l’objectif ne peut pas être de remplacer l’enseignant. Il faut déterminer comment l’IA peut assister les enseignants, personnaliser certains apprentissages et réduire les inégalités, tout en protégeant les données des élèves et en préservant la relation humaine.
Dans la santé, les systèmes peuvent contribuer à l’analyse et à l’aide au diagnostic, mais la décision médicale et la responsabilité doivent rester humaines.
Dans l’administration, l’IA peut simplifier des procédures, faciliter l’accès aux services publics et améliorer l’analyse.
Toutefois, aucun citoyen ne devrait subir une décision automatisée sans explication, sans responsable identifiable et sans possibilité de recours humain.
Dans les territoires, l’IA ne doit pas accentuer les inégalités entre les grandes villes, les petites villes, les zones rurales et les régions éloignées.
Les solutions développées doivent prendre en compte la diversité linguistique et culturelle du Maroc, notamment l’arabe, l’amazighe et le français.
La souveraineté constitue une autre dimension essentielle.
Le Maroc doit savoir où sont hébergées ses données, quels modèles sont utilisés, qui contrôle les infrastructures et quelles dépendances technologiques sont acceptées.
Il doit développer ses capacités de calcul, ses centres de données, ses compétences, ses logiciels et ses jeux de données. Il doit également évaluer les besoins en électricité et en eau de ces infrastructures.
L’intelligence artificielle n’est pas immatérielle : elle repose sur des équipements, des réseaux et des ressources physiques.
Cette politique doit enfin être mesurable. Comme le recommande le rapport pour les autres propositions, elle devrait être associée à un responsable, à un budget, à un calendrier et à des indicateurs publics.
Ces indicateurs ne devraient pas seulement mesurer le nombre de projets lancés ou d’outils déployés. Ils devraient permettre d’évaluer leur utilité réelle, leurs coûts, leur fiabilité, leurs effets sur l’emploi, leur consommation de ressources, leur accessibilité territoriale et le nombre d’erreurs ou de contestations enregistrées.
Il doit développer ses capacités de calcul, ses centres de données, ses compétences, ses logiciels et ses jeux de données. Il doit également évaluer les besoins en électricité et en eau de ces infrastructures.
L’intelligence artificielle n’est pas immatérielle : elle repose sur des équipements, des réseaux et des ressources physiques.
Cette politique doit enfin être mesurable. Comme le recommande le rapport pour les autres propositions, elle devrait être associée à un responsable, à un budget, à un calendrier et à des indicateurs publics.
Ces indicateurs ne devraient pas seulement mesurer le nombre de projets lancés ou d’outils déployés. Ils devraient permettre d’évaluer leur utilité réelle, leurs coûts, leur fiabilité, leurs effets sur l’emploi, leur consommation de ressources, leur accessibilité territoriale et le nombre d’erreurs ou de contestations enregistrées.
Ma proposition ne vise donc pas simplement à demander davantage d’intelligence artificielle.
Elle vise à organiser les conditions de son utilisation au service du Maroc, de ses citoyens, de ses entreprises, de ses institutions et de son développement.
Le rapport des Centraliens et Supélec du Maroc constitue une base solide et précieuse.
L’ajout d’une proposition transversale sur la gouvernance de l’intelligence artificielle permettrait de prolonger ce travail et de relier ses six grands thèmes à l’une des transformations majeures de notre époque.
Après les 148 propositions, je soumets donc respectueusement cette 149e proposition au débat public : gouverner l’intelligence artificielle avant de la généraliser, maintenir la responsabilité humaine et construire une voie marocaine fondée sur la souveraineté, l’inclusion et la confiance.
Le rapport des Centraliens et Supélec du Maroc constitue une base solide et précieuse.
L’ajout d’une proposition transversale sur la gouvernance de l’intelligence artificielle permettrait de prolonger ce travail et de relier ses six grands thèmes à l’une des transformations majeures de notre époque.
Après les 148 propositions, je soumets donc respectueusement cette 149e proposition au débat public : gouverner l’intelligence artificielle avant de la généraliser, maintenir la responsabilité humaine et construire une voie marocaine fondée sur la souveraineté, l’inclusion et la confiance.