Face à l’intelligence artificielle, le Maroc doit-il suivre le modèle américain, qui privilégie l’innovation et limite les contraintes réglementaires, ou se rapprocher du modèle européen, qui organise la régulation en fonction des risques ? Le texte se termine par cette phrase :

« Entre le Far West technologique et la bureaucratie algorithmique, il existe peut-être précisément une voie marocaine à inventer. » Et si AI LIGHT était précisément cette voie ?

Depuis plusieurs semaines, je développe dans une série de tribunes une proposition que j’ai appelée AI LIGHT. Celle-ci ne constitue ni une simple réglementation supplémentaire ni une transposition du règlement européen sur l’intelligence artificielle.

Elle ne consiste pas davantage à laisser les entreprises et les systèmes d’IA agir jusqu’à ce qu’un dommage oblige les pouvoirs publics à intervenir. AI LIGHT propose une autre logique : mettre l’intelligence artificielle en lumière pour pouvoir la gouverner. Il ne s’agit pas seulement de réglementer les algorithmes.

Il faut rendre visibles les acteurs, les données, les programmes, les autorisations, les ressources, les infrastructures, les décisions et les responsabilités qui permettent à un système d’IA d’agir.

Car un agent d’IA n’agit jamais seul. Il n’agit qu’à l’intérieur des possibilités offertes par les programmes informatiques traduisant les algorithmes, des autorisations qui lui sont accordées, des données auxquelles il peut accéder, des ressources qui lui sont attribuées et des environnements techniques dans lesquels il est installé.

La question fondamentale n’est donc pas de savoir si la machine est intelligente. Elle est de savoir qui lui permet d’agir, dans quelles limites, sous quelle surveillance et sous la responsabilité de qui.

La première a posé le cadre général. J’y ai proposé de représenter la gouvernance de l’intelligence artificielle comme une console de pilotage comprenant des feux, des seuils d’alerte, des zones interdites et des espaces dans lesquels l’expérimentation reste possible. Il ne s’agit pas de bloquer l’IA, mais de savoir où elle se trouve, ce qu’elle fait et jusqu’où elle peut aller.

La deuxième tribune a introduit le contrat d’exécution. Avant de recevoir une quelconque autonomie, un agent d’IA doit disposer d’une mission explicite, d’un périmètre d’action, de droits d’accès limités, d’interdictions, d’une durée d’intervention et de conditions d’arrêt clairement définies. Aucune autonomie ne devrait être accordée sans mandat préalable.

La troisième tribune a abordé la relation entre autonomie et redevabilité. Plus un système obtient la capacité d’agir, plus les responsabilités humaines qui l’entourent doivent être identifiables. L’autonomie technique ne doit jamais produire une disparition de la responsabilité.

La quatrième a proposé la création d’une tour de contrôle. Comme dans l’aviation, l’automatisation ne signifie pas l’absence de surveillance. Les agents d’IA appelés à circuler entre les données, les administrations, les entreprises et les infrastructures doivent pouvoir être observés, contrôlés et arrêtés.

La cinquième tribune a été consacrée à la supervision humaine. Celle-ci ne peut pas se réduire à la présence symbolique d’une personne chargée de valider automatiquement ce que recommande la machine. Le superviseur doit comprendre la situation, disposer des informations nécessaires et conserver le pouvoir réel de refuser ou d’interrompre une décision.

La sixième a rappelé les conditions matérielles de l’intelligence artificielle. Les systèmes d’IA dépendent de centres de données, de capacités de calcul, d’électricité, d’eau, de réseaux, de solutions cloud et d’infrastructures de cybersécurité.

La gouvernance de l’IA doit donc également intégrer ses dépendances industrielles, environnementales et territoriales.

La septième et dernière tribune publiée à ce jour a porté sur la décision publique automatisée, notamment dans l’attribution des aides et l’accès aux services. Elle a montré qu’un seuil, une donnée erronée ou un indicateur mal interprété peut exclure une personne sans que celle-ci comprenne la décision.

Lorsqu’une IA intervient dans une décision publique, le citoyen doit toujours pouvoir connaître les raisons de cette décision, la contester et demander son réexamen par un être humain.

Ces sept tribunes ne constituent pas l’aboutissement d’AI LIGHT. Elles en forment les premières fondations. D’autres suivront afin de continuer à expliquer, préciser et mettre à l’épreuve cette voie que je propose pour le Maroc.

Il considère généralement qu’il ne faut pas créer de nouvelles règles lorsque le droit existant permet déjà de traiter les dommages éventuels.

Cette approche favorise l’innovation, mais elle peut conduire à intervenir trop tard, lorsque les dommages sont déjà survenus, que les données ont été exploitées ou qu’une décision automatisée a affecté des milliers de personnes.

Le modèle européen repose sur une logique différente. Il classe les systèmes selon leur niveau de risque et impose des obligations renforcées pour les usages les plus sensibles. Cette démarche protège davantage les citoyens, mais elle peut aussi produire un cadre réglementaire complexe, coûteux et difficile à appliquer pour de petites organisations.

Le Maroc n’est obligé de choisir intégralement ni Washington ni Bruxelles. Il doit naturellement préserver sa compatibilité avec l’Union européenne, notamment lorsque ses entreprises travaillent avec le marché européen. Mais cette compatibilité ne doit pas devenir une copie systématique d’un modèle conçu dans un autre contexte économique, institutionnel et technologique.

Le Maroc ne doit pas davantage adopter une logique de laisser-faire qui subordonnerait la protection des citoyens à la seule promesse d’attirer des investissements.

AI LIGHT propose de partir des réalités marocaines. Dans cette voie, le niveau de contrôle ne dépend pas seulement de la sophistication de la technologie. Il dépend surtout des conséquences possibles de son utilisation.

Une IA employée pour traduire un texte, accompagner un visiteur dans un musée ou aider une petite entreprise à organiser ses documents ne doit pas être soumise aux mêmes exigences qu’un système utilisé pour recruter, accorder un crédit, diagnostiquer une maladie, attribuer une aide sociale ou surveiller une population.

Le feu vert concerne les usages à faible risque pour lesquels l’expérimentation doit être facilitée. Le feu orange concerne les systèmes capables d’influencer une décision importante.

Ils doivent être évalués, documentés, surveillés et placés sous une supervision humaine réelle. Le feu rouge concerne les usages susceptibles de porter atteinte aux droits fondamentaux, à la dignité, à la sécurité ou à l’égalité entre les citoyens.

Certains doivent être strictement autorisés et contrôlés. D’autres doivent être interdits. Cette régulation proportionnée permet de protéger sans immobiliser et d’innover sans abandonner toute responsabilité.

AI LIGHT doit prendre en considération les particularités du Maroc : ses langues, ses territoires, les différences d’accès au numérique, la transformation de son administration, la diversité de ses entreprises, ses ressources matérielles et son ambition africaine.

Un système performant dans une grande métropole peut se révéler inadapté dans un territoire rural. Un modèle entraîné principalement dans une langue peut mal interpréter une demande exprimée en arabe, en darija, en amazigh ou en français.

Une décision statistiquement cohérente peut devenir humainement injuste lorsqu’elle ignore les réalités familiales, sociales ou territoriales.

La voie marocaine ne peut donc pas être uniquement juridique. Elle doit être technologique, institutionnelle, sociale, éducative, culturelle et territoriale. Elle doit également affirmer une souveraineté concrète.

Le Maroc doit savoir où se trouvent ses données, de quelles infrastructures ses services dépendent, qui peut accéder à ses systèmes, comment ceux-ci peuvent être audités et dans quelles conditions ils peuvent être arrêtés.

Il propose une méthode : éclairer avant d’autoriser, définir les responsabilités avant de déléguer, superviser pendant l’exécution et conserver à tout moment la capacité humaine d’intervenir. Après les sept premières tribunes déjà publiées, les prochaines contributions poursuivront cette construction.

Elles permettront d’approfondir les instruments de contrôle, les critères d’évaluation, les responsabilités institutionnelles, les conditions de certification et les modalités d’application d’AI LIGHT dans les secteurs publics et privés.

La voie marocaine n’a pas à être une position intermédiaire et hésitante entre les États-Unis et l’Europe.

Elle peut devenir un véritable modèle fondé sur nos priorités, nos contraintes et nos ambitions.

La tribune de L’ODJ appelle à inventer cette voie. Je propose de considérer AI LIGHT comme son point de départ : une gouvernance marocaine de l’intelligence artificielle qui ne choisit ni de laisser courir la technologie ni de l’enfermer dans la bureaucratie, mais de la placer sous la lumière, sous contrôle et au service de l’humain.