L’intelligence artificielle agentique change la nature du problème réglementaire. Un logiciel classique suit un ensemble de règles définies à l’avance. Un agent avancé peut recevoir un objectif, décomposer une mission, choisir des outils, consulter des bases de données et solliciter d’autres agents.

   

La décision finale résulte alors d’une succession d’actions dont aucun intervenant humain n’a nécessairement validé chaque étape. Lors du Dialogue mondial sur la gouvernance de l’IA à Genève, le Maroc a soutenu qu’une telle autonomie opérationnelle ne devait pas créer un vide juridique. Trois obligations ont été mises en avant.

   

La première consiste à documenter les chaînes d’agents : identifier les composants, leurs fonctions, les données mobilisées et l’ordre des interventions. La deuxième impose qu’un responsable humain clairement identifiable demeure associé à toute décision susceptible d’affecter les droits d’une personne. La troisième prévoit un recours effectif dans un délai compatible avec la rapidité des systèmes.

   

Ces principes répondent à des situations très concrètes. Si une administration refuse une prestation, si une banque bloque une opération ou si un recruteur écarte une candidature sur la base d’un système automatisé, la personne concernée doit pouvoir obtenir une explication et contester le résultat. La simple affirmation selon laquelle « l’algorithme a décidé » ne peut constituer une réponse.

   

La traçabilité implique cependant un effort technique et organisationnel important. Les modèles évoluent, les données changent et certaines sorties restent probabilistes.

   

Il faut donc conserver des journaux d’activité, tester les comportements, documenter les versions et prévoir des seuils au-delà desquels une validation humaine devient obligatoire. Sans ces éléments, l’audit après incident risque d’être impossible.

Pour le Maroc, cette doctrine peut devenir un avantage si elle guide dès maintenant les projets d’IA publics et privés. L’administration expérimente des outils d’assistance, d’analyse et de contrôle ; les entreprises adoptent des solutions de relation client, de scoring ou de productivité. Dans ces usages, le risque n’est pas seulement une réponse erronée.

   

Il peut s’agir d’une discrimination, d’une atteinte à la vie privée, d’un refus injustifié ou d’une action exécutée sans autorisation suffisante. Une gouvernance crédible doit classer les systèmes selon leur niveau de risque et imposer des exigences proportionnées. Un assistant interne qui résume des documents ne présente pas les mêmes conséquences qu’un agent capable de modifier un dossier administratif ou de déclencher un paiement.

   

La responsabilité humaine ne doit pas être purement nominale. Désigner un responsable qui ne comprend pas le système et n’a aucun pouvoir d’arrêt ne protège personne. Il faut des compétences, des procédures d’escalade et une capacité réelle à suspendre l’outil.

   

Le droit au recours exige aussi un interlocuteur accessible, des délais précis et une explication formulée dans une langue compréhensible. Les marchés publics pourraient intégrer ces obligations dans leurs cahiers des charges : documentation, tests de biais, localisation des données, audit indépendant, réversibilité et notification des incidents. Les entreprises marocaines qui s’y préparent pourront transformer la conformité en argument de confiance, notamment sur les marchés africains et européens.

   

Reste un équilibre à trouver. Des règles floues peuvent freiner l’investissement sans mieux protéger le citoyen ; l’absence de règles transfère le risque vers les personnes les moins capables de se défendre.

   

La ligne défendue à Genève donne une direction : l’autonomie de la machine s’arrête là où commence l’imputabilité. Sa crédibilité dépendra désormais des mécanismes concrets adoptés au Royaume.