Pourquoi la défiance coûte plus cher que les erreurs » en présente clairement les principaux enseignements.

Les chiffres sont éloquents : 79 % des organisations interrogées modifient ou annulent les recommandations produites par l’IA dans plus de 10 % des cas. Près d’une organisation sur trois intervient même dans plus de 30 % des décisions.

La première cause de cette intervention humaine n’est pas l’inexactitude factuelle, citée par 14,8 % des répondants.

C’est l’absence d’explication, mentionnée dans 34,5 % des cas. Vient ensuite la mauvaise prise en compte du contexte, avec 25,6 %.

Autrement dit, une intelligence artificielle peut fournir une réponse apparemment correcte sans que l’organisation soit en mesure de l’utiliser.

Si le salarié ne comprend pas pourquoi un crédit a été refusé, pourquoi une opération a été signalée comme suspecte, pourquoi une prime d’assurance a été augmentée ou pourquoi une personne a été déclarée inéligible à une prestation, il est légitime qu’il hésite avant d’agir.

L’étude montre également que la confiance diminue lorsque l’IA passe de la recommandation à l’action.

Elle atteint 76 % pour l’IA générative, mais tombe à 66 % pour l’IA agentique, c’est-à-dire lorsque des agents IA deviennent capables d’enchaîner des tâches et d’accomplir certaines actions avec une intervention humaine limitée.

Mais ils appellent également une question qui n’est pratiquement jamais posée : quels sont les 28 pays étudiés ?

Le rapport « Data and AI Impact Report: The New Economics of Trust », publié en septembre 2026 par SAS avec des résultats de recherche soutenus par IDC, précise que l’enquête a porté sur cinq régions et quatre secteurs principaux : la banque, l’assurance, les sciences de la vie et le secteur public.

Cependant, le document public ne fournit ni la liste complète des pays ni le nombre de répondants par pays.

Le Maroc en fait-il partie ? Combien de décideurs africains ont été interrogés ? Quelles entreprises représentent-ils ? Quelle est la place des petites et moyennes entreprises dans chaque échantillon national ? Les réponses à ces questions ne figurent pas dans le rapport rendu public.

Après vérification, aucune mention explicite du Maroc n’apparaît dans le document. Cela ne prouve pas formellement qu’aucun responsable marocain n’a été interrogé. Cela signifie simplement que nous ne disposons d’aucun élément public permettant de l’affirmer.

Cette absence est importante. Une étude internationale publiée et commentée au Maroc ne devient pas automatiquement une étude sur le Maroc.

Les résultats produits aux États-Unis, en Europe, en Asie, au Moyen-Orient ou dans quelques économies africaines peuvent nourrir notre réflexion. Ils ne peuvent cependant pas être transposés mécaniquement à nos entreprises, à nos administrations et à nos établissements publics.

La confiance dans l’intelligence artificielle dépend de la qualité des données, de la maturité des systèmes d’information, des compétences disponibles, des pratiques managériales, de la réglementation et de la capacité de chaque organisation à identifier un responsable humain.

Elle dépend également de la souveraineté numérique, de la localisation des infrastructures, des langues utilisées et de la possibilité offerte à une personne de comprendre et de contester une décision.

Au Maroc, il faudrait notamment étudier l’état réel des données dans les administrations et les entreprises, le degré d’intégration des systèmes d’information, la dépendance envers les plateformes étrangères, la protection des données personnelles et la capacité à traiter correctement l’arabe, l’amazigh et les usages linguistiques marocains.

Il faudrait aussi savoir ce que les responsables marocains entendent précisément par « utilisation de l’IA ».

S’agit-il d’utiliser ponctuellement un outil conversationnel ? D’intégrer un modèle dans un processus métier ? De confier une recommandation à un algorithme ? Ou de permettre à un agent IA d’accéder à des données, d’interagir avec plusieurs applications et d’accomplir des actions ?

Mettre toutes ces situations sous une même appellation produit nécessairement des chiffres difficiles à interpréter.

L’étude SAS–IDC confirme néanmoins un principe que je défends à travers mon concept AI LIGHT : la confiance dans l’intelligence artificielle ne doit être ni aveugle ni improvisée. Elle doit être gouvernée.

Un agent IA agit dans les limites des programmes, des données, des autorisations, des ressources et des environnements techniques mis à sa disposition. Son autonomie n’est donc jamais une liberté comparable à celle d’un être humain.

Elle constitue une capacité d’action déléguée par une organisation.

Il faut également désigner la personne responsable, conserver la trace des opérations, fixer des seuils d’alerte, organiser les contrôles et prévoir des mécanismes d’arrêt et de recours.

La supervision humaine ne doit pas consister à placer un salarié derrière chaque réponse produite par l’IA. Elle doit être intégrée à une véritable architecture de gouvernance.

Sans cette organisation, l’entreprise paie deux fois : elle finance l’outil, puis mobilise ses collaborateurs pour refaire le travail de la machine.

Mais supprimer les vérifications humaines au nom de la productivité serait tout aussi dangereux. Dans le crédit, l’assurance, la santé, le recrutement ou l’attribution d’une aide publique, la prudence humaine reste indispensable. Le véritable problème n’est donc pas la défiance. C’est une défiance non organisée, sans règles, sans seuils et sans responsabilités clairement définies.

Le Maroc a aujourd’hui besoin de produire ses propres connaissances sur ces questions. Pourquoi ne pas créer un baromètre marocain annuel de la confiance et de la gouvernance de l’IA ?

Cette enquête pourrait associer les administrations, les collectivités territoriales, les banques, les assurances, les établissements de santé, les universités, les grandes entreprises et les PME.

Elle devrait interroger les dirigeants généraux, mais également les responsables métiers, informatiques, juridiques, des ressources humaines et de la protection des données.

Elle permettrait de mesurer non seulement l’adoption déclarée de l’IA, mais aussi la qualité des données, les usages effectivement déployés, les mécanismes de supervision, les responsabilités établies et les résultats réellement obtenus.

Le rapport SAS–IDC nous apprend que la défiance peut réduire la valeur produite par l’IA. Il nous enseigne aussi, peut-être involontairement, qu’une étude consacrée à la confiance devrait elle-même être transparente sur son échantillon géographique.

Le Maroc ne doit pas seulement importer des technologies, des modèles de gouvernance et des statistiques internationales.

Il doit observer sa propre réalité, produire ses propres données et définir ses propres mécanismes de contrôle.

La confiance ne se décrète pas. Elle se documente, se vérifie, se pilote et se gouverne. C’est précisément l’ambition d’AI LIGHT.