L’IA médicale prend des formes multiples : tri de patients, analyse d’imagerie, prédiction de rechutes, diagnostic automatisé… Pourtant, dans la majorité des cas, le fonctionnement interne de ces systèmes reste opaque – ce que les spécialistes appellent la « boîte noire ».

Comment faire confiance à un algorithme qui ne peut pas justifier ses décisions ? Et surtout, à qui imputer la responsabilité en cas d’erreur ? Le médecin ? L’éditeur de logiciel ? L’État ?

Au Maroc comme ailleurs, les dispositifs d’IA ne sont pas encore clairement encadrés dans la réglementation sanitaire. Les textes existants régissent les dispositifs médicaux, mais pas les systèmes auto-apprenants évolutifs. Or, un algorithme qui se modifie au fil des données peut produire des résultats très différents d’un jour à l’autre.

À ce jour, aucun cadre légal ne définit clairement les critères de validation clinique, de certification, ou d’auditabilité des IA médicales. Une zone grise où le droit tarde à suivre l’innovation.

Au-delà du droit, c’est l’éthique qui est en jeu. Qui décide des données utilisées ? Quels biais culturels ou genrés ces algorithmes peuvent-ils reproduire ? Comment garantir la non-discrimination ? Le risque de renforcer les inégalités est réel, si les données d’entraînement ne représentent pas la diversité des patients.

L’IA doit donc être conçue de manière inclusive et responsable. Et cela passe par des comités éthiques mixtes, associant développeurs, médecins, patients et autorités.

Le grand défi reste celui de l’équilibre. Trop de régulation freine l’innovation. Trop peu, et les abus se multiplient. Lors de la conférence de Kais Hammami (ICESCO), un message fort a été lancé : « Il faut réguler l’intention, pas uniquement la technologie. »

Cela signifie évaluer les usages, former les soignants à l’esprit critique numérique, responsabiliser les industriels. En d’autres termes, passer d’une régulation post-facto à une éthique by design.

H3 : Le Maroc peut-il montrer l’exemple ?
Certains experts marocains plaident pour la création d’une Agence nationale de l’éthique en santé numérique, capable d’évaluer les algorithmes de santé, de publier des lignes directrices et de soutenir les chercheurs locaux. Une manière de ne pas simplement importer des IA venues d’ailleurs, mais de construire un modèle régulatoire adapté au contexte marocain.

L’enjeu est immense : il s’agit non seulement de gérer la technologie, mais de protéger le lien de confiance entre patient et médecin à l’ère de l’IA.

FOCUS PRATIQUE : Ce que pourrait contenir une charte éthique de l’IA médicale
Transparence : explicabilité des algorithmes utilisés
Responsabilité : traçabilité des décisions automatisées
Équité : vigilance sur les biais sexistes, raciaux ou sociaux
Consentement : clarté sur les données utilisées
Auditabilité : évaluation régulière des performances IA

IA médicale, éthique, régulation, responsabilité, Maroc, santé numérique, algorithmes, médecine, biais, droit de la santé