Un outil utile ne devient pas automatiquement un outil sûr
Selon l'évaluation présentée par l'OMS Europe, près des deux tiers des pays de la région utilisent déjà l'IA dans le diagnostic, mais seuls 8 % disposent d'une stratégie spécifique à la santé et 8 % de règles de responsabilité en cas de défaillance. L'IA peut aider à lire des images, trier des dossiers ou repérer des risques, mais elle peut aussi reproduire les biais de ses données d'entraînement. Un système performant sur une population européenne ou nord-américaine n'est pas nécessairement aussi fiable pour des patients marocains. La validation locale, la qualité des données et la supervision humaine sont donc essentielles.
Le chatbot ne doit pas devenir un médecin invisible
Les patients utilisent déjà des outils génératifs pour interpréter leurs symptômes. Ces réponses peuvent contenir des erreurs, minimiser une urgence ou proposer une explication trop rassurante. Elles ne doivent ni poser un diagnostic ni orienter une automédication. Le Maroc a intérêt à définir qui contrôle les outils, comment les données sont protégées, qui répond d'une erreur et comment un patient peut contester une décision assistée par algorithme. L'objectif n'est pas de bloquer l'innovation, mais de lui imposer les mêmes exigences de preuve, d'équité et de responsabilité que toute intervention de santé. Source : OMS Europe.