Un professionnel examine un dossier, consulte une recommandation algorithmique, puis valide la décision. Sur le papier, la procédure paraît rassurante. Mais comment ce professionnel peut-il détecter une baisse progressive de la fiabilité de l’outil, surtout lorsque chaque erreur ressemble à un cas difficile parmi d’autres ?
Cette question devient concrète dès qu’une organisation confie à une IA une partie du tri, du diagnostic ou de l’analyse. Une recommandation douteuse peut être corrigée individuellement. Une succession de recommandations dégradées appelle une autre réponse, qui peut aller jusqu’à la suspension du système.
Une expérience sur l’auscultation cardiaque
L’équipe de Nadine Schlicker a étudié 48 participants germanophones, dont 18 étudiants en dernière année de médecine. Ils devaient classer des enregistrements d’auscultation cardiaque. La fiabilité de l’assistance diminuait par étapes, de 90 % à 0 %. Un groupe recevait la recommandation avant de répondre. L’autre formulait d’abord son propre jugement.
Entre le premier et le dernier bloc, la précision des décisions assistées est passée de 81,45 % à 58,33 %. Le jugement préalable n’a pas globalement amélioré la performance. La confiance des participants dans leur propre appréciation diminuait plus rapidement que leur confiance dans l’IA. L’expérience reste limitée par son effectif, sa durée et la dégradation artificiellement provoquée. Le dernier bloc introduisait aussi une désynchronisation audiovisuelle.
Définir ce que le superviseur doit pouvoir faire
Pour un établissement qui prépare un déploiement, une question opérationnelle mérite donc d’être posée avant l’achat. Qu’attend-on exactement de la personne chargée de superviser l’outil ? Vérifier chaque réponse, repérer les anomalies répétées, signaler une évolution inhabituelle ou décider d’un arrêt ?
Ces missions demandent des ressources différentes. Un utilisateur peut avoir accès au dossier individuel sans disposer d’une vue sur les résultats du service. Un responsable qualité peut suivre des taux d’erreur sans connaître les difficultés rencontrées au moment de la décision. Une procédure cohérente pourrait organiser la circulation de ces deux formes d’information.
Prenons un service qui utilise une IA pour classer des demandes. Si les agents signalent chacun une anomalie sans que leurs observations soient rapprochées, personne ne dispose nécessairement des éléments pour identifier une défaillance générale. Un relevé partagé des désaccords permettrait au responsable d’examiner si les erreurs se concentrent sur certains dossiers.
Une piste d’expérimentation pour l’A2I
L’Alliance des Deux Intelligences pourrait tester plusieurs procédures sur une série de cas vérifiables. Une première équipe travaillerait avec une validation habituelle. Une seconde disposerait d’un tableau des désaccords récents et d’une possibilité explicite de suspendre l’assistance.
Le test mesurerait le délai nécessaire pour repérer une dégradation, les erreurs commises avant l’alerte et le nombre d’arrêts injustifiés. Pour les projets marocains de décision assistée, ce type d’essai aiderait à dimensionner la supervision avant la généralisation.
Le responsable du dispositif aurait alors un résultat à examiner avant de signer le déploiement. Combien de dossiers dégradés la procédure laisse-t-elle passer avant que quelqu’un puisse intervenir ?
Source primaire
Schlicker et ses coauteurs, npj Digital Medicine, 13 novembre 2026
Cette question devient concrète dès qu’une organisation confie à une IA une partie du tri, du diagnostic ou de l’analyse. Une recommandation douteuse peut être corrigée individuellement. Une succession de recommandations dégradées appelle une autre réponse, qui peut aller jusqu’à la suspension du système.
Une expérience sur l’auscultation cardiaque
L’équipe de Nadine Schlicker a étudié 48 participants germanophones, dont 18 étudiants en dernière année de médecine. Ils devaient classer des enregistrements d’auscultation cardiaque. La fiabilité de l’assistance diminuait par étapes, de 90 % à 0 %. Un groupe recevait la recommandation avant de répondre. L’autre formulait d’abord son propre jugement.
Entre le premier et le dernier bloc, la précision des décisions assistées est passée de 81,45 % à 58,33 %. Le jugement préalable n’a pas globalement amélioré la performance. La confiance des participants dans leur propre appréciation diminuait plus rapidement que leur confiance dans l’IA. L’expérience reste limitée par son effectif, sa durée et la dégradation artificiellement provoquée. Le dernier bloc introduisait aussi une désynchronisation audiovisuelle.
Définir ce que le superviseur doit pouvoir faire
Pour un établissement qui prépare un déploiement, une question opérationnelle mérite donc d’être posée avant l’achat. Qu’attend-on exactement de la personne chargée de superviser l’outil ? Vérifier chaque réponse, repérer les anomalies répétées, signaler une évolution inhabituelle ou décider d’un arrêt ?
Ces missions demandent des ressources différentes. Un utilisateur peut avoir accès au dossier individuel sans disposer d’une vue sur les résultats du service. Un responsable qualité peut suivre des taux d’erreur sans connaître les difficultés rencontrées au moment de la décision. Une procédure cohérente pourrait organiser la circulation de ces deux formes d’information.
Prenons un service qui utilise une IA pour classer des demandes. Si les agents signalent chacun une anomalie sans que leurs observations soient rapprochées, personne ne dispose nécessairement des éléments pour identifier une défaillance générale. Un relevé partagé des désaccords permettrait au responsable d’examiner si les erreurs se concentrent sur certains dossiers.
Une piste d’expérimentation pour l’A2I
L’Alliance des Deux Intelligences pourrait tester plusieurs procédures sur une série de cas vérifiables. Une première équipe travaillerait avec une validation habituelle. Une seconde disposerait d’un tableau des désaccords récents et d’une possibilité explicite de suspendre l’assistance.
Le test mesurerait le délai nécessaire pour repérer une dégradation, les erreurs commises avant l’alerte et le nombre d’arrêts injustifiés. Pour les projets marocains de décision assistée, ce type d’essai aiderait à dimensionner la supervision avant la généralisation.
Le responsable du dispositif aurait alors un résultat à examiner avant de signer le déploiement. Combien de dossiers dégradés la procédure laisse-t-elle passer avant que quelqu’un puisse intervenir ?
Source primaire
Schlicker et ses coauteurs, npj Digital Medicine, 13 novembre 2026