Une technologie qui transforme déjà la recherche médicale
L’intelligence artificielle n’est plus seulement présentée comme une technologie du futur dans le domaine de la santé. Elle est déjà utilisée pour analyser des données médicales, produire de nouvelles connaissances et contribuer au développement ou à l’évaluation de technologies de santé.
Cette progression ouvre des perspectives importantes pour la recherche. Mais elle pose également une question devenue difficile à éviter : les règles éthiques qui encadrent actuellement la recherche médicale sont-elles suffisamment adaptées à l’IA ?
Dans un nouveau rapport consacré à cette question, l’Organisation mondiale de la santé (OMS) estime que les mécanismes de surveillance existants pourraient ne pas toujours permettre de répondre aux risques spécifiques liés à ces technologies.
Cette progression ouvre des perspectives importantes pour la recherche. Mais elle pose également une question devenue difficile à éviter : les règles éthiques qui encadrent actuellement la recherche médicale sont-elles suffisamment adaptées à l’IA ?
Dans un nouveau rapport consacré à cette question, l’Organisation mondiale de la santé (OMS) estime que les mécanismes de surveillance existants pourraient ne pas toujours permettre de répondre aux risques spécifiques liés à ces technologies.
Des risques différents de ceux de la recherche traditionnelle
L’un des problèmes identifiés par l’OMS concerne la nature même des systèmes d’intelligence artificielle. Leur fonctionnement peut être complexe et parfois difficile à comprendre, y compris lorsqu’ils sont utilisés dans des travaux scientifiques.
L’organisation attire notamment l’attention sur plusieurs enjeux : les biais, l’équité, la transparence, la responsabilité, la protection de la vie privée et les éventuels dommages liés au déploiement rapide d’outils utilisant l’IA.
Ces questions ne concernent donc pas uniquement le résultat final d’une recherche. Elles peuvent intervenir dès la conception d’une étude, lors de la collecte et de l’utilisation des données, mais aussi au moment de la publication ou de la mise en pratique des résultats.
L’organisation attire notamment l’attention sur plusieurs enjeux : les biais, l’équité, la transparence, la responsabilité, la protection de la vie privée et les éventuels dommages liés au déploiement rapide d’outils utilisant l’IA.
Ces questions ne concernent donc pas uniquement le résultat final d’une recherche. Elles peuvent intervenir dès la conception d’une étude, lors de la collecte et de l’utilisation des données, mais aussi au moment de la publication ou de la mise en pratique des résultats.
Trois grandes formes de recherche utilisant l’IA
Le rapport de l’OMS distingue trois grandes catégories de recherches liées à l’intelligence artificielle.
La première concerne les recherches en santé qui utilisent l’IA pour analyser des données.
La deuxième porte sur les recherches réalisées avec des outils et technologies d’intelligence artificielle.
La troisième étudie directement les outils d’IA utilisés dans le domaine de la santé.
Cette distinction est importante, car les risques éthiques ne sont pas nécessairement les mêmes selon la manière dont la technologie intervient dans le processus scientifique.
Une IA utilisée pour analyser un vaste ensemble de données médicales ne soulève ainsi pas exactement les mêmes questions qu’un outil destiné à être utilisé directement dans le parcours de soins.
La première concerne les recherches en santé qui utilisent l’IA pour analyser des données.
La deuxième porte sur les recherches réalisées avec des outils et technologies d’intelligence artificielle.
La troisième étudie directement les outils d’IA utilisés dans le domaine de la santé.
Cette distinction est importante, car les risques éthiques ne sont pas nécessairement les mêmes selon la manière dont la technologie intervient dans le processus scientifique.
Une IA utilisée pour analyser un vaste ensemble de données médicales ne soulève ainsi pas exactement les mêmes questions qu’un outil destiné à être utilisé directement dans le parcours de soins.
Les comités d’éthique face à un nouveau défi
Pour l’OMS, les comités chargés d’évaluer l’éthique des recherches médicales doivent continuer à jouer un rôle central dans la protection des participants.
Mais ils pourraient avoir besoin de nouvelles compétences, de formations supplémentaires et de davantage de ressources pour examiner des projets intégrant des technologies d’IA de plus en plus complexes.
L’organisation insiste également sur la responsabilité des chercheurs eux-mêmes. Les risques éthiques devraient être identifiés le plus tôt possible, tandis que les méthodes utilisées et les limites des systèmes doivent être communiquées de manière suffisamment transparente.
Mais ils pourraient avoir besoin de nouvelles compétences, de formations supplémentaires et de davantage de ressources pour examiner des projets intégrant des technologies d’IA de plus en plus complexes.
L’organisation insiste également sur la responsabilité des chercheurs eux-mêmes. Les risques éthiques devraient être identifiés le plus tôt possible, tandis que les méthodes utilisées et les limites des systèmes doivent être communiquées de manière suffisamment transparente.
Le risque d'une nouvelle fracture entre les pays
L’OMS souligne aussi une dimension moins souvent évoquée dans les débats sur l’intelligence artificielle : les inégalités entre les pays. Une grande partie de la recherche et du développement actuels dans le domaine de l’IA reste concentrée dans les pays à revenus élevés.
Or, les pays à revenus faibles ou intermédiaires pourraient bénéficier de ces technologies pour répondre à certains problèmes de santé, à condition de pouvoir participer eux-mêmes à leur développement et à leur gouvernance.
L’OMS met ainsi en garde contre le risque de reproduire, avec l’intelligence artificielle, certaines inégalités déjà présentes dans la recherche mondiale.
Le rapport évoque notamment les questions de partage des bénéfices, de déséquilibre des pouvoirs, de renforcement des capacités locales et de gouvernance des données.
Or, les pays à revenus faibles ou intermédiaires pourraient bénéficier de ces technologies pour répondre à certains problèmes de santé, à condition de pouvoir participer eux-mêmes à leur développement et à leur gouvernance.
L’OMS met ainsi en garde contre le risque de reproduire, avec l’intelligence artificielle, certaines inégalités déjà présentes dans la recherche mondiale.
Le rapport évoque notamment les questions de partage des bénéfices, de déséquilibre des pouvoirs, de renforcement des capacités locales et de gouvernance des données.
L’IA peut progresser sans échapper au contrôle humain
Pour l’OMS, l’objectif n’est pas de freiner la recherche utilisant l’intelligence artificielle. Au contraire, l’organisation reconnaît son potentiel pour accélérer la découverte scientifique et contribuer à améliorer les systèmes de santé.
L’enjeu consiste plutôt à faire évoluer les mécanismes de contrôle au même rythme que la technologie. Car une innovation médicale ne se mesure pas uniquement à ce qu’elle permet de réaliser.
Elle doit aussi pouvoir être utilisée dans un cadre qui protège les personnes concernées, limite les inégalités et permet de comprendre qui est responsable lorsque quelque chose ne fonctionne pas comme prévu.
À mesure que l’IA prend une place plus importante dans la recherche médicale, la question ne sera donc plus seulement de savoir jusqu’où elle peut aller, mais dans quelles conditions elle doit être autorisée à le faire.
L’enjeu consiste plutôt à faire évoluer les mécanismes de contrôle au même rythme que la technologie. Car une innovation médicale ne se mesure pas uniquement à ce qu’elle permet de réaliser.
Elle doit aussi pouvoir être utilisée dans un cadre qui protège les personnes concernées, limite les inégalités et permet de comprendre qui est responsable lorsque quelque chose ne fonctionne pas comme prévu.
À mesure que l’IA prend une place plus importante dans la recherche médicale, la question ne sera donc plus seulement de savoir jusqu’où elle peut aller, mais dans quelles conditions elle doit être autorisée à le faire.
