Le Lancet alerte sur les détournements de l’IA : pourquoi le contrôle humain reste central en imagerie médicale

Le mot « IA » peut désigner un outil d’aide au travail médical comme une technologie détournée pour nuire. Les confondre rendrait l’alerte moins utile. Présentée le 11 octobre 2026 au World Health Summit de Berlin, la Commission du Lancet sur les menaces sanitaires du siècle retient 17 dangers majeurs. Parmi eux, elle distingue l’usage malveillant de l’intelligence artificielle, notamment pour développer des armes biologiques, comme un risque au potentiel extrême. Ce n’est pas un verdict sur tout logiciel utilisé en médecine. [1, 2]

Pour le lecteur d’un média consacré à l’imagerie, la question mérite mieux qu’un choix entre enthousiasme et rejet : qu’attend-on précisément d’un outil, qui en contrôle les résultats et qui répond de ses conséquences ? C’est sur ce terrain que la confiance peut se construire. Le nom d’une technologie, à lui seul, n’indique ni son utilité ni sa sûreté.

Une alerte sur les détournements, pas une prédiction sur les examens

La Commission examine les menaces pour la santé à l’horizon 2100. Pour le détournement malveillant de l’IA, comme pour un conflit nucléaire accompagné de famine, son résumé exécutif décrit une évaluation reposant sur des méthodes qualitatives structurées lorsque les données manquent. Dans son entretien à L’Express, Hechmi Louzir, membre de la Commission, explique pourquoi : aucun événement planétaire comparable ne fournit l’historique nécessaire aux modèles utilisés pour des risques anciens, comme le tabac. Les estimations sont donc plus exploratoires. [1, 3]

Cette différence compte. Un scénario sert à examiner ce que l’action collective pourrait changer, pas à annoncer ce qui arrivera. La Commission ne propose pas non plus un classement fixe des priorités. Ramener son message à « l’IA menace la santé » effacerait à la fois la nature du danger identifié et les possibilités d’action.

Louzir souligne d’ailleurs l’autre versant : les capacités de l’IA pourraient soutenir la recherche de vaccins, d’antibiotiques ou de solutions climatiques. Il associe ces perspectives à une gouvernance solide. Ces opportunités de recherche ne constituent pas une mesure d’efficacité d’un logiciel d’imagerie donné. Elles montrent surtout pourquoi empêcher les détournements et évaluer les usages utiles sont deux tâches complémentaires. [3]

En imagerie, la bonne unité de discussion est l’usage précis

Dire qu’un système « utilise l’IA » apprend peu de chose au patient. Est-il destiné à aider une tâche définie ? Quelles informations fournit-il au professionnel ? Dans quelles situations ses performances ont-elles été étudiées ? Ces questions sont moins spectaculaires qu’une promesse de révolution, mais elles permettent de parler d’un outil réel plutôt que d’une étiquette.

L’Organisation mondiale de la santé avait posé ce cadre dès le 28 juin 2021, dans le communiqué accompagnant son rapport sur l’éthique et la gouvernance de l’IA en santé. Elle demandait que sécurité, précision et efficacité répondent aux exigences réglementaires pour des usages ou indications bien définis. Elle insistait aussi sur le contrôle de qualité en pratique. Ce texte est un repère antérieur à l’alerte de 2026, pas une nouvelle recommandation publiée à sa suite. [4]

Le raisonnement est simple : un résultat obtenu pour une tâche ne vaut pas autorisation intellectuelle de tout lui confier. Pour juger une promesse en imagerie, il faut pouvoir relier le bénéfice annoncé à l’examen, à la population et au rôle effectivement étudiés. L’OMS avertit notamment que des systèmes entraînés surtout avec des données de pays à hauts revenus peuvent moins bien fonctionner dans d’autres contextes. La diversité des données concerne donc la fiabilité autant que l’équité. [4]

Le contrôle humain doit permettre de comprendre et de contester

« Un humain reste dans la boucle » est une formule rassurante, mais insuffisante si l’on ignore ce qu’il peut faire. Le principe d’autonomie de l’OMS demande que les humains gardent la maîtrise des systèmes de soins et des décisions médicales. Son principe de responsabilité ajoute que les outils doivent être employés dans des conditions appropriées, par des personnes formées. [4]

Autrement dit, la supervision a besoin de moyens : comprendre la fonction de l’outil, connaître ses limites et disposer d’une organisation pour traiter un désaccord ou un problème. La responsabilité ne devrait pas disparaître derrière un résultat informatique. L’OMS prévoit aussi des mécanismes permettant aux personnes affectées par une décision fondée sur un algorithme de la questionner et d’obtenir réparation. Ce droit de contestation donne un contenu concret à la transparence.

Les données du patient font partie du sujet médical

L’autre question utile n’est pas seulement « que sait faire l’outil ? », mais « que deviennent les informations qui l’alimentent ? ». L’OMS relève les risques de collecte et d’utilisation contraires à l’éthique, les biais des algorithmes et les enjeux de cybersécurité. Elle associe le contrôle humain au respect de la vie privée, de la confidentialité et d’un consentement éclairé valide dans les cadres juridiques appropriés. [4]

Pour rendre la discussion concrète, trois demandes d’explication peuvent structurer un échange sur un usage médical de l’IA :

• Sa fonction : quelle tâche précise lui est confiée et quelles limites sont connues ?
• La décision : quel professionnel utilise son résultat, et comment un problème peut-il être signalé ou une décision questionnée ?
• Les données : quelles informations sont utilisées, pour quelle finalité et avec quelles protections ?

Ces réponses doivent aussi pouvoir évoluer après la mise en service. Dans ses principes de 2021, l’OMS demande une évaluation continue et transparente des applications pendant leur utilisation réelle, pour vérifier qu’elles répondent aux attentes et aux exigences. L’évaluation ne s’arrête donc pas au choix initial d’un logiciel : la formation des équipes et le suivi de la qualité en pratique font partie du même travail. [4]