En relisant ces articles (parus notamment dans ces colonnes), il se confirme, s'il en était besoin, que l'on ne peut penser un phénomène que sur la base de référentiels, de cadres conceptuels préexistants. Dans le cas de la pandémie COVID, ces cadres étaient le débat de fond entre libertés individuelles et santé publique, la rationalité économique, et la cohérence interne des décisions. Avec le recul, il est facile d'argumenter qu'aucun de ces cadres n'avait été respecté (c'est peu dire…), mais on peut également argumenter qu'il était possible de poser correctement le débat en temps réel, dès lors que l'on dispose des cadres conceptuels adéquats.
Ainsi, s'agissant de phénomènes historiques, dans la plupart des cas l'analyse est possible en temps réel car les cadres d'analyse existent déjà, les phénomènes historiques en question n'étant habituellement que la répétition d'événements antérieurs. Il existe cependant des contre exemples. Ainsi, les intellectuels se sont trouvés profondément démunis pour penser la Shoah, dans son décours immédiat tout comme avec un recul plus important. Certes, il y eut des précurseurs, tels Léon Poliakov, Hannah Arendt et quelques autres, mais le sujet n'a réellement été approfondi qu'à partir de la n des années 70, et les hypothèses évoquées se sont révélées pour le moins dérangeantes pour notre civilisation occidentale, et à ce titre cause d'une amnésie courtoise de la part de nombre d'intellectuels autoproclamés progressistes.
Mais foin de propos subversifs, venons-en à notre propos, l'intelligence artificielle en général et ses implications en médecine en particulier. Et d'emblée nous sommes confrontés au problème suivant : comment définir une intelligence artificielle ? Nécessairement par opposition à une intelligence naturelle, alors que nous ne savons même pas comment définir cette dernière. On peut évoquer, de manière très générale, de nouveaux types d'algorithmes qui permettent de simuler certaines formes de raisonnement humain, avec un niveau de performance lié au progrès de l'informatique, en d'autres termes de machines. Est-ce suffisant pour parler d'intelligence ? Quand bien même ces machines seraient capables de surpasser l'humain dans certains domaines du raisonnement déterministe, tels que les échecs ou le Go ? Au stade actuel, ces machines restent conçues par des humains…
À défaut de pouvoir définir ce que sont l'intelligence naturelle et l'intelligence artificielle, on peut en observer les effets sur nos sociétés et l'économie mondiale. Il y a par exemple une analogie frappante entre cette intelligence artificielle et le robot chirurgical : il n'est pas démontré que ce soit un progrès, mais du seul fait que les autres y vont, on se sent obligé d'y aller aussi, de peur de rester en arrière du « progrès », et peu importe si on a la moindre idée de la direction que l'on prend... Alors que, si l'on y réfléchit, l'intelligence artificielle ne sera jamais la solution là où l'intelligence naturelle a échoué, quoi qu'en pensent certains (suivez mon regard…).
La question sur le fond n'est pas d'accepter inconditionnellement l'IA, pas plus que de la rejeter en bloc. Finalement la question est moins de comprendre ce qu'elle est, ni même comment elle fonctionne, que de se concentrer sur la vraie question : à quoi ça sert ? Question relevant typiquement de l'intelligence naturelle, n'en déplaise à ceux qui ont tendance à considérer l'IA comme une nouvelle religion.
A n de contribuer – bien modestement – à la réflexion, nous prendrons trois exemples en médecine, illustrant trois aspects différents du sujet : l'imagerie médicale, le codage des pathologies, et la certification des comptes des hôpitaux.
Concernant l'imagerie, et plus précisément les méthodes d'interprétation, la question est la suivante : quelle est la méthode la plus performante s'agissant de proposer un diagnostic sur la base d'une image ? Dans ce cas de figure, notons que ce que produit la méthode, quelle qu'elle soit, est évaluable en regard d'un comparateur : la pathologie qui sera affirmée à terme. La technique est donc évaluable, selon des méthodes d'évaluation probabilistes établies de longue date. Et dans ce cas de figure, les algorithmes d'IA semblent avoir démontré une plus-value non contestable.
En d'autres termes, peu importe comment ça marche du moment que ça marche, paradigme fondamental de la médecine…
La question du codage des pathologies par une machine pose un problème d'une autre nature. Car avant même d'évoquer la mesure de la plus-value de cette méthode se posent deux question techniques redoutables : la qualité de l'information source, et la mécanisation du raisonnement juridique. Rappelons que le codage est, fondamentalement, l'application de règles (classifications et référentiels juridiques) sur la base d'une traçabilité, en d'autres termes de faits médicaux tels que rapportés dans le dossier du patient. Or, cette traçabilité fait appel au langage dit naturel des médecins et autres soignants, dont la normalisation ne semble pas encore totalement acquise (euphémisme). Cela implique de déployer des efforts importants et d'une efficience incertaine pour apprendre à la machine à s'y retrouver dans une matière par essence polymorphe et instable. Au stade actuel, hormis les situations les plus simples (séances), les résultats sont assez peu convaincants. On pourra noter à ce propos qu'il serait peut-être plus productif de consacrer ces mêmes efforts à la normalisation de la traçabilité médicale… L'autre question est la mécanisation de l'expertise juridique. Car le codage, en l'état de la traçabilité médicale, n'est rien d'autre. Une expertise juridique, en l'état de textes multiples, complexes changeants, avec son lot de jurisprudences réelle ou assimilées, de zones grises et d'interprétations parfois cartésiennes. Parfois seulement. Certes, la théorie n'interdit pas que la machine puisse parvenir un jour à une approximation raisonnable, mais gardons à l'esprit les deux points suivants : premièrement, à ce jour, on en est loin. Et deuxièmement, l'approximation ne suffit pas : encore faut-il que les conclusions établies par la machine soient réputées juridiquement recevables. Problème non spécifique à l'information médicale, au demeurant. Dernier point : dès lors que les algorithmes auraient été qualifiés dans leur aptitude à produire statistiquement une information d'une qualité raisonnable, il faut garder à l'esprit qu'il s'agit d'une perspective probabiliste. Cela veut dire que, dans la routine de la production, cela n'est pas la démonstration qu'un codage donné, généré par IA, sera conforme, en l'absence de comparateur. Ceci constitue une différence importante avec l'imagerie médicale, pour laquelle nous aurons toujours un comparateur (information de référence) à un moment ou à un autre.
Notre dernier exemple pose un problème, purement théorique, encore d'une autre nature. Il s'agit de l'utilisation d'algorithmes de ciblage dans la destination de contrôles qualité de l'information médicale (codée notamment), dans le cadre du plan d'assurance qualité de l'information médicale. Pour faire court, les établissements de santé sont depuis quelques années dans le périmètre de la certification des comptes, au même titre que toute entreprise. Et la tari cation à l'activité (T2A) en constitue généralement la part la plus importante, financièrement parlant. La logique est la suivante : l'établissement (le DIM en l'occurrence) élabore un plan d'assurance qualité, en d'autres termes sa théorie de la maîtrise du risque (risque de non-conformité de son information médicale), et plus particulièrement dans ses implications financières. Et il produit la traçabilité permettant de vérifier que ce plan a été appliqué, de manière conforme. Le raisonnement est le suivant : si les Commissaires aux comptes peuvent vérifier que les processus de production sont décrits de manière conforme, que les risques associés à ces processus sont correctement décrits, que les réponses à ces risques sont pertinentes et complètes, et que les processus de maîtrise sont appliqués de manière conforme, alors l'information résultante sera de principe considérée comme conforme. Nous sommes dans un raisonnement axiomatique, profondément déterministe. Cela implique que l'on puisse expertiser chaque étape du plan d'assurance qualité, et pour ce qui nous intéresse les algorithmes dits de ciblage, qui vont pointer des dossiers atypiques et en tant que tels porteurs d'anomalies ou susceptibles d'amélioration. Or, si ces ciblages sont le fait d'algorithmes produits par IA, ces derniers ne sont pas expertisables, car non formalisables de manière déterministe. En d'autres termes, on ne peut alors expertiser le lien entre le risque et la réponse au risque. Et c'est tout le processus de certification qui est remis en cause. Notons qu'à ce jour il s'agit d'un problème émergent, qui n'a pour le moment suscité aucune solution théorique.
Que retenir de tout cela ? Avant tout que l'IA n'est pas une religion, ni une vérité révélée, ni la solution miracle à des problèmes que l'esprit humain n'aura su résoudre. Il ne s'agit que d'algorithmes, mais qui présentent le risque d'introduire une confusion entre le raisonnement mécaniste et la pensée humaine, infiniment plus complexe et, jusqu'à preuve du contraire, non réductible à des algorithmes. Au-delà, se pose la question de la finalité. Est-il raisonnable de consacrer une part toujours croissante de nos PIB et de nos ressources énergétiques à des outils destinés à orienter notre consommation, influencer nos opinions ou construire des pseudos-réalités ? Certainement l'IA vaut-elle mieux que cela. À condition de garder à l'esprit que l'IA n'aura de sens que dès lors qu'elle reste sous le contrôle… de l'intelligence naturelle.
Dr Jérôme FRENKIEL
SNSP (Syndicat National de Santé Publique)
Directeur de l'Information médicale et de la Recherche UNIVI Santé
