Posted by Eléonore Scaramozzino, Avocat
L’intelligence artificielle (IA) ou l’algorithme auto-apprenant (machine learning) et apprentissage profond (deep learning) est un programme informatique complexe capable de simuler certains traits de l’intelligence humaine (raisonnement, apprentissage, classification…). Basé sur des « réseaux de neurones artificiels numériques », le deep learning permet à un programme de reconnaître un contenu, d’analyser des données de plus en plus complexes et de les classifier. Après une phase d’apprentissage, un algorithme de type machine learning est en mesure d’exploiter une quantité considérable de données pour apporter une réponse à des problèmes complexes, en termes de diagnostics, de propositions thérapeutiques.
En santé, l’IA permet le passage de la médecine curative à la médecin 4 P (Prédicitive, Personnalisée, Préventive et Participative) (1). Dans la médecine algorithmique, l’IA est un logiciel d’aide au diagnostic, d’aide à la décision, d’aide à la dispensation d’actes, dans le cas de la chirurgie téléguidée par exemple (LAD), mais également d’aide à la prescription (LAP). Cependant, le développement de l’IA permet d’apporter une aide considérable en termes de prédiction/prévision de certaines pathologies. Les progrès qu’elle induit par sa précision, notamment en radiologie, cardiologie, oncologie, conduisent à s’interroger sur son rôle dans le diagnostic et le choix de la thérapie.
En France, l’IA doit trouver sa place dans une relation « Médecin-Patient », dans laquelle le médecin a la responsabilité de poser un diagnostic et de formuler la proposition thérapeutique la plus pertinente, adaptée au patient. L’IA se substituera-t-elle au médecin ? Le principe de la garantie humaine dans l’utilisation des algorithmes auto-apprenants sera débattu au Parlement dans le cadre de la discussion sur le projet de loi sur la bioéthique. Cette médecine 4 P conduit à réorganiser le temps médical. Le médecin ne sera pas remplacé mais « augmenté ». À son savoir, sa compétence, son intelligence, s’ajoutera la capacité de calcul de l’algorithme. Son intervention s’orientera plus vers les soins non programmés, vers les cas complexes, sur lesquels les algorithmes auto-apprenants, n’ont pas été entraînés.
La radiologie est l’un des premiers secteurs bousculés par l’IA, la génétique, la cardiologie et l’Oncologie sont également des domaines dans lesquels l’IA contribue à l’amélioration du diagnostic et de la proposition thérapeutique.
La radiologie et L’IA : LAD ou substitut du radiologue ?
La radiologie diagnostique est fondée sur des algorithmes exploitant les « réseaux de neurones » capables de détecter des anomalies, qu’on leur a présenté des dizaines de milliers de fois. Le CH de Valenciennes a conclu un partenariat avec la Société Arterys pour transformer son pôle de radiologie grâce à l’intelligence artificielle. Cette start-up a développé une solution de triage faisant appel au deep learning pour qualifier en 30 secondes un cliché d’imagerie normale ou présentant une pathologie. Le diagnostic algorithmique résulte d’une reconnaissance rapide des images pathologiques, sur lesquelles l’algorithme a été entraîné. La plupart des start-ups, comme la société Thérapixel, spécialisées dans l’IA pour l’analyse d’imagerie médicale, entrainent leurs algorithmes sur les anomalies les plus fréquentes. Ces derniers ne peuvent pas affirmer qu’une image ne présente aucune d’anomalie, ils se limitent à indiquer que « telle ou telle anomalie n’est pas visible ». Pour l’instant, la majeure partie de la radiologie ne peut pas encore être prise en charge pas les algorithmes. Une application développée par la société néerlandaise Screen point permet d’aller un peu plus loin dans le diagnostic algorithmique grâce à une IA qui a été entraînée à lire une série de mammographies et à les scorer selon le risque de développer un cancer. L’IA est considérée comme un logiciel d’aide au diagnostic (LAD).
Une nouvelle étape a été franchie aux États-Unis avec le dispositif médical (DM) baptisé « IDx-DR » qui permet à partir d’un cliché de diagnostiquer la rétinopathie diabétique de manière instantanée. Il s’agit du premier logiciel autorisé à poser un diagnostic sans qu’un médecin interprète lui aussi l’image. Approuvé en avril 2018 par la Food and Drug Administration (FAD), il est actuellement disponible sur le marché nord-américain. Ce DM interroge sur la place de l’IA dans le diagnostic et la proposition thérapeutique communiqués au patient.
Une étude scientifique réalisée dans le cadre de ComPaRe, la Communauté de Patients pour la Recherche de l’AP-HP, a permis d’évaluer la perception des patients de l’usage d’interventions médicales basées sur les objets connectés et l’intelligence artificielle. Près de 1 200 patients suivis partout en France pour des maladies chroniques ont répondu en ligne aux questions des chercheurs de l’AP-HP. « Si l’intelligence artificielle dans le domaine de la santé suscite de nombreux espoirs et promesses de progrès, l’étude montre une réticence des patients à l’automatisation de leurs soins : 3 patients sur 4 souhaitent conserver l’intervention des soignants et voir la relation de soin préservée » (2).
En France, le code de la santé publique (CSP) reconnait uniquement l’autorité du médecin et non de l’algorithme, seul le médecin est habilité à établir un diagnostic. Il est seul apte à juger de l’opportunité de l’acte de diagnostic ou de l’acte de soin (article R-4127-8 du CSP). Le médecin reste l’auteur de la décision et peut s’appuyer sur l’analyse algorithmique pour prendre sa décision. Que le médecin suive le diagnostic algorithmique et l’option thérapeutique proposée ou qu’il s’en éloigne, la décision prise relève de sa responsabilité et donc engage sa responsabilité (Art L 1142-1 du CSP). Dans son rapport « Donner un sens à l’intelligence artificielle (IA) : pour une stratégie nationale et européenne » de mars 2018, le mathématicien et député Cédric Villani, souligne que : « Avant d’envisager le déploiement massif des programmes d’intelligence artificielle dans un contexte médical, il sera nécessaire de clarifier le régime de responsabilité médicale en cas d’erreur. ». Il propose de « clarifier la responsabilité médicale des professionnels de santé en cas d’utilisation de technologies d’intelligence artificielle : à l’heure actuelle, la responsabilité médicale d’un médecin peut être engagée en raison d’une faute ou d’un manquement déontologique (généralement conçu comme un manquement à des obligations d’information et au droit du patient à consentir de manière éclairée à l’acte médical). En l’absence de la reconnaissance d’une personnalité juridique autonome pour l’algorithme et le robot, il serait envisageable de tenir le médecin pour responsable de l’utilisation des programmes, algorithmes et systèmes d’intelligence artificielle, sauf défaut de construction de la machine » (3).
La question de l’information du patient sur l’utilisation de l’IA dans la prise de décision, et notamment dans le cas où le médecin décide de suivre le diagnostic et l’option thérapeutique proposés par l’algorithme, doit être analysée au regard de l’article 22 du RGPD et de la décision du Conseil constitutionnel du 12 juin 2018 (décision 2018-765 DC) (4), « loi relative à la protection des données à caractère personnel », aux termes de laquelle il a indiqué que le recours à un algorithme pour fonder une décision administrative individuelle devait faire l’objet d’une information préalable. Pour le Conseil constitutionnel, un algorithme ne peut constituer un paramètre exclusif pour prendre une décision individuelle.
Dans son avis 129 « Contribution du Comité consultatif national d’éthique à la révision de la loi de bioéthique », le CCNE propose que soit inscrit au niveau législatif « le principe fondamental d’une garantie humaine du numérique en santé, c’est-à-dire la garantie d’une supervision humaine de toute utilisation du numérique en santé, et l’obligation d’instaurer pour toute personne le souhaitant et à tout moment, la possibilité d’un contact humain en mesure de lui transmettre l’ensemble des informations concernant les modalités d’utilisation du numérique dans le cadre de son parcours de soins.
Le CCNE juge nécessaire que toute personne ayant recours à l’intelligence artificielle dans le cadre de son parcours de soins, en soit préalablement informée afin qu’elle puisse donner son consentement libre et éclairé » (5).
Dans ses « 5 clés de régulation de l’intelligence artificielle et de la robotisation en santé » présentées en février 2018, le think-tank « Initiative Ethik-IA » dirigée par Davide Gruson (6), avait proposé : « Clé 1 : Information et consentement du patient : Le patient doit être informé préalablement du recours à un dispositif d’intelligence artificielle dans son parcours de prise en charge en santé. Le dispositif IA ne doit pas se substituer au recueil du consentement du patient. Des modalités particulières -comme le recours à une personne de confiance, à des dispositifs de recueil a priori pour un ensemble d’options de solutions de prise en charge ou à des dispositions de protection renforcée pour les personnes vulnérables-doivent, le cas échéant, être aménagées pour garantir l’effectivité du recueil de ce consentement.
Clé 2 : garantie humaine de l’IA Le principe de garantie humaine du dispositif d’IA en, des options de prise en charge proposées santé doit être respecté. Cette garantie doit être assurée par, d’une part, des procédés de vérification régulière ciblée et aléatoire, des options de prise en charge proposées par le dispositif d’IA et, d’autre part, l’aménagement d’une capacité d’exercice d’un deuxième regard médical humain à la demande d’un patient ou d’un professionnel de santé. Ce deuxième regard peut, le cas échéant, être mis en œuvre par l’intermédiaire de dispositifs de télémédecine. » (7).
Le principe de garantie humaine est également appliqué en télémédecine. La Société Française de télémédecine a développé la « télémédecine dite de garantie humaine ». En cas de doute du patient ou du médecin traitant face à un diagnostic proposé par un algorithme, une nouvelle forme de télé-expertise serait reconnue pour permettre un deuxième avis médical humain. Le principe de « garantie humaine » dans le cadre du recours à l’IA pour poser un diagnostic, est discuté actuellement, dans le cadre de l’examen du projet de loi sur la bioéthique.
Cette problématique de la place de l’IA dans le diagnostic et la proposition thérapeutique se retrouve en cardiologie.
La Cardiologie et l’IA : diagnostic et gestion des maladies cardiovasculaires
En cardiologie, malgré de nombreuses avancées, les maladies cardiovasculaires restent la première cause de décès dans le monde. Selon l’Organisation mondiale de la santé (OMS), 17,7 millions de décès sont imputables aux maladies cardio-vasculaires, soit 31 % de la mortalité totale mondiale. La médecine à 4P permettrait de contribuer à réduire cette cause de mort.
En cardiologie, l’IA est utilisée comme un outil de dépistage et d’identification des pathologies. Grâce à une base de données d’environ 500.000 électrocardiogrammeECG, l’algorithme de deep learning développé par la star-up Cardiologs, a appris à les lire et à dépister des pathologies, notamment des arythmies cardiaques. Un algorithme d’intelligence artificielle a détecté des signes imperceptibles d’une fibrillation atriale intermittente, facteur de risque d’accident vasculaire cérébral (AVC), d’insuffisance cardiaque et de décès, en l’absence des signaux classiques sur l’électrocardiogramme (ECG), et à partir d’un ECG acquis au cours d’un rythme sinusal normal, ce qui ouvre la voie à une amélioration du dépistage et de la prise en charge. Cependant, comme le soulignent les chercheurs, l’algorithme se limite à des personnes pour lesquelles des ECG avaient été réalisés en raison d’une suspicion de fibrillation mais qu’il ne peut être encore étendu à des personnes avec des AVC inexpliqués ou à la population générale. Des travaux sont encore nécessaires avant d’utiliser l’IA comme outil de dépistage ou de diagnostic (8).
Aux États-Unis, une équipe du CSAIL, du laboratoire de recherche en informatique et intelligence artificielle du MIT (Massachusetts Institute of Technology) a développé un système d’apprentissage automatique, baptisé « RiskCardio », qui vise à estimer, à partir de l’activité électrique du cœur, le risque de mort d’origine cardiovasculaire. Cependant, ce système est destiné à des patients ayant survécu à un syndrome coronarien aigu (SCA) c’est-à-dire l’obstruction d’une ou plusieurs artères coronaires. Le cœur manque alors d’oxygène et un angor instable voire une crise cardiaque peut survenir. En utilisant seulement les 15 premières minutes du signal de l’électrocardiogramme (ECG) d’un patient, l’outil génère un score qui classe les personnes dans différentes catégories de risque. Les patients obtenant un score élevé sont sept fois plus susceptibles de décéder d’une mort d’origine cardiovasculaire par rapport au groupe ayant obtenu un faible score. Il est ensuite possible de savoir si un patient décédera des suites d’un SCA dans les prochains 30, 60, 90 ou 365 jours. L’objectif de RiskCardio est d’améliorer l’étape d’estimation du risque, en réduisant les délais parfois très longs des examens médicaux. Il reste encore beaucoup à faire pour affiner le résultat obtenu par le dispositif en tenant compte notamment de l’âge, du sexe, de l’ethnie… En effet, plus le modèle sera précis plus le résultat le sera également, et les médecins seront alors capables de choisir le traitement le plus approprié (9).
Ce n’est pas la première fois que l’apprentissage automatique sert au diagnostic et à la gestion des maladies cardiovasculaires. Dans l’European Heart Journal daté du 3 septembre 2019, une équipe de scientifiques de l’université d’Oxford a mis au point un scanner utilisé une technique d’intelligence artificielle capable de déterminer si une personne présente un risque élevé de crise cardiaque fatale des années avant qu’elle ne survienne. Le système est capable de détecter des « signaux d’alarmes » tels que l’inflammation, les cicatrices et les modifications des vaisseaux sanguins qui alimentent le cœur en sang. Ces facteurs peuvent présager d’une future crise cardiaque. Les scanners conventionnels ne sont aujourd’hui pas assez développés et ne détectent pas tout. L’IA évalue l’accumulation des graisses autour du cœur qui immédiatement ne va pas forcément provoquer un problème cardiovasculaire mais à l’avenir pourrait en induire un. Les tests ont montré une précision de 85 à 90 %. Les chercheurs estiment que l’appareil permettra de déterminer un risque accru d’arrêt cardiaque avec une avance allant jusqu’à 10 ans.
En cardiologie, l’IA offre des opportunités et des espoirs dans la prévention et donc la réduction des risques cardiovasculaires et pose également la question de la garantie humaine dans le diagnostic et la proposition thérapeutique. Le logiciel d’IA sera-t-il utilisé comme un LAD (logiciel d’aide à la décision) ou un LAP (logiciel d’aide à la prescription), quel sera le rôle du cardiologue dans cette cardiologie à 4 P ? En amont, le développement de cette cardiologie personnalisée pose la question du volume, de la variété, de la véracité, de la valeur des données qui serviront à entrainer l’algorithme (10).
Docteur Watson vs Docteur Humain ou Docteur Humain, aidé par Docteur Watson ?
Le supercalculateur Watson, développé par IBM est un programme informatique capable de répondre à des questions formulées en langage humain. En santé, il aide le médecin à trouver le traitement le plus adapté pour soigner un cancer. En janvier 2015, devant l’échec de la chimiothérapie de sa patiente, Arinobu Tojo (Institut de sciences médicales de Tokyo) soumet son dossier à Watson, une intelligence artificielle. En dix minutes, docteur Watson a réussi à diagnostiquer un cancer qui tenait les médecins en échec ! (11) La machine analyse l’historique médical du patient, qu’elle croise avec les informations collectées dans les centaines de milliers d’articles scientifiques. Docteur Watson se substituera-t-il à docteur « Humain » ? Une IA a-t-elle vocation à se substituer à un docteur ou à l’aider dans son diagnostic ?
Le Big Data : un aide à la proposition thérapeutique en oncologie
Le 10 septembre 2019, dans la revue Nature Medicine, IBM et le Broad Institute révèlent qu’en utilisant des algorithmes de Data Mining, outils d’exploitations de données sous différentes perspectives et transformation de ces données en informations utiles, en établissant des relations entre les données ou en repérant des corrélations ou des patterns entre les différentes bases de données relationnelles, les chercheurs ont été capables de détecter des mutations génétiques dans les échantillons de sang de patients atteints de maladies gastrointestinales telles que le cancer de l’estomac, du colon, du foie ou du pancréas.
En analysant ces échantillons, les scientifiques ont découvert des altérations génétiques directement liées à l’abstinence de médicaments dans près de 80% des cas. Or, ces altérations ne semblent pas apparaître dans les biopsies de tissus standards. Pendant l’expérience, presque chaque patient a développé plusieurs formes de résistance aux médicaments. Par conséquent, les cliniciens pourraient modifier la façon dont ils traitent les cancers métastatiques.
Par ailleurs, cette expérience montre qu’un échantillon sanguin analysé grâce au Big Data peut révéler davantage d’informations qu’une biopsie standard de tissus. La biopsie sanguine permet de comprendre la génétique des tumeurs et donc d’expliquer la résistance aux médicaments à l’échelle moléculaire et par voie de conséquence adapter les traitements en fonction de ces informations (12). Dans ce cas précis, l’IA est considérée comme une aide efficace, effective à la proposition thérapeutique. Plus les algorithmes seront entraînés plus la biopsie sanguine algorithmique permettra de fournir une proposition thérapeutique personnalisée. Ces progrès conduisent à redéfinir le rôle de l’IA dans la proposition thérapeutique par rapport à celui du médecin, et par voie de conséquence sur la définition de la responsabilité médicale. ….
A suivre …
Notes
(1) Hood L, Flores M. A personal view on systems medicine and the emergence of proactive P4 medicine: predictive, preventive, personalized and participatory. Nat Biotechnol 2012 ; 29 : 613–624. Nous reviendrons sur la Medecine 4 P dans un article consacré à la médecine génomique.
(2) Cette étude, dont l’investigateur coordonnateur est le Dr Viet-Thi Tran, du Centre d’épidémiologie clinique de l’Hôtel-Dieu AP-HP et de l’Université de Paris, fait l’objet d’une publication dans la revue Nature Digital Medicine, le 14 juin 2019.
(3) Cédric Villani, mathématicien et député, « Donner un sens à l’intelligence artificielle, pour une stratégie nationale et européenne », spéc. Focus 2 : La santé à l’heure de l’IA, L’IA au service des politiques de santé, p.198 et 199
(4) Cons Cons Décision n°2018-765 DC du 12 juin 2018 https://www.conseil-constitutionnel.fr/decision/2018/2018765DC.htm
(5) CCNE : Avis 129 « Contribution du Comité consultatif national d’éthique à la révision de la loi de bioéthique »
(6) Initiative Ethik IA réunit une équipe de chercheurs en droit numérique, en technologies de l’information et de la communication et en sciences humaines et sociales (géopolitique, sociologie, sciences du comportement, économie et sociologie du travail) et de professionnels du secteur sanitaire et médico-social opérationnels dans les domaines de la régulation de l’intelligence artificielle et de la robotisation en santé. Initiative Ethik-IA vise précisément à contribuer au débat public sur le pilotage par les données de santé et plus spécifiquement les conditions de mobilisation de supports algorithmiques dans ce cadre, en tentant de définir des solutions de régulation pratiques pour mettre en exergue et réguler positivement les enjeux éthiques associés à la diffusion de ces technologies. Elle s’appuie notamment sur les travaux déjà engagés dans le cadre de la Chaire Santé de Sciences-Po Paris et de l’Institut Droit-Santé de Paris Descartes. Elle a pour objectif de faire partager largement la conviction de la nécessité d’un engagement fort des pouvoirs publics et de la société civile pour soutenir les efforts de recherche et de structuration du débat public en la matière.
(7) Extrait de « La révolution du pilotage des données de santé, Enjeux juridiques, éthiques et managériaux », Elodie Chapel, David Gruson, Delphine Jaafar, Pierre Loulergue, Judith Mehl, Florent Parmentier, Anaïs Person, Décideur Santé, LEH Edition, 2019
(8) L’Intelligence artificielle capable de détecter des songes imperceptibles d’une fibrillation atriale, Luu Ly Do Quang, The Lancet, édition en ligne du 1er août 2019, repris par Tic Pharma, le 16/09/2019
(9) Un modèle d’apprentissage automatique capable d’évaluer le risque cardiovasculaire, Alice Vitard/ 16.09.2019/ https://www.usine-digitale.fr/article/un-modele-d-apprentissage-automatique-capable-d-evaluer-le-risque-cardiovasculaire.N884394, « Using machine learning to estimate risk of cardiovascular death, de Rachel Gordon https://www.csail.mit.edu/news/using-machine-learning-estimate-risk-cardiovascular-death
(10) Cette problématique des données dans la recherche médicale et des données pour entraîner les algorithmes de type machine learning et deep learning sera traitée dans un article consacré aux entrepôts de données
(11) Supercalculateur médical : Watson plus fort que Dr House, Hugo Leroux , 8.10.2018, Science & Vie
(12) IBM découvre pourquoi les traitements contre le cancer échoue grâce au Big Data, https://www.lebigdata.fr/ibm-cancer-big-data