Posted by Rapport de la Commission spéciale sur l’IA à l’ère du numérique : IA & Santé
Le Parlement Européen a adopté les recommandations finales de sa commission spéciale sur l’intelligence artificielle à l’ère numérique (AIDA). La commission spéciale sur l’intelligence artificielle à l’ère numérique a débuté ses activités en septembre 2020. Dans son mandat, elle avait pour mission d’analyser l’incidence de l’IA sur l’économie de l’UE et ses différents secteurs, d’analyser la stratégie des pays tiers vis-à-vis de l’IA et de tracer la voie à suivre.
Pour les députés, l’Union ne devrait pas réglementer l’IA en tant que technologie, et le niveau d’intervention réglementaire devrait être proportionnel au type de risque induit par l’utilisation d’un système d’IA.
Les députés ont rappelé que l’IA repose sur des modèles de probabilité logiciels et la prédiction algorithmique pour un ensemble d’objectifs spécifiques. Le terme «IA» est « un terme générique couvrant un large éventail de technologies, de techniques et d’approches anciennes et nouvelles, mieux compris comme des «systèmes d’intelligence artificielle», qui désigne tous les systèmes fondés sur des machines qui n’ont souvent guère plus en commun que d’être guidés par un ensemble donné d’objectifs définis par l’homme, avec des degrés d’autonomie variables dans leurs actions, et de s’engager dans des prédictions, des recommandations ou des prises de décision fondées sur les données disponibles ».
Le rapport examine six études de cas d’utilisation de l’IA, en exposant les possibilités offertes par celle-ci dans le secteur concerné, les risques à prendre en compte et les obstacles qui empêchent l’Europe d’exploiter pleinement les avantages de l’IA.
IA dans le domaine de la santé
Pour les députés européens, il convient d’ancrer l’utilisation de l’IA dans le domaine de la santé dans des exigences éthiques fortes, telles que l’accès équitable aux soins de santé, le respect de la vie privée, la responsabilité, la transparence, l’explicabilité, la fiabilité, l’inclusion, la représentativité des ensembles de données et un contrôle humain constant. Des normes éthiques devraient s’appliquer à toutes les applications de soins de santé dès la conception. Dans le domaine des soins de santé, selon le rapport, le contrôle humain professionnel devrait toujours être maintenu en raison des risques générés par le recours aux systèmes d’IA.
Les députés ont souligné à plusieurs reprises les avantages des systèmes d’IA en santé, mais ont également mis en exergue la dépendance de l’IA à l’égard des données (quantités, partage, qualité élevée, accessibilité et interopérabilité des données), la nature particulièrement sensible des données à caractère personnel concernant la santé et le risque de violations et d’utilisations abusives des données à cet égard. Ils ont précisé la nécessité d’appliquer des normes de cybersécurité strictes à toute application sanitaire et une application uniforme et efficace du RGPD.
Pour les députés, les cadres de responsabilité existants n’offrent pas une sécurité juridique suffisante et ne respectent pas le droit des patients à obtenir réparation en cas de diagnostic erroné et de traitement incorrect par l’IA. La future proposition de règlement relative à la responsabilité en matière d’intelligence artificielle; relève qu’il importe de protéger les professionnels de la santé en tant qu’utilisateurs de systèmes d’IA de même que les patients en tant que bénéficiaires finaux, en leur fournissant des informations qui soient suffisantes et transparentes. Pour les députés, toutes les exigences éthiques doivent être respectées en ce qui concerne la surveillance professionnelle de la validation clinique de l’IA, du respect de la vie privée, de la protection des données et du consentement éclairé.
La création d’un espace européen des données de santé, garantissant les droits des patients ainsi que la portabilité des données, pourrait, selon le rapport, approfondir la coopération et stimuler le partage de données aux fins de la recherche et de l’innovation dans le secteur européen de la santé. De même l’interconnexion et l’interopérabilité des infrastructures de calcul à haute performance avec l’espace européen des données de santé garantiraient la disponibilité de grands ensembles de données de santé de haute qualité.
L’objectif est d’instaurer un écosystème de confiance parmi les citoyens et pour protéger de manière adéquate les données de santé en :
- favorisant l’interopérabilité et une collaboration accrue entre les différents professionnels de la santé au service des mêmes patients ;
- recourant à l’anonymisation et de la pseudonymisation des données,
- informant les citoyens, les professionnels de la santé, les développeurs et les décideurs sur les utilisations, les avantages et les risques de l’IA dans le domaine de la santé ,
- adoptant des normes éthiques et juridiques contraignantes et solides ainsi que des droits de recours opposables ;
Afin d’éviter des conclusions contraires à l’éthique et discriminatoires dans le domaine des données relatives à la santé humaine, les députés considèrent utile de procéder à des contrôles impartiaux des algorithmes et des ensembles de données utilisés et de promouvoir la poursuite de la recherche sur les méthodes et les biais intégrés dans les systèmes d’IA entraînés.
Par ailleurs, les députés européens ont exprimé leur inquiétude face au manque de législation en matière de données neurologiques et estime que l’Union européenne devrait œuvrer pour s’ériger au rang de chef de file mondial dans le développement de technologies neurologiques sûres.
Prochaines étapes
Le rapport alimentera les prochains travaux parlementaires sur l’IA, en particulier la législation sur l’IA qui est actuellement examinée par les commissions du marché intérieur et de la protection des consommateurs (IMCO) et des libertés civiles, de la justice et des affaires intérieures (LIBE). La législation sur l’IA doit faire l’objet d’un vote conjoint des deux commissions à la fin du mois de septembre.