Posted by Les grandes lignes de l’IA Act
Modernisation de l’approche de la protection des données, Nécessité de développer la puissance de calcul publique, Adaptation du DMA pour préserver la concurrence sur la chaine de valeur l’IA Générative
Rapport Notre ambition pour la France : un optimisme raisonné de la Commission de l’Intelligence Artificielle
Eléonore SCARAMOZZINO, Avocate, Constellation Avocats
Le 13 mars 2024, le Parlement européen adoptait en plénière, le règlement sur l’Intelligence Artificielle (IA Act) par 523 votes pour, 46 contre et 49 abstentions. L’IA Act vise à mettre en place des garanties relatives à l’intelligence artificielle à usage général et protéger les droits fondamentaux, tout en encourageant l’innovation. Le même jour, la Commission sur l’Intelligence Artificielle[1] remettait au Président de la République, son rapport intitulé : « IA : une ambition pour la France ». L’IA générative constitue un tournant dans l’innovation. L’écosystème a besoin de sécurité juridique, des données de qualité, des supercalculateurs et des financements dédiés à l’IA. Ce rapport n’est pas axé principalement sur l’IA dans le domaine de la santé, mais il propose des mesures intéressantes pour faciliter la circulation des données. Les auteurs s’interrogent sur l’équilibre à trouver entre la protection des données et leur accessibilité. Ils soulignent l’importance des données pour les technologies d’apprentissage automatique. La limitation de l’accès aux données pour protéger la confidentialité, la propriété intellectuelle, conduit à restreindre l’innovation ou à la laisser entre les mains de quelques acteurs capables de collecter plus de données et de supporter le coût de la régulation. D’autres leviers, comme la disponibilité de la puissance de calcul, l’investissement, le personnel expert dans le domaine sont examinés. « Le rapport restitue les termes du débat et apporte un ensemble de réponses afin de créer un cercle vertueux. Celles-ci reflètent les convictions de notre Commission. Ces convictions, forgées entre septembre 2023 et février 2024, se fondent sur l’expertise des membres et des rapporteurs. Elles sont étayées par la consultation de 7 000 personnes et l’audition de 600 experts et parties prenantes ».
Avant d’examiner les propositions de la Commission de l’Intelligence Artificielle, rappel des grandes lignes du Règlement sur les systèmes d’Intelligence Artificielle adopté par le parlement européen.
L’AI ACT : adoption par le Parlement européen
Le règlement établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union prévoit des obligations pour les systèmes d’IA en fonction de leurs risques potentiels et de leur niveau d’impact.
Implémentation de cette régulation
L’adoption de ce règlement est un point de départ. Cependant, l’implémentation est complexe.
La législation entrera en vigueur 20 jours après sa publication au Journal officiel et sera pleinement applicable 24 mois après son entrée en vigueur, à l’exception
La mise en œuvre au niveau européen,
4 instances sont créées.
La mise en œuvre au niveau national
Au niveau national, la mise en œuvre du règlement sur l’IA s’appuie sur deux ensembles d’acteurs.
- En Europe, les normes harmonisées sur lesquelles repose l’application du règlement sur l’IA sont appelées à jouer un rôle central. La Commission européenne a donné mandat au Comité européen de normalisation appelé CEN/CENELEC pour les établir, avec un objectif ambitieux : être prêt dès l’entrée en vigueur du règlement, en 2026.
- Au plan mondial, de nombreuses enceintes mènent des travaux afin de définir les standards et méthodes nécessaires à l’évaluation des systèmes d’IA, qu’il s’agisse d’organismes de normalisation (l’ISO, au niveau mondial, le NIST, aux États-Unis, le BSI, au Royaume-Uni…) ou de forums « privés ».
Les recommandations de la Commission de l’IA : application au domaine de la santé
Les usages de l’IA dépendent de
- la technologie : nouvelles capacités, performances, contrôle, sûreté et open source ;
- des ressources : talents, données, puissance de calcul, financement ;
- la confiance : renforcée par l’évaluation des SI, audit, sécurité juridique, sensibilisation ;
- des bénéfices : activité économique, emploi, productivité amélioration des services publics et de la qualité de vie au travail.
Pour l’IA dans le domaine de la santé, le rapport recommande notamment de :
« faciliter l’accès aux données : en matière de données à caractère personnel, modernisation du mandat de la Commission nationale de l’informatique et des libertés (Cnil) et de son collège, suppression de certaines procédures d’autorisation préalable d’accès aux données de santé et réduction des délais de réponse ; en matière culturelle, mise en place de l’infrastructure technique favorisant l’entraînement des modèles d’IA dans le respect des droits de propriété intellectuelle ; »
Les prérequis de l’IA applicables au domaine de la Santé
Le développement de l’IA nécessite des données, de la puissance de calcul et un financement dédié.
***Sur la question du financement, la Commission de l’IA n’a pas abordé la question du modèle économique des dispositifs médicaux numériques avec IA, nous l’avons rajouté car c’est une question spécifique à la santé qui est en cours de réflexion.
Le plan France 2030 a notamment consacré des fonds pour le développement de l’IA en Santé. Cependant, comme le précisent les auteurs, le soutien public ne doit pas viser un rattrapage permanent en courant derrière les pionniers, mais une supériorité sur certaines briques de la chaîne de valeur, en sélectionnant quelques domaines de compétition pour les remporter. Cependant, une intervention excessive ou mal dimensionnée pourrait nuire de manière disproportionnée à l’innovation et nous priver de ses bénéfices.
[1] La Commission de l’Intelligence artificielle est présidée par Philippe Aghion, ¨Professeur au Collège de France et Anne Bouverot, Présidente du Conseil d’Administration de l’Ecole Normale Supérieure. Elle est composée 13 experts de l’IA : Gilles Babinet, Joëlle Barral, Alexandra Bensamoun, Nozha Boujemaa, Benard Charlès, Luc Juia, Yann Le Cun, Aerhur Mensch, Cédric O, Isabel Ryl, France Salis-Madinier, Martin Tisné, Gaël Varoquaux.
Lire la suite
