Posted by Ethics and governance of artificial intelligence for health
Selon le rapport de l’OMS consacré à l’éthique et à la gouvernance de l’intelligence artificielle dans le domaine de la santé, l’intelligence artificielle (IA) constitue un grand espoir pour améliorer la prestation des soins et la médecine dans le monde entier, à condition de placer l’éthique et les droits humains au cœur de sa conception, de son déploiement et de son utilisation. Il est le résultat de deux années de consultations menées par un groupe d’experts internationaux nommés par l’OMS.
L’IA pourrait notamment permettre aux patients de mieux maîtriser les soins de santé dont ils bénéficient et de mieux comprendre l’évolution de leurs besoins. Toutefois, ce nouveau rapport de l’OMS demande de ne pas surestimer les avantages de l’IA dans le domaine de la santé, en particulier lorsque cette technologie vient supplanter des investissements et des stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle.
Il souligne également que les opportunités sont liées à des défis et à des risques, notamment une collecte et une utilisation contraires à l’éthique de données relatives à la santé, les biais introduits dans les algorithmes et les risques pour la sécurité des patients, la cybersécurité et l’environnement.
Le rapport précise :
- les risques liées à l’utilisation non réglementée de cette technologie au regard des droits et les intérêts des patients et des communautés ;
- le risque de biais dans l’entraînement des systèmes fondé sur des données collectées auprès de populations qui ne sont pas nécessairement les populations cibles/utilisatrices ;
- La nécessité de tenir compte de la diversité des contextes socio-économiques et de soins de santé et de l’accompagnement d’une formation aux compétences numériques, des patients et des professionnels de santé ;
- La nécessite de prise en compte des problèmes d’éthique et de droits humains à chaque étape de la conception, du développement et du déploiement d’une technologie s’appuyant sur l’intelligence artificielle.
Six principes pour la réglementation et la gouvernance de l’IA dans l’intérêt public
L’OMS propose que la réglementation et la gouvernance de l’IA reposent sur les 6 principes suivants :
- Protéger l’autonomie de l’être humain : protection de la vie privée et de la confidentialité. Obligation de recueillir le consentement éclairé valide des patients.
- Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public. Respect des règles relatives à la sécurité, à la précision et à l’efficacité pour des utilisations ou des indications bien définies.
- Garantir la transparence, la clarté et l’intelligibilité.
- Encourager la responsabilité et l’obligation de rendre des comptes. Des mécanismes efficaces doivent être mis en place pour permettre aux individus et aux groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation.
- Garantir l’inclusion et l’équité.
- Promouvoir une IA réactive et durable. l’IA devrait répondre de manière adéquate et appropriée aux attentes et aux besoins et être conçus de sorte à réduire au minimum leurs conséquences environnementales et à accroître leur efficacité énergétique.
Ces principes guideront les travaux futurs de l’OMS en vue de garantir que le plein potentiel de l’IA en matière de soins de santé et de santé publique.