Posted by Exigences des SIA à haut risque, Timing, Transparence
Eléonore Scaramozzino, Avocate Constellation Avocats
Le règlement sur l’intelligence artificielle Règlement (UE) 2024/1689 du Parlement européen et du Conseil, 13 juin 2024, établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828, a été complété par le Règlement (UE) 2026/1744 du Parlement européen et du Conseil du 8 juillet 2026 modifiant les règlements (UE) 2024/1689, (UE) 2018/1139 et (UE) 2023/1230 en ce qui concerne la simplification de la mise en oeuvre des règles harmonisées concernant l’intelligence artificielle (train de mesures omnibus numérique sur l’IA)
Timing
Exigences relatives aux systèmes d’IA à haut risque
Un système d’IA est considéré comme à haut risque selon deux critères :
- produit ou composant de sécurité d’un produit déjà couvert par la législation européenne en matière de sécurité des produits et soumis à une évaluation de conformité par un organisme tiers, comme les dispositifs médicaux, les machines, les ascenseurs ou les jouets. Ces systèmes sont classés comme présentant un risque élevé au sens de l’article 6, paragraphe 1, et de l’annexe I,
- soumis aux obligations relatives aux systèmes à haut risque à compter d’août 2028.
- Relève de l’une des catégories de cas d’utilisation spécifiques énumérées à l’article 6, paragraphe 2, et à l’annexe III.
- Les obligations de ce groupe débutent en décembre 2027
Les systèmes d’IA à haut risque sont autorisés sur le marché de l’UE à condition que le fournisseur respecte un ensemble d’obligations strictes avant de pouvoir être commercialisés ou mis en service. Ces exigences comprennent
L’article 6, paragraphe 3, prévoit certaines dérogations pour les systèmes d’IA énumérés à l’annexe III. Ces systèmes ne sont pas considérés comme présentant un risque élevé s’ils ne
« constituent pas un risque significatif d’atteinte à la santé, à la sécurité ou aux droits fondamentaux des personnes physiques, notamment en n’influençant pas de manière significative le résultat de la prise de décision ».
L’article 6, paragraphe 3, précise les critères permettant de déterminer si un système d’IA relève de cette dérogation.
| un système d’IA visé à l’annexe III n’est pas considéré comme étant à haut risque lorsqu’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques, y compris en n’ayant pas d’incidence significative sur le résultat de la prise de décision.Le premier alinéa s’applique lorsqu’une des conditions suivantes est remplie :a) Le système d’IA est destiné à accomplir un tâche procédurale étroite ; b) le système d’IA est destiné à améliorer le résultat d’une activité humaine préalablement réalisée c) le système d’IA est destiné à détecter les constantes en matière de prise de décision ou les écarts par rapport aux constantes habituelles antérieures et n’est pas destiné à se substituer à l’évaluation humaine préalablement réalisée, ni à influencer celle-ci, sans examen humain approprié ; ou d) le système d’IA est destiné à exécuter une tâche préparatoire en vue d’une évaluation pertinente aux fins des cas d’utilisation visés à l’annexe III. un système d’IA visé à l’annexe III est toujours considéré comme étant à haut risque lorsqu’il effectue un profilage de personnes physiques |
Focus sur l’Obligation de Transparence :
La distinction entre les contenus générés par l’IA et ceux créés par l’humain devient difficile avec certaines IA.
Les principales préoccupations
Ces systèmes sont généralement autorisés, mais les fournisseurs et les déployeurs doivent garantir une transparence suffisante quant à leur utilisation.
L’article 50, paragraphes 2, 4 et 5, de la législation sur l’IA sur la transparence : applicable depuis le 2 août 2026.
Toute personne doit savoir quand elle interagit avec l’IA ou si elle est exposée à du contenu généré par l’IA, afin de prendre des décisions éclairées et éviter les informations erronées ou la tromperie. A cet effet, l’article 50 fixe des obligations de transparence pour les fournisseurs et les déployeurs de certains systèmes d’IA, y compris les systèmes d’IA génératifs et interactifs et les deepfakes.
- Les contenus devant être marqués sont : Texte, image, vidéo et audio
Pourquoi s’inscrire au code de bonnes pratiques pour la transparence des contenus générés par l’IA ?
Les fournisseurs et les déployeurs de systèmes d’IA générative soumis aux obligations énoncées à l’article 50, paragraphes 2 et/ou 4, de la législation sur l’IA peuvent adhérer au code de bonnes pratiques pour la transparence des contenus générés par l’IA.
Le code contient des mesures pratiques sur lesquelles les fournisseurs et les déployeurs peuvent s’appuyer pour montrer comment ils respectent leurs obligations en matière de marquage et d’étiquetage des contenus générés par l’IA. La signature du code donne aux organisations un cadre structuré et reconnu pour la mise en œuvre effective des obligations de transparence, réduisant ainsi l’incertitude quant aux pratiques attendues.
Le code contribue à éviter les approches fragmentées ou incohérentes en établissant des pratiques communes pour le marquage, la détection et l’étiquetage des contenus générés ou manipulés par l’IA.
Les signataires bénéficieront également d’une clarté et d’une sécurité juridique accrues dans l’ensemble de l’UE. Sous réserve d’une évaluation positive par la Commission et le comité de l’IA, les signataires peuvent s’appuyer sur le code pour démontrer le respect de leurs obligations au titre de l’article 50, paragraphes 2, 3 et 5, de la législation sur l’IA, quel que soit leur lieu d’établissement et d’exploitation et l’autorité de surveillance du marché compétente.
Le code est structuré en deux sections distinctes, reflétant les obligations de transparence respectives des fournisseurs et des déployeurs de systèmes d’IA génératifs en vertu de l’article 50. Des sections distinctes du code peuvent être signées individuellement, contrairement aux engagements individuels.
- Les signataires peuvent adhérer à la ou aux deux sections concernées, en fonction de leur rôle et des obligations qui leur sont applicables.
- Chaque section du code devrait être signée dans son ensemble, car elle contient tous les engagements auxquels le fournisseur ou le déployeur concerné doit se conformer.
- Les fournisseurs de systèmes d’IA générative relevant du champ d’application de l’article 50, paragraphe 2, de la législation sur l’IA sont invités à s’inscrire à la section 1 du code. Il s’agit du marquage des contenus générés ou manipulés par l’IA dans un format lisible par machine et des mécanismes de détection connexes.
- Les déployeurs de systèmes d’IA générative relevant du champ d’application de l’article 50, paragraphe 4, de la législation sur l’IA sont invités à s’inscrire à la section 2 du code. Elle fait référence à la divulgation et à l’étiquetage de deepfakes et de certains textes générés ou manipulés par l’IA publiés dans le but d’informer le public sur des questions d’intérêt public.
Une organisation agissant à la fois en tant que fournisseur et déployeur de systèmes d’IA générative dans le champ d’application est invitée à s’inscrire à l’intégralité du code (sections 1 et 2).
Absence de signature du code
Si un fournisseur ou un déployeur ne signe pas le code, il devra démontrer sa conformité par d’autres moyens. Leur adéquation sera évaluée par les autorités de surveillance du marché compétentes.
La signature du code de bonnes pratiques est volontaire. Le fait de ne pas le signer ne constitue pas un non-respect de la législation sur l’IA. Le non-respect des obligations prévues à l’article 50 de la législation sur l’IA aurait des conséquences négatives sur l’application de la législation, et non l’absence d’adhésion au code.
- Les non-signataires restent responsables du respect des obligations de transparence prévues à l’article 50 de la législation sur l’IA et doivent être prêts à démontrer leur conformité par d’autres moyens adéquats.
- Les non-signataires devraient être en mesure d’expliquer et de documenter la manière dont les mesures qu’ils ont choisies garantissent le respect des obligations énoncées à l’article 50 de la législation sur l’IA.
- Les non-signataires peuvent être amenés à effectuer une analyse des lacunes, en comparant leurs mesures avec celles énoncées dans le code.
Les fournisseurs et déployeurs non signataires relevant du champ d’application de l’article 50, paragraphes 2 et 4, peuvent faire l’objet d’un plus grand nombre de demandes d’informations ou d’accès de la part des autorités compétentes en ce qui concerne leurs pratiques de marquage et d’étiquetage au titre de l’article 50, paragraphes 2 et 4, de la législation sur l’IA, respectivement
.
Les signatures peuvent être retirées. Cependant, les avantages de s’inscrire et d’adhérer au code ne s’appliqueraient plus au fournisseur et / ou au déployeur. Pour retirer une signature, une lettre signée par un cadre au même niveau que celui qui s’est inscrit au code est nécessaire.
La présente lettre doit être envoyée par courrier électronique à l’adresse CNECT-AIOFFICE-CODE-OF-PRACTICE-TRANSPARENCY@ec.europa.eu,avec copie à l’adresse CNECT-AIOFFICE@ec.europa.eu.
Sanction : amende
La supervision formelle par le Bureau de l’IA de la Commission a débuté le 2 août 2026
Il compte environ 145 employés, bien que moins plus d’un quart sont dédiés Plus précisément, en matière de surveillance réglementaire et de conformité
Il peut exiger des informations des développeurs de modèles, imposer des modifications techniques si nécessaire et, en cas de non-conformité, infliger des sanctions
- Amendes pouvant aller jusqu’à 15 millions d’euros, ou jusqu’à 3 % du chiffre d’affaires annuel mondial total des entreprises
- Amendes pouvant aller jusqu’à 750 000 euros pour les institutions, organes et agences de l’UE
- Proportionnalité pour les PME et les PME
Exception
Délai de grâce pour l’obligation de marquage jusqu’en décembre 2026 pour les systèmes d’IA générative mis sur le marché avant le 2 août 2026 (article 50, paragraphe 2, de la législation sur l’IA, modifié par le règlement omnibus sur l’IA).
Deepfakes générés avant le 2 août 2026 : pas d’étiquetage rétroactif obligatoire mais encouragé.
Transparence : Lignes directrices sur les obligations de transparence pour les fournisseurs et les déployeurs de systèmes d’IA
En juillet 2026, la Commission européenne a publié des lignes directrices pour aider les fournisseurs et les déployeurs de systèmes d’IA à satisfaire aux exigences de transparence de l’article 50 de l’AI ACT, applicable depuis le 2 août 2026. Ces obligations visent à contribuer à réduire la tromperie et la manipulation en permettant aux individus d’identifier lorsqu’ils interagissent avec une IA ou lorsque du contenu a été créé ou modifié à l’aide d’une IA.
Conformément à ces directives, les fournisseurs sont tenus de concevoir des systèmes d’IA qui informe clairement les utilisateurs lorsqu’ils interagissent directement avec l’IA et pour appliquer des technologies lisibles par machine identifiants qui permettent de détecter les contenus générés ou manipulés par l’IA. Les fournisseurs concernés doivent appliquer un tatouage numérique lisible par machine ou autres mécanismes détectables par machine permettant d’analyser les contenus audios, images, vidéos et textes générés par l’IA, afin de faciliter l’identification des contenus synthétiques et d’aider à gérer les risques, notamment le risque de désinformation. Des critiques ont avancé que le tatouage numérique peut influencer le modèle. Pour certains experts, le choix des mots compromet nécessairement la qualité du résultat. Pour certains, tout impact significatif sur la qualité se limite à des résultats très courts. La Commission a rejeté les affirmations selon lesquelles les exigences de transparence peuvent intrinsèquement réduire la qualité du contenu généré par l’IA.
Les lignes directrices expliquent également comment le respect des obligations de transparence prévues par la législation sur l’IA peut être démontré, y compris par le respect du code de bonnes pratiques sur la transparence des contenus générés par l’IA. Les fournisseurs et les déployeurs de systèmes d’IA générative qui décident de ne pas adhérer au code devront démontrer le respect des obligations de marquage et d’étiquetage des contenus générés par l’IA par d’autres moyens tout aussi adéquats. Pour les autres obligations de transparence (par exemple en ce qui concerne les systèmes d’IA qui interagissent avec des particuliers), les fournisseurs et les déployeurs peuvent déterminer eux-mêmes les mesures adéquates, tout en tenant compte des lignes directrices.
Les systèmes d’IA mis sur le marché avant août 2026 doivent être conformes aux exigences de transparence à compter du 2 décembre 2026.
A suivre ….
