[Communiqué de presse] Vote de l’AI Act par le Parlement européen : reconnaissance du principe de Garantie Humaine à l’échelle européenne !
15 juin 2023
Le Parlement européen a voté ce 14 juin, à une très large majorité, en plénière le projet de règlement européen sur l’intelligence artificielle, dit “AI Act”. C’est une avancée majeure pour porter une vision européenne d’une approche durable de l’ouverture à cette innovation essentielle à notre temps.
La présidente du Parlement européen Roberta Metsola et les co-rapporteurs Brando Benifei et Dragoș Tudorache ont annoncé la volonté de promouvoir une IA “human-centric” et protectrice des droits fondamentaux. Ont notamment été évoqués les ajouts relatifs à l’IA générative et l’intégration de ces modèles dans des systèmes d’IA à haut risque.
Ce vote intègre l’adoption des dispositions - désormais stabilisées - reconnaissant, avec pleine force opposable, le principe de Garantie Humaine de l’IA pour les concepteurs (article 14) et utilisateurs (article 29) de systèmes d’IA. Pour rappel, pour les systèmes d’IA “à haut risque” présentant un risque pour la santé, la sécurité ou les droits fondamentaux, le non-respect d’une supervision humaine, effective, traçable et proportionnée expose les contrevenants à des sanctions équivalentes à celles du RGPD.
Dragoș Tudorache a par ailleurs précisé que l’entrée en vigueur du texte est maintenue pour 2023, avec une application effective dès 2025. Cela laisse donc deux ans aux nouveaux acteurs de l’IA pour se conformer à la nouvelle obligation en Garantie Humaine de l’IA des articles 14 et 29.
Pour Ethik-IA, il s’agit d’une étape historique, six ans après avoir porté pour la première fois cette idée de “Garantie Humaine” dans le débat public. Cette reconnaissance majeure - après celles du rapport VILLANI de 2018, du Comité consultatif national d’éthique et du CNPEN, de l’OMS, du Guide méthodologique de la DNS et la première insertion juridique à l’article 17 de la loi de bioéthique de 2021 - constitue avant tout l’aboutissement d’une incroyable aventure collective, enrichie de multiples contributions académiques (notamment de la Chaire Santé de Sciences Po Paris, la Chaire d’IA en Santé de Paris Cité et la Chaire de Philosophie à l’hôpital, de l’Université de Paris Dauphine, de l’Université Nice Côte d’Azur), professionnelles et citoyennes, et représentants de l’écosystème, tels que PariSanté Campus, le CRAPS, la SFSD ou Future4Care. Dans ce travail, le rôle des patients et de leurs représentants à travers France Assos Santé s’est révélé essentiel. Le dialogue très régulier établi avec la HAS et la CNIL a également permis de prolonger ces travaux en conduisant, par exemple, à l’insertion de la Garantie Humaine dans la Grille d’auto-évaluation des DM avec IA préalablement à leur éventuelle admission au remboursement par la Sécurité sociale.
Ce vote n’est, cependant, que la première étape d’un engagement plus large, désormais à continuer et renforcer sur le terrain pour préparer l’ensemble des acteurs de santé à celle nouvelle conformité européenne. Pour s’ouvrir à l’innovation en régulant les risques éthiques associés, il convient de poursuivre le développement d’écosystèmes de Garantie Humaine de l’IA. Intégré à l’écosystème majeur de PariSanté Campus, Ethik-IA participe déjà avec ses équipes à la constitution et à la mise en oeuvre d’une douzaine d’écosystèmes de ce type dans des domaines aussi divers que les soins bucco-dentaires (avec le rôle pilote de l’UFSBD), la radiologie (les travaux ayant été initiés dès 2018 dans le cadre de DRIM France IA), la biologie (avec la SFIL), l’oncologie (avec Unicancer), la pharmacie, l’opthalmologie ou encore l’anatomo-pathologie.
En outre, la crédibilité des méthodologies employées - et notamment celles du Collège de Garantie Humaine - doit être assurée dans le champ de la labellisation avec le label de Garantie Humaine présenté le 1er février dernier avec le Digital Médical Hub (DMH) de l’AP-HP et dans le domaine de la normalisation avec le chantier d’une norme AFNOR-SPEC qui sera finalisée dès cet automne. L’ensemble de ces démarches sont menées en articulation étroite avec les concepteurs d’innovations en IA en santé et leurs représentants et plus particulièrement le SNITEM et le LEEM. Par ailleurs, au stade de l’application en vie réelle, de nouvelles approches complémentaires de Garantie Humaine sont à initier : c’est le sens du partenariat annoncé à SANTExpo entre Ethik-IA et MEDIN+, leader de la santé digitale, pour présenter la première offre européenne intégrée de télémédecine de Garantie Humaine de l’IA.
Ces démarches devront nécessairement s’accompagner d’une intensification des travaux de préparation des professionnels et des établissements de santé à cette révolution de l’IA. Pour accompagner la transformation des métiers dans le champ sanitaire et médico-social, des initiatives majeures ont déjà été prises comme la reconnaissance de l’IA comme domaine prioritaire de développement professionnel continu (DPC) ou la première formation à l’IA des infirmiers de pratique avancée (IPA) engagée par la Région Auvergne - Rhône Alpes. Le programme pionnier initié il y a dix-huit mois par l’ANFH représente, à cet égard, l’initiative la plus structurante pour accompagner la transformation des métiers de l’hôpital public avec l’IA : ce programme est opéré, avec le concours d’Ethik-IA et Care Insight, dans plusieurs régions pilotes avec une montée en puissance très rapide comme l’illustrent les journées régionales organisées à nouveau cette semaine à Ajaccio et Rodez.
La Garantie Humaine de l’IA doit, enfin, s’inscrire dans une logique essentielle d’accès à l’innovation pour tous. A cet égard, la Fédération nationale de la Mutualité Française (FNMF), sous l’impulsion d’Eric CHENUT, a apporté un soutien décisif à cette reconnaissance en intégrant le principe de Garantie Humaine il y a trois ans dans sa plateforme politique. Lors du dernier SantExpo, la MGEN a, par ailleurs, annoncé s’engager dans une démarche pilote de Garantie Humaine des traitements algorithmiques utilisés à l’échelle du groupe.
Pour répondre aux besoins de transformation de notre système de santé avec l’IA, le chantier devant nous est donc immense. Mais, à présent, cet engagement de civilisation s’inscrit dans un cadre pilote au plan européen et répond à une exigence vitale : garder l’Humain au centre des enjeux.
Contact presse - contact@ethik-ia.fr
