[Communiqué de presse] Régulation de l'IA générative : il y a urgence à appliquer dès maintenant le principe de Garantie Humaine et l'AI Act européen
Face au déferlement médiatique de ces derniers jours sur les avancées de l'IA générative et les enjeux majeurs de sa régulation, il importe tout à la fois de prendre part à ces avancées, tout en maîtrisant les enjeux éthiques qui leur sont associés.
C'est le sens de la démarche engagée depuis 2017 par Ethik-IA et qui a conduit, en lien avec de nombreux autres contributeurs, à porter et faire reconnaître l'exigence d'une Garantie Humaine de l'IA.
Reconnu par le Comité consultatif national d'éthique dès 2018, intégré de façon pionnière à l'article 17 de la loi de bioéthique française de 2021, le principe de supervision humaine constitue le socle du règlement européen sur l'IA - AI Act - en passe d'être adopté par l'Union européenne. Ce texte est, en l'état, prévu pour une entrée en vigueur progressive entre mi-2025 et mi-2027. La publication, le 30 octobre dernier, de l'Executive Order de Joe Biden sur l'IA établit un niveau de régulation en de nombreux points similaires au futur règlement européen.
Les débats sociétaux actuels montrent que nous ne pouvons pas nous permettre d'attendre pour agir. Nous devons dès à présent appliquer cette exigence de Garantie Humaine. Avec Ethik-IA, nous sommes d'ores et déjà mobilisés aux côtés d'acteurs majeurs dans le cadre de programmes très concrets de Garantie Humaine de l'IA.
C'est le cas dans le domaine médical. Depuis trois ans, un dispositif de supervision humaine est en place dans le domaine bucco-dentaire sous l'égide de l'Union française pour la santé bucco-dentaire. En radiologie, des principes éthiques ont été forgés dans le cadre de DRIM France IA qui rassemble l'ensemble des radiologues. Ils sont déclinés sur le terrain notamment dans le cadre de protocoles de contrôle humain en téléradiologie avec les professionnels de MEDIN +. Une démarche de contrôle humain de l'IA a été engagée en biologie sous égide de la SFIL (société française d'informatique laboratoire). Le 14 novembre dernier, Unicancer a annoncé lors de sa Convention nationale l'engagement d'un dispositif global de Garantie Humaine de l'IA pour l'oncologie en partenariat avec Ethik-IA.
C'est également le cas dans le champ mutualiste. Depuis cinq ans déjà, la Mutualité Française a été pionnière en soutenant le principe de Garantie Humaine, notamment dans le cadre de ses travaux au sein de l'Espace fédéral d'éthique. Dans la continuité de cet engagement, elle a débuté une réflexion sur le rôle de tiers de confiance qu'elle souhaite pleinement investir à l'avenir. De plus, un projet pilote est engagé avec la MGEN pour définir les principes appliqués de contrôle humain lorsque sont utilisés des algorithmes d'IA dans les différents domaines d'intervention des mutuelles.
S'agissant de l'IA générative elle-même, l'engagement d'un dispositif effectif de Garantie Humaine est concrètement possible : c'est le sens de la démarche annoncée le 18 octobre dernier par la Poste / Docaposte dans le cadre de la présentation de sa stratégie santé / autonomie qui vise à appliquer par anticipation ces principes à un système d'IA générative applicable au dossier patient informatisé.
Il convient, dès à présent, de généraliser cette ambition.
Le Gouvernement français s'y inscrit pleinement dans le cadre de ses programmes de soutien à l'IA de confiance mis en oeuvre par la coordination interministérielle à l'IA et dans le cadre du Conseil stratégique de l'IA générative récemment créé et placé auprès de la Première Ministre.
Nous devons aussi construire des dispositifs de création de confiance comme la labellisation en Garantie Humaine de l'IA présentée en février dernier avec le Digital Medical Hub de l'AP-HP et s'engager sur le terrain de la normalisation. Dans ce sens, une proto-norme AFNOR sur le contrôle humain de l'IA sera présentée au mois de décembre prochain après un travail préparatoire conduit avec les représentants des acteurs industriels - SNITEM, LEEM - et les patients représentés par France Assos Santé.
Nous avons maintenant à avancer collectivement pour garantir une IA de confiance. C'est un enjeu essentiel et immédiat pour préserver l'Humain en synergie avec la révolution technologique.
Contact presse : contact@ethik-ia.fr
