[Communiqué de presse] Lancement du premier label de Garantie Humaine en collaboration avec le Digital Medical Hub de l’AP-HP
1er février 2023
Ce 1er février à PariSanté Campus, le Digital Médical Hub, société issue de l’AP-HP (Assistance publique – Hôpitaux de Paris) et Ethik-IA ont lancé la première démarche de labellisation pour la conformité en Garantie Humaine de l’intelligence artificielle (« IA »).
Ce principe de Garantie Humaine – qui impose une supervision de l’IA dans sa phase de conception et dans son application en vie réelle – a été introduit dans l’article 17 de la loi de bioéthique d’août 2021 et dans les articles 14 (pour les concepteurs) et 29 (pour les utilisateurs de systèmes d’IA) du futur projet de règlement européen sur l’IA, AI Act. Ce texte communautaire – ayant la même opposabilité juridique et le même niveau de sanctions financières associées que le RGPD – sera finalisé d’ici à la fin de ce premier semestre 2023 et entrera en vigueur dès 2025.
Lors de cette session, la méthodologie des Collèges de Garantie Humaine élaborée par Ethik-IA depuis 2017 et l’intérêt du label codéveloppé avec le DMH ont été rappelés. Concrètement, ces Collèges sont l’occasion d’associer fournisseurs, utilisateurs et représentants des usagers afin d’assurer a posteriori une révision de dossiers pour porter un regard humain sur les options/décisions conseillées ou prises par l’algorithme. L’objectif consiste à assurer « au fil de l’eau » que l’algorithme reste sur un développement à la fois efficace et responsable éthiquement. 11 écosystèmes pilotes de Garantie Humaine de l’IA ont déjà été construits avec le concours d’Ethik-IA dans des domaines aussi divers que la santé bucco-dentaire ou la pharmacovigilance.
Cette session s’est organisée autour des séquences suivantes :
• Présentation des origines du label, des tiers de confiance et des questions juridiques et réglementaires
• Processus de création du label, ses enjeux et ses finalités
• Dimension opérationnelle : côté patient et côté industriel
Dans son intervention en ouverture de cette session, François BRAUN, Ministre de la Santé et de la Prévention a apporté son soutien de principe à la démarche : « C’est une avancée majeure en termes de régulation, c’est une brique importante pour la construction du cadre éthique dans lequel les services numériques innovants de demain pourront se développer ».
En pratique, cette labellisation fonctionnera selon les modalités suivantes : la réalisation d’un audit éthique et juridique initial de chaque solution d’IA selon des critères prédéfinis, permettant de bien comprendre la solution technique mise en œuvre et de construire une réflexion autour du modèle de supervision humaine le plus adapté, puis la mise en œuvre régulière des Collèges de Garantie Humaine afin d’assurer le développement éthique de la solution.
Cette labellisation sera intégrée dans une démarche AFNOR qui sera engagée dès les prochaines semaines et qui visera à normaliser l’ensemble de ces acquis méthodologiques en matière de conformité en Garantie Humaine de l’Intelligence artificielle. Il est, en effet, à rappeler que le règlement européen AI Act porte non pas seulement sur la santé mais sur l’ensemble des champs d’application de l’IA, en graduant l’intensité de la régulation en fonction des niveaux de risques associés aux différents domaines d’application.
Présentation DMH
Le Digital Medical Hub est une société d’accompagnement au positionnement et à l’évaluation d’outils numériques en santé. Son savoir-faire, ses compétences et ses expertises se concentrent sur l’évaluation et la validation scientifique des outils de santé numérique et de santé connectée. Cette plateforme accélère la transformation des technologies de santé en proposition de valeur vérifiée et certifiée pour l’écosystème de santé.
Présentation Ethik-IA
Ethik-IA est l’opérateur de référence de la régulation positive de l’intelligence artificielle et de la supervision humaine. Ethik-IA a introduit et porte depuis 2017 le principe de Garantie Humaine de l’intelligence artificielle et du numérique en santé, désormais consacré dans la loi de bioéthique, reconnu par l’OMS et inséré aux projets de règlement européen sur l’IA et de directive européenne sur la responsabilité extracontractuelle pour l’IA.
L’union des expertises d’Ethik-IA et du DMH porte la Garantie Humaine de l’intelligence artificielle à travers une méthodologie unique et une expertise fine des écosystèmes. Leur engagement commun : la compliance éthique vérifiée et certifiée des intelligences artificielles en santé.
Contact presse : contact@ethik-ia.fr ; nicolas.desrumaux@dmh-aphp.fr
