[Communiqué de presse] Le cas pilote de Garantie Humaine présenté dans l'étude du Conseil d'Etat "Intelligence artificielle et action publique : construire la confiance, servir la performance"
30 août 2022
L’étude du Conseil d’État « Intelligence Artificielle et action publique : construire la confiance, servir la performance » [1], publiée le 30 août 2022, a pour objectif d’alimenter les réflexions autour du déploiement de l’IA au sein de la sphère publique (État, collectivités territoriales, établissements publics), et auprès des agents publics, dans le but de contribuer à une stratégie volontariste et lucide de l’IA publique.
Sept principes généraux sont proposés pour la construction d’une IA publique de confiance : la primauté humaine, la performance, l’équité et la non-discrimination, la transparence, la sûreté (cybersécurité), la soutenabilité environnementale et l’autonomie stratégique.
Le premier de ces principes, renvoie « à ’idée qu’un humain doit veiller à ce que les systèmes d’IA fonctionnent à son bénéfice, se porter garant de leur bon fonctionnement et répondre des conséquences de ses dysfonctionnements », et comporte quatre exigences dont la supervision humaine, qui implique de mesurer la fiabilité de l’intervention humaine ainsi que la possibilité d’illusion d’une maîtrise provoquée par le contrôle humain. Concernant plus précisément cette exigence de supervision humaine, et la question de la maîtrise des biais d’ancrage et d’automatisation, deux mesures organisationnelles en particulier sont recommandées à savoir la formation et la gouvernance.
En effet, cette étude considère qu’il est important de privilégier une dimension collégiale, multipartite et pluridisciplinaire du regard humain, dans le but d’éviter d’accorder une fiabilité toute puissante à celui-ci qui, si erroné, conduirait à une contre productivité du principe.
À cet égard, est mentionné (2) à titre d’exemple le modèle pilote de Garantie Humaine construit conjointement par l’UFSBD et Ethik-IA pour le Programme Oralien de l’UFSBD, pour lequel le cinquième collège a eu lieu avec succès en juillet dernier. Ce programme inclut un monitoring bucco-dentaire par télésurveillance pour des personnes âgées ou en situation de handicap. La solution ORALIEN a été imaginée par les experts dentaires de l’UFSBD et développée grâce au savoir-faire technologique de Dental Monitoring.
L’Union Française pour la Santé Bucco-Dentaire (UFSBD) a confié à Ethik-IA et au Cabinet Vatier la réalisation d’un audit juridique et éthique du fonctionnement de la solution d’IA intégrée dans le Programme ORALIEN (solution de reconnaissance d’images par IA mise en œuvre technologiquement par la licorne française Dental Monitoring) afin de s’assurer de la conformité de celle-ci avec les règles en matière de protection des données à caractère personnel et notamment au regard des obligations spécifiques qui s’imposent en matière de données dites sensibles concernant la santé.
La mise en œuvre du Collège de garantie humaine associé au Programme ORALIEN de l’UFSBD constitue e premier cas effectivement mis en œuvre d’un principe devant prochainement entrer dans le droit européen et ayant déjà fait l’objet d’une reconnaissance au plan international.
Cette étude est donc en adéquation avec les travaux de l’UFSBD et d’Ethik-IA autour de la Garantie Humaine de l’Intelligence Artificielle, ainsi que la volonté d’un regard humain pluridisciplinaire et incluant des parties prenantes extérieures dans l’analyse de ces systèmes.
[1] « Intelligence artificielle et action publique :construire la confiance, servir la performance », Étude du Conseil d’État à la demande du Premier ministre, adoptée en assemblée générale plénière du 31 mars2022
[2] « À titre d’exemple, l’UFSBD, avec l’appui de l’association Ethik-IA, expérimente à cette fin un collège de Garantie humaine. Composé de représentants d’établissements de santé, de patients et de la société conceptrice de l’outil de reconnaissance d’images utilisé, et bénéficiant de l’expertise de chirurgiens-dentistes indépendants, ce collège se réunit trimestriellement pour procéder à des contrôles, aléatoires ou orientés par les remontées d’évènements indésirables sur les résultats produits par l’outil, et apprécier la nécessité d’actions correctrices. » p.106 de l’étude.
Contact presse : contact@ethik-ia.fr
Contact UFSBD : Dr Xavier BRAECKEVELT - Christine LECOINTE ufsbd@ufsbd.fr 01.44.90.72.84
