Entrée en vigueur de la Garantie Humaine de l’IA : principes & premier pilote - David Gruson

La Garantie Humaine de l’IA : plus que quelques mois avant l’entrée en vigueur de la régulation positive en France !


David Gruson, expert AI For Tomorrow et fondateur d’ETHIK-IA nous livre sa vision sur la place que doivent avoir les notions d’éthique au cœur d’un projet mêlant intelligence artificielle et santé.



La France avance sur le terrain de la régulation positive de l’IA en santé ! Le principe de Garantie Humaine, porté par Ethik-IA depuis 2017, entrera, en effet, en vigueur d’ici à la fin de ce premier semestre avec la loi de bioéthique. Il permet une approche originale de régulation « au fil de l’eau » de la diffusion de l’IA en santé. Le premier cas pilote mis en œuvre dans le domaine des soins bucco-dentaires permet de bien prendre conscience de cette dimension de pilotage qualité participatif impliquant les professionnels de santé, les représentants des patients et les innovateurs en IA.


Photo de Daniel Frank provenant de Pexels


1. Le principe de Garantie Humaine de l’intelligence artificielle en santé

Le principe de Garantie Humaine de l’IA et du numérique en santé, introduit et porté par Ethik-IA depuis 2017, a été reconnu dans les avis 129 et 130 du CCNE et dans l’article 11 du projet de loi bioéthique (1). Cet article 11 entrera en vigueur avec la loi de bioéthique d’ici à la fin de ce premier semestre 2021. Le principe de Garantie Humaine de l’IA qui en découle amènera tous les utilisateurs et concepteurs de solutions d’IA en santé à :

  • Mettre en œuvre une information préalable du patient sur le recours à l’IA dans sa prise en charge ;

  • Déployer une supervision humaine de la solution d’IA « en vie réelle » dans des conditions de traçabilité mises en œuvre sous le contrôle et la supervision de la CNIL et de la HAS.

Cette supervision peut s’exercer avec le déploiement de « collèges de garantie humaine » associant experts du numérique, médecins, professionnels paramédicaux et représentants des usagers. Leur vocation est d’assurer dans la conception algorithmique et en vie réelle une supervision de l’efficacité et du caractère éthique des services numériques mis en jeu pour répondre au COVID19. L’objectif consiste à s’assurer « au fil de l’eau » que l’application ou l’algorithme reste sur un développement opérationnel à la fois efficace médicalement et responsable éthiquement. Les dossiers à auditer pourraient être définis à partir d’événements indésirables constatés, de critères prédéterminés et/ou d’une sélection aléatoire.

Il est à relever que le principe de garantie humaine a reçu, au cours des derniers mois, en plus de la révision bioéthique, des concrétisations dans trois autres cadres très significatifs :

  • D’une part, la garantie humaine a été intégrée à la grille d’auto-évaluation des dispositifs médicaux intégrant de l’IA préalablement à leur admission au remboursement publié en octobre par la HAS ;

  • D’autre part, le principe de garantie humaine est repris dans le cadre de la task-force dédiée par l’OMS à la régulation de l’IA en santé en vue de l’émission d’une recommandation générale dans le courant de ce premier semestre 2021 ;

  • Enfin, le principe a été repris dans le Livre Blanc sur l’IA publié par la Commission européenne le 19 février 2020.


2. Le premier démonstrateur pilote de Collège de Garantie Humaine de l’IA dans le domaine de soins bucco-dentaires sous l’égide de l’UFSBD

L’Union française pour la santé bucco-dentaire (UFSBD) a confié à Ethik-IA la réalisation d’un audit juridique et éthique du fonctionnement de la solution ORALIEN (solution d’IA de reconnaissance d’image mise en œuvre par la start-up française Dental Monitoring dans le domaine dentaire s’appliquant à 48 EHPAD dans le cadre d’un protocole de financements innovants article 51 LFSS) afin de s’assurer de la conformité de celle-ci avec les règles en matière de protection des données à caractère personnel et notamment au regard des obligations spécifiques qui s’imposent en matière de données dites sensibles concernant la santé.

Cette analyse a été opérée au regard de la législation française et européenne actuelle et des 5 clés de régulation (émises par Ethik-IA) ainsi que du texte actuel de l’article 11 du projet de loi bioéthique.

La mise en œuvre du Collège de garantie humaine associé à l’expérimentation UFSBD constitue comme le premier cas effectivement mis en œuvre. Un premier collège-test a, en effet, été organisé au cours du mois de décembre dernier.


Afin d’être en adéquation avec le futur cadre législatif, le dispositif met en œuvre une supervision humaine autonome de Dental Monitoring prenant la forme d’un Collège de garantie humaine.


Le Collège de garantie humaine a vocation s’assurer, à partir des cas revus, que l’IA reste efficace médicalement et responsable éthiquement au fil de sa transformation de Machine Learning. Il jouera ainsi le rôle de deuxième avis humain sur une sélection de dossiers aléatoires, il sera positionné auprès de l’UFSBD et se réunira sous son égide.

En pratique, ce collège a mobilisé une équipe de 4 experts réviseurs chirurgiens-dentistes, indépendants de Dental Monitoring choisis par l’UFSBD.

Le collège est complété par des représentants des établissements concernés par l’expérimentation, des représentants des patients ainsi que Dental Monitoring (qui avait manifesté à l’occasion des phases préparatoires, son accord sur l’engagement d’un tel dispositif).

Ce collège a vocation à se réunir tous les trimestres. A chaque rencontre, le calibrage retenu peut prévoir une révision de 30 dossiers identifiés soit de manière aléatoire, soit à partir d’événements indésirables remontés par les acteurs de terrain de l’expérimentation. Pour chacun de ces dossiers, une grille d’analyse élaborée par Ethik-IA en collaboration avec l’UFSBD devra être renseignée. Elle a pour finalité d’objectiver l’adéquation de la proposition faite par l’IA à celle qui serait faite le collège. La transmission et la révision des dossiers s’opère dans un workflow d’hébergement des données de santé (HDS) garantissant une conformité RGPD.


Cette expérimentation pilote est menée en articulation étroite avec le SNITEM dans une optique d’extrapolation en prévision de la prochaine entrée en vigueur de la loi de bioéthique.



Lire sur notre Medium.


David Gruson,

Expert AI For Tomorrow,

Fondateur d’ETHIK-IA



(1) Le principe de Garantie Humaine figure en tant que tel dans l’exposé des motifs et l’étude d’impact du projet de loi. L’article 11 a été adopté par l’Assemblée nationale et le Sénat dans des termes rédactionnels différents mais reprenant les mêmes principes : information préalable du patient sur le recours au numérique dans le cadre du recueil – obligatoire – de son consentement et mise en œuvre d’une supervision humaine du numérique et de l’IA en santé.