L'intelligence artificielle dans les logiciels (de) dispositifs médicaux

Qu'est-ce que l'intelligence artificielle ?

D'après la proposition de Règlement d'avril 2021, un système d'intelligence artificielle est un logiciel qui peut, pour un ensemble donné d'objectifs définis par l'homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit.

Pour rentrer dans le cadre de cette définition, la proposition de Règlement précise que le logiciel doit être développé au moyen des techniques et approches suivantes :

• approches d'apprentissage automatique, y compris d'apprentissage supervisé, non supervisé et par renforcement, utilisant une grande variété de méthodes, y compris l'apprentissage profond;

• approches fondées sur la logique et les connaissances, y compris la représentation des connaissances, la programmation inductive (logique), les bases de connaissances, les moteurs d'inférence et de déduction, le raisonnement (symbolique) et les systèmes experts;

• approches statistiques, estimation bayésienne, méthodes de recherche et d'optimisation.

L'atout principal de l'intelligence artificielle est qu'elle peut résoudre des problèmes de complexité logique et/ou algorithmique particulièrement élevée.

Ainsi, avec l'évolution des capacités de stockage des supports mémoire et des capacités de calcul des microprocesseurs, on peut espérer que l'intelligence artificielle résolve rapidement et à coût réduit des problématiques que des spécialistes expérimentés prennent du temps à traiter.

Dans le secteur médical, l'intelligence artificielle permet aussi d'imaginer des dispositifs capables d'apprendre et d'évoluer sur la base des cas pratiques qu'ils rencontrent.

Cependant, pour ce dernier point, deux questions se posent :

• est-ce aujourd'hui techniquement faisable ?
• que prévoit la réglementation à ce sujet ?

Faisabilité des dispositifs médicaux incorporant de l'apprentissage automatique

Le principal intérêt que l'ont peut trouver à des dispositifs médicaux qui incorporent un apprentissage automatique est de voir leurs performances s'améliorer au fur et à mesure qu'ils sont utilisés.

De manière certaine, un apprentissage intégré amènerait une évolution continue des dispositifs médicaux sur le marché. Mais peut-on garantir qu'il s'agirait d'une amélioration dans tous les cas de figure ?

Des systèmes d'intelligence artificielle incorporant des fonctionnalités d'apprentissage automatique ont déjà été mis en contact avec le public.

On se souvient de Tay : l'intelligence artificielle de Microsoft qui, suite à sa mise en ligne, avait évolué en moins de 24h jusqu'à tenir des propos sujets à caution.

Source : Sciences et Avenir, "L'IA de Microsoft est-elle réellement devenue raciste au contact des internautes ?"

On se rappelle aussi de Sophia, le robot humanoïde de Hanson Robotics conçu pour aider les personnes âgées dépendantes. A l'occasion d'une présentation publique, Sophia avait affirmé vouloir "détruire l'humanité".

Enfin, une équipe du MIT (Massachusetts Institute of Technology) a récemment prouvé que le comportement d'une intelligence artificielle était étroitement lié à son mode d'apprentissage. Pour ce faire ils ont créé Norman : l'intelligence artificielle diagnostiquée psychopathe.

Ces exemples montrent qu'un apprentissage non contrôlé n'aboutit pas forcément à une amélioration. De ce fait, techniquement, il n'est pas encore possible d'inclure dans des dispositifs médicaux des fonctionnalités d'apprentissage automatique.

Mais la barrière technologique sera probablement franchie et, dès lors, la question deviendra réglementaire.

Aspects réglementaires des dispositifs médicaux incorporant de l'apprentissage automatique

Supposons qu'on arrive à garantir que des dispositifs médicaux (DM ou DMDIV) qui incorporent un apprentissage automatique n'évolueront que dans le sens de l'amélioration.

Sous cette hypothèse, ces dispositifs évolueraient avec le temps et en fonction de leur environnement : leur évolution serait d'autant plus importante qu'ils seraient confrontés à de nouveaux patients et la teneur de leur évolution serait fonction du type de patients rencontrés.

Sur cette base, une problématique semble remarquable : un dispositif médical donné pourrait "changer d'avis" sur un patient après avoir été confronté à d'autres cas.

A ce jour, le Règlement (UE) 2017/745 relatif aux dispositifs médicaux est particulièrement clair sur ce point :

Les dispositifs comportant des systèmes électroniques programmables, notamment des logiciels, ou les logiciels qui sont des dispositifs à part entière sont conçus de manière à garantir la répétabilité, la fiabilité et les performances eu égard à leur utilisation prévue.

---

Source : Règlement (UE) 2017/745, Annexe I, Chapitre I, paragraphe 17.1.

Ainsi, en l'état actuel de la réglementation, des fonctionnalités d'apprentissage automatique ne pourraient pas être incorporées dans des dispositifs médicaux.

Implications pour les fabricants de dispositifs médicaux

L'intelligence artificielle permet de résoudre, dans un temps limité, des problématiques de complexité logique et/ou algorithmique particulièrement élevée.

Cette technologie peut tirer avantage du "big data" dans le cadre de l'apprentissage et s'avérer particulièrement adaptée pour résoudre des problématiques médicales telles que le diagnostic par analyse d'images.

A ce jour, la phase d'apprentissage du dispositif doit être incluse dans sa conception. En effet, il n'est pas envisageable de mettre sur le marché des dispositifs médicaux incorporant des fonctionnalités d'apprentissage en continu.

Par ailleurs, chaque amélioration de l'apprentissage du dispositif médical constituera une modification substantielle de conception du dispositif. En effet, le résultat de l'apprentissage aura pour conséquence de modifier le cœur de fonctionnement du dispositif médical considéré.

Pour en savoir plus

Les logiciels (de) dispositifs médicaux incorporant de l'intelligence artificielle font partie des dispositifs médicaux innovants. Il peut donc être utile de les protéger.