La FDA établit des lignes directrices pour l’ouverture de l’IA dans les dispositifs médicaux

En 2021, l’Agence britannique de réglementation des médicaments et des produits de santé, Santé Canada et la FDA ont collaboré à l’élaboration de dix principes directeurs pour les meilleures pratiques en matière d’intelligence artificielle. Toutefois, ils n’ont pas fourni d’analyse approfondie sur la manière de répondre à ce besoin.

Les trois agences viennent de publier un deuxième document axé sur l’ouverture, qu’elles décrivent comme la mesure dans laquelle les publics concernés reçoivent des informations claires sur un dispositif médical utilisant l’apprentissage automatique.

Les programmes peuvent produire un résultat sans indiquer comment ils y sont parvenus, par exemple un diagnostic. Si un gadget peut expliquer le raisonnement qui sous-tend ses résultats, on dit qu’il est “explicable”.

La FDA a déclaré que “lorsque cette information est disponible et facilement compréhensible”, il est souhaitable de permettre aux gens d’accéder au raisonnement de l’algorithme. Lorsqu’ils prennent des décisions concernant les soins aux patients, les utilisateurs peuvent utiliser les données pour “analyser de manière critique le dispositif et ses résultats”.

La FDA et ses partenaires demandent aux développeurs de dispositifs de prendre en compte le qui, le pourquoi, le quoi, le où, le quand et le comment de l’ouverture.