Médecin dans la boucle: où l'IA appartient dans le flux clinique (et où elle n'appartient pas)

« Médecin dans la boucle » est l'expression du moment en IA clinique. On la voit dans les présentations aux investisseurs, les textes marketing et les dossiers réglementaires — parfois avec précision, parfois comme un verbe adoucissant appliqué à des produits qui préféreraient que le médecin soit seulement un tampon à la fin d'une chaîne automatisée.

Je veux défendre la version stricte du terme: celle où le médecin est le seul interprète des données cliniques, la seule personne autorisée à donner un sens à un pattern, et le déclencheur de toute sortie qui pourrait influencer les soins. Un engagement d'architecture, pas une phrase de marque.

La promesse séduisante

La promesse séduisante en IA clinique ressemble souvent à ceci: notre modèle lit l'imagerie et dit au clinicien quels cas sont urgents. Ou: notre modèle analyse l'intake du patient et signale les diagnostics probables. Ou encore: notre modèle cote le risque de chaque patient et l'oriente vers le bon parcours de soins.

Chacun de ces exemples est une interprétation. Chacun accomplit une fonction qui, si elle était faite par un humain, exigerait un permis d'exercice médical. Chacun, dans les cadres réglementaires du Canada, des États-Unis et de l'Union européenne, risque de constituer un dispositif médical logiciel: Software as a Medical Device (SaMD).

SaMD n'est pas une catégorie interdite. Plusieurs produits utiles s'y trouvent. Mais c'est une catégorie réglementée avec des obligations précises: revue de classification, preuve de validité clinique et analytique, surveillance post-commercialisation, étiquetage, déclaration d'événements indésirables et, selon la juridiction et la classe de risque, études cliniques prospectives. C'est le prix d'entrée.

L'erreur que je vois le plus souvent n'est pas de choisir de bâtir un produit SaMD. L'erreur est de croire que vous n'en bâtissez pas un parce que l'interprétation est emballée comme « aide à la décision », « assistance au triage » ou « signalement ». Les régulateurs sont rarement impressionnés par l'emballage.

La ligne

La ligne entre un outil de données structurées et un dispositif médical n'est pas aussi floue qu'on le prétend parfois. Quelques tests approximatifs:

Le produit produit-il une sortie sur laquelle un clinicien agit sans reconstruire lui-même le raisonnement? Donne-t-il une signification clinique à un pattern — cela ressemble à la condition X, ce patient est à haut risque, ce cas devrait être vu rapidement? Recommande-t-il une action clinique spécifique, même indirectement, en ordonnant ou classant des options? Le rôle du clinicien se limite-t-il à confirmer une sortie produite par le système?

Si la réponse honnête à une de ces questions est oui, vous bâtissez un dispositif médical. Dans cette architecture, « médecin dans la boucle » est du marketing.

Ce que le médecin dans la boucle exige vraiment

La version forte du principe a trois propriétés.

Le médecin est l'origine du raisonnement clinique, pas son validateur. Le système ne présélectionne pas un diagnostic en attendant une approbation. Le médecin examine les données structurées, arrive à une impression et l'inscrit. La sortie du système est une conséquence de cette entrée, pas une suggestion qui la précède.

Les sorties du système sont déclenchées par une action explicite du médecin. Une note clinique n'est pas générée en arrière-plan avec l'espoir que le médecin la corrigera. Elle est générée quand, et seulement quand, le médecin a confirmé le diagnostic. Avant ce moment, il n'y a rien à modifier, parce qu'il n'y a encore rien à dire.

Le système ne remplit pas les espaces laissés vides par le médecin. Si le patient n'a pas inscrit une donnée, le système ne l'impute pas. Si les données sont incomplètes, la sortie reflète cette incomplétude. Le système ne spécule pas au nom du médecin.

Ce n'est pas cosmétique. C'est la différence entre un outil que le médecin utilise et un outil qui utilise le médecin.

Ce qu'une IA non interprétative peut bien faire

Renoncer à l'interprétation ne veut pas dire renoncer à la valeur. Cela veut dire déplacer la valeur ailleurs dans le flux.

Un système non interprétatif — logique à base de règles et résumés déterministes — peut accomplir beaucoup de travail utile cliniquement sans entrer dans le territoire SaMD. Il peut capter des données rapportées par le patient dans un format structuré et obligatoire avant la visite. Il peut présenter des questionnaires validés selon des données démographiques et le motif de consultation, en utilisant des règles explicites, non diagnostiques et auditables par le clinicien. Il peut calculer les scores d'instruments validés avec leurs algorithmes publiés et déterministes, puis présenter le résultat numérique et la bande de sévérité publiée sans affirmer ce que cette bande signifie pour ce patient précis. Il peut assembler une note clinique formatée, une fois que le médecin a confirmé le diagnostic, en transcrivant la décision du médecin dans un document structuré. Il peut présenter les données patient dans une forme pensée pour le raisonnement clinique — comparaisons visite à visite, données de carnet indexées dans le temps, indicateurs de complétude — sans les interpréter.

Rien de cela n'exige une interprétation. Tout cela apporte de vrais gains de temps et de vraies améliorations de qualité des données. Et tout cela est stable sur le plan architectural: il n'y a pas de modèle au sens interprétatif, donc pas de dérive de modèle à gérer. Il y a un schéma, des règles et des vues.

La vérité moins spectaculaire est que la plupart des gains de temps dans une clinique moderne viennent de ce type de travail — capture, sélection, assemblage — plutôt que de quelque chose qui ressemble à une cognition clinique. La cognition est ce pour quoi le médecin est formé. La friction autour de cette cognition est ce que le logiciel peut enlever.

Ce qu'on abandonne, honnêtement

Un système non interprétatif, basé sur des règles et déterministe, ne produit pas le genre de sortie qui brille dans une démo investisseur. Il ne lit pas l'imagerie. Il ne signale pas le cas urgent. Il ne prédit pas le résultat. La démo est plus discrète.

Ce qu'il produit à la place, c'est un tableau de bord que le clinicien utilise réellement, chaque semaine, pendant des années, sans réentraînement. Un format de note que le clinicien cesse de remarquer parce qu'il se retire du chemin. Une structure de données qui gagne en valeur chaque trimestre, pas qui en perd.

La version bruyante de l'IA clinique est une course. La version calme est un actif qui compose. Nous avons choisi la version calme, et le principe du médecin dans la boucle — dans sa lecture stricte — est l'architecture qui rend ce pari cohérent.

La phrase en une ligne

L'action du médecin est le déclencheur.

Rien dans le système qui pourrait influencer les soins ne se produit avant que le médecin le cause explicitement. Le rôle du logiciel est de rendre cette action plus rapide, plus propre, mieux informée et mieux documentée. Le rôle du logiciel n'est pas d'accomplir l'action à la place du médecin et d'attendre une signature.

C'est ce que « médecin dans la boucle » signifie pour moi. Ce n'est pas une description de l'interface. C'est une description de qui fait la médecine.

---

Dr Christian Diab est directeur médical et cofondateur de CuraDia, une medtech québécoise qui bâtit Uro-OS, le système d'exploitation clinique pour l'urologie et la médecine pelvienne.