Une expérimentation très encadrée

L’Utah va laisser un système d’intelligence artificielle renouveler certaines prescriptions de médicaments psychiatriques sans passage systématique par un médecin. C’est seulement la deuxième fois que l’État, et le pays, confient à une IA ce type de responsabilité clinique. Les responsables publics affirment vouloir réduire les coûts et compenser le manque de soignants. Du côté des médecins, l’enthousiasme est nettement plus mesuré. L’ensemble ressemble surtout à un test grandeur nature de plus, avec ce charme particulier des technologies qu’on présente comme simples avant de découvrir qu’elles ne le sont pas.

Le projet pilote, d’une durée d’un an et annoncé la semaine dernière, autorise le chatbot de Legion Health à renouveler certaines ordonnances psychiatriques dans des cas précis. La start-up de San Francisco promet à ses patients basés dans l’Utah des renouvellements « rapides et simples » via un abonnement à 19 dollars par mois. Le programme doit démarrer en avril, même si, pour l’instant, il n’y a qu’une liste d’attente.

Un périmètre minuscule

Le dispositif a été volontairement limité. Selon l’accord conclu entre Legion et l’Office of Artificial Intelligence Policy de l’Utah, le chatbot ne peut renouveler que 15 traitements d’entretien considérés comme à faible risque, déjà prescrits auparavant par un clinicien.

Parmi eux figurent notamment :

  • fluoxétine, connue sous le nom de Prozac
  • sertraline, ou Zoloft
  • bupropion, ou Wellbutrin
  • mirtazapine
  • hydroxyzine

Ces médicaments sont couramment utilisés contre l’anxiété et la dépression. Mais les patients doivent aussi remplir plusieurs conditions. Ils doivent être jugés stables. Toute personne ayant eu récemment un changement de dose ou de traitement, ou une hospitalisation psychiatrique dans l’année écoulée, est exclue. Un suivi avec un professionnel de santé reste obligatoire tous les 10 renouvellements ou après six mois, selon la première échéance atteinte.

Le système ne peut pas rédiger de nouvelles ordonnances ni gérer les traitements qui exigent une surveillance médicale plus étroite, y compris les médicaments nécessitant des analyses sanguines régulières. Les substances contrôlées sont également exclues, ce qui écarte une grande partie des médicaments contre le TDAH. Les benzodiazépines, les antipsychotiques et le lithium ne font pas partie du programme, ce qui laisse de côté une bonne part des situations psychiatriques plus complexes. Le lithium, rappelons-le, reste l’un des traitements de référence du trouble bipolaire. Les cas compliqués, eux, attendront encore leur tour dans la file d’attente numérique.

Comment le chatbot décide

Pour utiliser le service, les patients doivent donner leur accord, vérifier leur identité et prouver qu’ils ont déjà une ordonnance, par exemple avec une photo de l’étiquette ou du flacon. Le chatbot leur pose ensuite des questions sur leurs symptômes, l’efficacité du traitement et les effets secondaires.

Il interroge aussi les patients sur d’éventuelles idées suicidaires, l’automutilation, les réactions sévères et une éventuelle grossesse, afin de repérer les signaux d’alerte. Si une réponse sort du cadre défini comme à faible risque, le dossier doit être transmis à un clinicien avant tout renouvellement. Les patients et les pharmaciens peuvent également demander un examen humain.

Les autorités de l’Utah ont présenté le projet comme un moyen d’automatiser sans danger le renouvellement des traitements d’entretien, pour accélérer l’accès aux soins et les rendre moins coûteux. À terme, elles espèrent aussi libérer du temps pour les professionnels de santé afin qu’ils se concentrent sur les cas les plus complexes et les plus risqués. Elles rappellent qu’environ 500 000 habitants de l’Utah n’ont pas accès aux soins de santé mentale. De son côté, Yash Patel, cofondateur et directeur général de Legion, va encore plus loin. Il décrit cette initiative comme une première mondiale qui pourrait élargir l’accès aux soins et marquer « le début de quelque chose de bien plus grand que de simples renouvellements ». Les grandes visions arrivent toujours avec une facture mensuelle.

Les psychiatres restent prudents

Les psychiatres interrogés se montrent beaucoup moins convaincus. Brent Kious, psychiatre et professeur à la faculté de médecine de l’Université de l’Utah, estime que les avantages d’un système de renouvellement fondé sur l’IA sont probablement exagérés. Selon lui, l’outil ne devrait pas augmenter l’accès pour les personnes qui en ont le plus besoin, puisqu’il s’adresse à des patients déjà engagés dans un plan de traitement avec un psychiatre.

Il avertit aussi que cette automatisation pourrait nourrir ce qu’il appelle une forme de surtraitement en psychiatrie, avec des patients maintenus sous traitement plus longtemps que nécessaire. John Torous, directeur de la psychiatrie numérique au Beth Israel Deaconess Medical Center et professeur de psychiatrie à la Harvard Medical School, soulève un point voisin. Certains patients ont intérêt à poursuivre un traitement au long cours, d’autres à le réduire ou à l’interrompre. Cela suppose un suivi actif, des ajustements et du discernement. Tout cela devient plus difficile quand les vérifications de renouvellement sont confiées à un chatbot.

Le vrai sujet, pour Torous, est de savoir si une IA peut automatiser sans danger même les tâches les plus banales en psychiatrie. Prescrire ne se résume pas à vérifier des interactions médicamenteuses. Il doute qu’un système d’IA actuel puisse comprendre le contexte propre à chaque patient et les nombreux éléments qui entrent dans un plan de traitement. Kious formule une réserve similaire. En théorie, dit-il, un tel système pourrait être sûr. En pratique, tout dépend des détails. Et c’est justement là que le bât blesse, puisque ces systèmes restent récents et peu transparents pour les observateurs extérieurs. Kious résume la situation avec un certain sens du dosage : cela ressemble un peu à de l’alchimie pour l’instant, et il vaudrait mieux davantage de transparence, de science et de tests rigoureux avant de demander au public de s’en remettre à ce genre d’outil.

Les risques très concrets

Kious évoque aussi des risques immédiats. Le chatbot peut passer à côté d’un élément important lors du filtrage. Il peut poser une mauvaise question, un patient peut mal reconnaître un effet secondaire, ou donner une réponse inexacte. Certains peuvent aussi dire ce qu’ils pensent être utile pour aller plus vite. Ce n’est pas un problème exclusif aux chatbots, souligne-t-il, car la psychiatrie repose déjà en grande partie sur les déclarations des patients. Mais les cliniciens humains disposent généralement d’autres indices, visuels et comportementaux, en plus des mots. Un chatbot, lui, n’a ni regard, ni contexte, ni intuition clinique. Il a surtout un formulaire et beaucoup d’assurance.

Torous ajoute qu’il existe aussi des risques plus visibles, familiers à tous ceux qui ont observé les dérives de certains chatbots dans des conditions réelles. Legion représente la deuxième expérience de l’Utah en matière de prescription assistée par IA, après un pilote plus large en soins primaires mené avec Doctronic et lancé en décembre dernier. En quelques semaines, des chercheurs en sécurité avaient réussi à pousser le système de Doctronic à diffuser des théories du complot sur les vaccins, à produire des instructions pour fabriquer de la méthamphétamine et à tripler la dose d’opioïdes d’un patient. Les autorités de l’État assurent que le programme plus ciblé avec Legion vise précisément la pénurie de soins en santé mentale.

Des garde-fous, et des ambitions plus larges

Legion affirme que le pilote repose sur des protections strictes. En plus de ce que l’entreprise décrit comme des critères d’éligibilité très prudents, l’accord avec l’Utah impose des rapports mensuels détaillés et un examen humain renforcé des 1 250 premières demandes. Ensuite, environ 5 à 10 % des requêtes doivent encore être contrôlées périodiquement par des médecins.

Arthur MacWaters, cofondateur et président de Legion, affirme que les risques existent dans tout modèle de soins à distance, qu’il soit assisté par l’IA ou entièrement humain. Il soutient aussi que le dispositif ne repose pas sur une seule réponse déclarée par le patient pour déclencher un renouvellement. Selon lui, les garde-fous essentiels tiennent aux limites imposées aux médicaments et aux critères d’éligibilité, aux filtres de sécurité intégrés, à la participation des pharmaciens et à la possibilité de faire remonter le dossier à un clinicien. Il présente l’initiative comme un outil pour élargir l’accès aux soins pour des centaines de milliers de personnes vivant dans des zones touchées par la pénurie de santé mentale, et comme un terrain d’essai important pour l’IA en médecine.

MacWaters n’a pas souhaité commenter d’autres usages, d’autres médicaments ou une extension vers d’autres États, mais dit rester enthousiaste pour la suite. Aucun calendrier précis n’a été donné pour une expansion, même si Legion a déjà laissé entendre des ambitions plus vastes. Le site du service de renouvellement annonce une disponibilité « dans tout le pays en 2026 », et MacWaters a déjà suggéré que l’entreprise serait « très, très vite » présente dans tous les États.

Au fond, les psychiatres interrogés reviennent à une question assez simple. Quel problème Legion résout-il exactement ? Pour les patients déjà suivis et stabilisés, un renouvellement ne nécessite souvent même pas de rendez-vous, explique Kious. La plupart des psychiatres sont probablement heureux de renouveler une ordonnance gratuitement et sans consultation, sauf s’ils sont inquiets pour le patient ou si le médicament présente un risque réel. Or ce sont précisément ces cas-là que l’IA de Legion n’a pas le droit de gérer.

Torous conseille, lui, de rester prudent pour l’instant. Si un traitement fonctionne bien avec un clinicien, dit-il en substance, mieux vaut conserver ce qui marche plutôt que de confier la suite à un chatbot très convaincu de lui-même.