Dans ses « Editoriaux » l’EREMIP expose des questions d’éthique d’actualité dans les domaines de la Vie et de la Santé.

Parfois ils sont remplacés par des « Opinions libres » n’engageant que leur auteur.

Sous le titre « Mise au point » l’EREMIP propose de considérer ces sujets à partir de domaines de réflexions spécifiques dans un objectif pédagogique.


Éditorial du 9 juillet 2018
« Être soigné par les Algorithmes  »
de Jacques BRINGER

En innovant, la médecine tend à être plus prédictive et précise, mieux ciblée, plus pertinente et efficace. Elle vise aussi à être plus partagée avec les patients. La numérisation utilisant le stockage des données de santé d’une personne permet la communication entre professionnels de santé. Elle aide au diagnostic et à la décision dans les situations complexes grâce à des analyses et calculs mathématiques : les algorithmes. En parallèle, la connexion des patients à distance par téléconsultation et téléassistance peut faciliter les soins de proximité dans des conditions de sécurité renforcées. Ainsi, le remboursement de certains actes de télémédecine récemment annoncé par l’Assurance Maladie ouvre une ère nouvelle qui va profondément transformer les métiers de la santé et les soins.

Mais au-delà, les progrès de l’intelligence artificielle  vont-ils conduire médecins et patients à suivre les décisions et les actes dictés par des calculs mathématiques qui s’imposeront à tous, tels un étalon incontournable ? Les recommandations en soins s’appuient déjà aujourd’hui sur les modèles statistiques analysant les données issues de la « médecine par les preuves » (evidence-based medicine). Dans ce cas, l’aide à la décision est guidée par des algorithmes bâtis à partir des résultats des grandes études cliniques : ils se substituent ainsi à la seule décision, parfois empirique, d’un praticien. De tels algorithmes appliqués en pratique médicale quotidienne sont basés sur des approches statistiques traditionnelles faciles à comprendre par ceux qui les utilisent. ils s’inscrivent dans un spectre allant de ce type d’analyse de données jusqu’à une modélisation totalement automatisée par des machines « apprenantes» (deep learning) dotées d’une forte capacité de calculs et d’apprentissage évolutif autonome à partir des données massives (big data) qui les nourissent.

Pour extraire les faits saillants permettant de poser un diagnostic et de guider la décision, ces algorithmes puissants requièrent alors des centaines de milliers voire des millions d’exemples. L’intelligence artificielle est capable de remplacer le médecin dans de multiples tâches ; elle le sera plus encore lorsqu’elle atteindra l’adaptation réactive et contextualisée qu’elle vise. Ces systèmes apprenants digèrent ainsi  d’innombrables données issues de la clinique, des tests biologiques et génétiques, de l’imagerie, des traitements suivis auxquels pourront s’ajouter  des précisions sur l’environnement psycho-social et culturel des patients. Ils se comportent donc comme une « boite noire » qui livre des diagnostics et des choix thérapeutiques non argumentés et ininterprétables par le médecin. A court terme, de tels outils seront indispensables à une prise en charge performante et personnalisée des patients. Leurs consignes  décisionnelles vont potentiellement affecter la vie de millions d’entre eux. Ils doivent donc être robustes, reproductibles et validés. C’est loin d’être le cas aujourd’hui, d’autant que l’agilité apprenante de ces calculs rend leur évaluation extrêmement difficile.

Par ailleurs, n’y a t il pas danger lorsque le médecin applique les conclusions d’un système dont il ne comprend pas le fonctionnement et qu’il ne peut, dès lors, expliquer au patient ? Le premier risque est de croire que l’intelligence artificielle est autonome alors qu’elle dépend de la façon dont les questions ont été posées et  les données collectées puis gradées en fonction des objectifs des commanditaires et des concepteurs des algorithmes. Les garanties éthiques d’objectivité, de qualité et d’exhaustivité du recueil des données sont critiques pour prévenir toute déviance et erreur préjudiciables d’interprétation. La véracité des résultats en dépend.

Oui, les algorithmes vont déposséder les professionnels de santé de nombreuses tâches. La lecture automatisée est capable de se substituer en partie aux compétences du biologiste aujourd’hui, elle le sera pour celles du radiologue demain. Le traitement des données par ordinateur a déjà montré des résultats égaux voire supérieurs à l’apport des interventions humaines des spécialistes en imagerie, cardiologie, dermatologie, ophtalmologie, cancérologie et même psychiatrie. Mais il convient de mettre en place les prérequis assurant fiabilité, sécurité et confidentialité, avant de confier très largement le système et les actes de soins à une intelligence numérique appelée à imposer sa loi et à prononcer, du haut de ses algorithmes, une injonction d’autant moins négociable qu’elle est indéchiffrable. Il est donc urgent de développer les indispensables études contrôlées, aptes à vérifier la qualité des étapes de conception, de recueil et d’interprétation des données ainsi que la protection du contenu de ces boites noires auxquelles des millions d’usagers s’apprêtent à confier leur destin.

La machine à diagnostiquer et à décider n’a ni conscience, ni émotion, ni douleur. Si elle peut simuler quelques aptitudes humaines, elle ne ressent rien et ne fait pas prévaloir l’écoute, l’empathie, la qualité de la présence, du regard et de la parole. Elle ne possède pour le moment aucune adaptation contextuelle en fonction de la personnalité ou des valeurs de la personne. Il convient de s’y soumettre et de se plier à ses décisions. Elle peut diluer les responsabilités dans les rouages des algorithmes sans éthique et manquant de transparence avec les biais potentiels qui peuvent en résulter.

L’intelligence humaine doit apprendre à utiliser l’intelligence artificielle pour se dégager des tâches automatiques qui peuvent être sous-traitées. Le gain de temps permettrait alors aux soignants de se concentrer sur ce qui fait l’essence même de leur fonction : décoder les problèmes de santé de façon intelligible pour le malade et ses proches, annoncer avec tact, accompagner, moduler les actions de soins et les traitements en fonction du vécu, des émotions et de la réaction du patient dans son environnement.