Quand les robots annoncent la mort : les limites du deep learning face à la détresse humaine

Dans cet article daté du 24 juillet 2018, nous évoquions l'évolution des applications et de l'intelligence artificielle en matière de détection de la maladie et des risques de décès, et nous terminions ainsi notre démonstration : " il convient de demeurer vigilant et de s'interroger sur les éventuels usages de ce type d'outil et ses retombées, qu'il s'agisse d'accès aux soins ou à un enterrement décent ". Un nouveau fait divers vient de secouer l'actualité américaine, confirmant nos craintes et poussant à toujours plus d'exigence et de contrôle du marché de la health tech et du funéraire. Explications.

Un traumatisme

Mars 2019 - Kaiser Permanente Medical Center - Fremont - Californie : âgé de 78 ans, Ernest Quintana est de nouveau hospitalisé pour une affection pulmonaire. Il est entouré de son épouse, de ses enfants et petits-enfants ainsi que d'une infirmière, lorsqu'un robot vidéo motorisé pénètre dans sa chambre. L'écran s'allume, les traits pixelisés d'un médecin apparaissent, ce dernier prend la parole et annonce le décès proche du patient, prescrivant d'abandonner tout traitement pour adopter une mise sous morphine en attendant l'inéluctable.

A doctor in California used a video-link robot to tell a patient he was going to die. The man's family is not pleased. https://t.co/ujbsC8lsEz pic.twitter.com/fAU1K4jMKO

- CNN (@CNN) March 11, 2019

La transmission est presque inaudible, à tel point que la petite fille du malade est obligée de répéter l'annonce du praticien. On imagine le traumatisme de l'intéressé et de ses proches. Personne n'ignorait l'état physique déplorable de Mr Quintana, d'autres médecins les avaient prévenus bien en amont d'une issue fatale à plus ou moins court terme.

Mais c'est le procédé totalement déshumanisé, la froideur de l'annonce et son manque d'empathie, de professionnalisme, qui les a sidérés, amenant les médias à s'intéresser de près à l'affaire.

Des techniques délétères ?

Car le secteur de la santé américain se dématérialise de plus en plus à mesure que la health tech progresse : consultations à distance, programmes permettant d'affiner les diagnostics, tout est fait pour réduire une présence humaine trop coûteuse en terme de postes et de prestations. Doucement mais sûrement, le milieu hospitalier se vide de ses professionnels, misant sur le deep learning afin de prendre le relais, réduire les temps d'intervention et les dépenses.

Or si les nouvelles technologies augmentent la justesse du geste chirurgical et permettent des opérations à distance d'une rare précision, si elles calculent des traitements sur-mesure en fonction du profil de chaque patient, elles peuvent aussi s'avérer profondément délétères.

Et contredire carrément le serment d'Hippocrate, en interrompant les soins apportés à un malade dont un algorithme aura déterminé la fin de vie. Or les recherches vont de plus en plus dans ce sens. Ainsi Anand Avati, computer scientist rattaché à l'université de Stanford, oeuvre-t-il dans ce sens avec un programme qui a pu déterminer l'espérance de vie de 40 000 malades avec 90 % d'exactitude. Pour ce faire, l'algorithme a intégré et analysé les datas de quelque 160 000 malades, non pas les résultats d'examens, mais le genre d'analyses effectuées et leur fréquence, le tout mis en comparaison avec la date de leur mort. Incroyable ... et surtout beaucoup plus pointu que les diagnostics réalisés par les docteurs, justes dans 75 % des cas seulement.

Une stratégie marketing ?

De prime abord, ces découvertes sont présentées comme une véritable avancée dans le traitement de la fin de vie : en fixant le pronostic, on laissera au mourant le choix de décéder chez lui plutôt qu'en milieu hospitalier, on pourra également réfléchir à un traitement palliatif approprié, éventuellement à une issue par euthanasie. Un incontestable progrès, diront certains, une stratégie marketing agressive et infondée, répondront d'autres. Pour l'instant, les nouvelles technologies prennent surtout la place des soignants, permettent des économies conséquentes mais ne travaillent guère au confort moral des malades, comme le prouve la terrible mésaventure de Mr Quintana et de sa famille, qui auraient, on s'en doute, préféré apprendre la nouvelle de la bouche d'un médecin bien concret, empathique et respectueux.

Les dysfonctionnements du robot motorisé amènent à une autre réflexion ; la technologie n'est pas infaillible, la preuve. Et si les algorithmes sont exacts à 90 %, il reste 10 % de malades pour qui ils se trompent. On imagine la catastrophe si on décide de stopper les soins de patients décrétés mourants alors qu'il n'en était rien et qu'on aurait pu les sauver. La chose est à prendre en compte alors que notre propre système de santé est en pleine digitalisation, avec un hôpital public laissé à la dérive, cerné d'entreprises privées et de start-up avides de cannibaliser ce secteur lucratif des soins.

Ajoutons-y ces très récentes études effectuées en Belgique : 40 % de la population soutient l'idée de stopper la prise en charge des traitements coûteux pour les plus de 85 ans. Pareils algorithmes décupleraient l'abandon des remboursements de soins, et seuls les plus aisés pourraient encore se traiter en recourant aux circuits de santé privés.

Une fois de plus, le progrès est synonyme d'avancée et de régression. Le cas de Mr Quintana sonne le glas d'une médecine humaine faite de dialogue et d'empathie. Elle laisse les plus faibles, les plus fragiles seuls face à l'atrocité du trépas. Et certains praticiens s'en félicitent qui n'auront plus à gérer le déplaisir de pondérer la détresse d'un patient et d'une famille, préférant se concentrer uniquement sur le diagnostic et les prescriptions, beaucoup plus rentables. Ce rejet du facteur humain est par ailleurs en train d'émerger dans le domaine du funéraire où les méthodes tendent également à la digitalisation des rapports et à l'acte commercial plus qu'à l'écoute et à l'échange. La méfiance est donc de mise, pour surveiller les dérives qui ne manqueront pas de survenir et tâcher de les endiguer.

Source : https://edition.cnn.com/2019/03/10/health/patient-dies-robot-doctor/index.html