L'intelligence artificielle, entre engouement et doute

Hier encore, on ne parlait d'intelligence artificielle (IA) qu'en faisant écho à l'augmentation humaine ou au transhumanisme. Aujourd'hui, le paradigme a changé : l'IA a investi le champ médical et propose des algorithmes d'une puissance inégalée permettant, la plus part du temps, un gain de temps conséquent. On pense d'abord aux fameux chatbots, ces IA qui permettent d'établir un prédiagnostic et in fine de gagner du temps dans l'anamnèse, ce qui recentre le colloque singulier sur l'humain (qui l'eut cru ? ). On pense également aux innombrables aides qui épaulent désormais les spécialistes de l'imagerie médicale.Cependant, si certains adoubent ces nouvelles technologies, d'autres se montrent plus prudents et questionnent leur place dans la médecine de demain. Les colloques s'enchaînent d'ailleurs ces derniers temps pour éclaircir la place de l'IA à l'hôpital, ses bienfaits pour le patient, pour la médecine géné-rale...Et même simplement pour dire qu'elle n'existe pas ! Luc Julia, co-fondateur de Siri, détaille : " L'IA n'existe pas tant que nous n'avons pas décidé qu'elle existe. L'IA n'existe pas tant que nous n'avons pas créé l'outil. L'IA ne crée rien. L'IA n'invente rien. L'IA ne déduit rien des données qui l'alimentent. "Un colloque organisé par le GBO à Liège fin novembre, sur la thématique " Télémédecine et intelligence artificielle, opportunités ou menaces ", démontre bien l'existence de ces deux camps. D'un côté, le Pr Philippe Coucke, auteur cette année du livre La médecine du futur, ces technologies qui nous sauvent déjà (voir jdM n°2593). De l'autre, le Pr Pierre Gillet, médecin en chef du CHU de Liège.Le Pr Coucke arpente les parquets des colloques depuis des années. Son but : expliquer pourquoi le système des actuels est asphyxié et proposer des remèdes. " Pourquoi changer ? Les politiciens estiment que nous avons le meilleur système de soins au monde. Leur critère princeps ? L'accessibilité aux soins. Ce critère n'est plus valable ", estime Philippe Coucke. Sur quels critères se baser ? Le radiologue du CHU de Liège se base sur quatre chiffres issus de rapports internationaux que les habitués connaissent : 50% d'actes inutiles, 42% du budget annuel du secteur des soins gaspillés, 10% de chance de sortir d'un hôpital en moins bonne santé qu'à l'entrée et 5% d'erreurs de diagnostics.Vu le constat, la situation ne peut qu'être améliorée. " On peut, on doit changer l'écosystème car nous sommes confrontés à deux problèmes : un problème de durabilité financière et de ressources humaines. "Bonne nouvelle : les différents éléments clés pour changer l'écosystème sont déjà disponibles. " C'est l'internet des objets, le big data, l'IA pour transformer ce flux de données en informations utiles et l'élément technique composé du cloud et du blockchain ", détaille le technophile, qui voit s'opérer deux changements de paradigmes. " Nous passeront d'un modèle curatif vers un modèle de prédictif et préventif. Et le lieu des soins va changer. "Philippe Coucke étaye sa théorie en se basant sur plusieurs modèles de soins : le care anywhere, le care by large data sets, le passage de l' evidence based medecine vers l' intelligence based medecine. Tous ces anglicismes amènent une disruption du rôle du médecin qui sera dépassé dans son savoir par la technologie et devra recentrer son activité sur l'humain, l'empathie, l'éducation du patient. Pour y arriver, il faudra cependant transfigurer l'enseignement. " C'est là que le bât blesse ", reconnaît Philippe Coucke. " Nous enseignons la médecine comme il y a un siècle, partant du principe que les connaissances théoriques nous protègent contre l'erreur. C'est un leurre. "Le Pr Gillet, quant à lui, est " moins optimiste par rapport aux opportunités " et aborde les menaces potentielles de l'IA. " L'humain prend des décisions biai-sées, raccourcies et insuffisantes par rapport aux machines. On a donc créé l'IA qui exploite des milliards de données pour aider le prestataire de soins à la décision. Est-ce que c'est pour mieux décider, ou décider à sa place ? Comment garder un libre arbitre dans certaines situations ? Comment garder la connaissance ? "Ces questions ne sont pas les seules que pose Pierre Gillet. " Comment continuer à avoir un choix conscient, confiant et éclairé ? ", ajoute-t-il. Pour lui, le danger vient de la confiance aveugle en la technologie, qui pourrait nous aveugler, nous manipuler, nous pousser à prendre des décisions non éthiques.Dernier questionnement : comment éviter, ou repousser, le moment où la machine, l'IA, prendra le contrôle sur l'homme ? " Philippe Coucke dira 'impossible' ", sait Pierre Gillet. " Mais derrière chaque algorithme, il y a une opinion. Les algorithmes ne sont donc jamais neutres. La neutralité, dans la plupart des applications, est un leurre : chaque application est le reflet d'un modèle dominant. "Le médecin en chef cite l'exemple de Tinder, célèbre application de rencontres, au travers les déboires amoureux d'une journaliste qui a enquêté sur le sujet. Judith Duportail, dans son livre L'amour sous algorithme, explique que l'application est orientée par un modèle patriarcal, hétérosexuel, et souffre d'âgisme, de sexisme et de discrimination. D'où vient ce constat ? Du score de désirabilité attribué par Tinder, qui se base sur des algorithmes non éthiques et discriminants. " Cette échelle est basée sur des millions de données récoltées sur nous-même et à notre insu ", explique le Pr Gillet. Autre exemple, le mauvais score attribué aux femmes plus intelligentes que leur partenaire potentiel. Le credo, c'est " Sois belle et tais-toi ". " La patente de Tinder est clairement sexiste : si une femme est intelligente, elle reçoit des malus, si elle est plus bête que l'homme, elle reçoit des bonus. Tinder justifie ce score en faisant référence au modèle historique. "Le Pr Gillet rapporte le même type d'exemple dans le milieu médical. " Nous avons vécu la même expérience, il y a un an, dans la télépathologie, lorsqu'une firme nous a proposé l'exploitation des images, qui grâce à l'IA, donnait un diagnostic pathologique. " Le hic, c'est que la firme fabriquait également le réactif génétique mettant en évidence le gène pathologique. " In fine, en fonction de l'interprétation de l'image, l'IA proposait de donner un anticorps monoclonal pendant six mois, 18 mois ou pas du tout. Dès que l'on a découvert les faux négatifs qu'il y a eu au travers cet algorithme qui n'était pas suffisamment perfectionné, les anatomopathologistes ont tout de suite abandonné le modèle. "La raison de cet abandon ? " Si la finalité de l'algorithme est le profit et l'appât du gain, il y a un risque très puissant de manipulation ", explique Pierre Gillet.Le Pr Coucke argumente souvent que jamais, dans l'Histoire, l'homme n'a réussi à endiguer l'éclosion d'une nouvelle technologie. Cependant, l'innovation sans limites juridiques ou éthiques comporte certainement des dangers. Aux pouvoirs législatif et judiciaire de dessiner les contours d'un cadre d'innovation sain. Reste au médecin de garder en tête ce questionnement du Pr Gillet : " Qu'est-ce que le concepteur de l'algorithme considère comme un succès ? Est-ce le profit, la résolution du problème, la satisfaction des utilisateurs, ou réaliser des économies pour la sécurité sociale et les assurances ? "