E-santé: sommes-nous prêts à faire confiance à l’IA?
Par Jean-Noël Chaintreuil, fondateur de Change Factory
Après une année remplie de prise de conscience forcée sur l’hygiène, le port du masque et la crème hydratante pour soulager nos mains de tout ce gel hydroalcoolique, 2021 se place sous le signe de la « cleanovation », avec en tête de liste, les technologies « touchless » (voix, détecteur à distance…) et la sempiternelle récolte de data que les IA savent de mieux en mieux analyser et utiliser.
Mais « touchless » pourrait aussi, si on va plus loin, se traduire par insaisissable – et comment faire confiance à quelque chose que l’on ne peut ni voir, ni toucher, surtout en ce qui concerne notre santé ? L’intelligence artificielle révolutionne la médecine depuis quelques années déjà, mais la défiance règne toujours, et à juste titre : la technologie a eu son lot de ratés et de sous-représentation de la donnée causant des discriminations fort préjudiciables.
Confiance technique VS. confiance humaine
La confiance est l’interface qui relie l’IA au système de santé. On a besoin de standards et de règlementations sur la mise en place et le déploiement de ces technologies, car il est important de
- s’assurer que la machine fonctionne correctement – c’est la confiance technique
- s’assurer que les humains savent l’utiliser correctement – c’est la confiance humaine.
Pour cela, les techniciens, les régulateurs et le personnel soignant devront prendre en compte les différences culturelles et les différences de compréhension suivant les générations quand ils expliquent le fonctionnement de la technologie au patient final. On ne le dira jamais assez, la transparence est clé. Mais les médecins ou les techniciens eux-mêmes ne comprennent pas forcément ce qui se passe dans les diagnostics donnés par l’IA.
Le machine learning complexe est le plus souvent une boite noire : on connait les informations que l’on met dedans, mais l’IA trouve ses propres moyens d’interprétation, et nous n’avons pas de contrôle sur cela. De plus, ces logiciels font souvent l’objet de brevets et ne sont pas créés en open innovation, ce qui cache légalement la façon dont le logiciel fonctionne, et donc arrive à ses décisions.
Comment alors établir la confiance ?
En définissant très clairement et précisément l’information qui est injectée dans ces IA, ainsi que les sujets d’études qui doivent être représentatifs de la population sur laquelle l’IA sera utilisée. Toute data est biaisée, mais c’est bien la qualité et le contexte de cette data que l’on pourra réellement contrôler. Bien sûr, il faut une grande quantité de data, mais c’est la qualité et la qualification de cette data qui fera la différence dans la qualité de rendu de l’IA.
Le régulateur va avoir un rôle clé dans l’acceptation de l’IA en médecine ; la communication et la plus grande transparence possible seront indispensables. Pat Baird, Senior Regulatory Specialist chez Philips, est confiant : “pas besoin d’inventer de grands nouveaux concepts de régulation : on a déjà tout ce qu’il nous faut, on sait déjà le faire, il ne reste plus qu’à l’adapter à l’IA. L’échelle et les outils vont être différents, mais les process et les grandes lignes directrices de contrôle seront les mêmes, car issues du bon sens commun.” Une collaboration internationale va vite devenir indispensable, cependant.
Le patient ATAWAD
Les avancées de la e-santé et de la technologie dans la médecine, de pair avec les nouvelles habitudes de consommation au quotidien, font naturellement évoluer les comportements des patients qui deviennent des « consommateurs » de la santé. Ils s’autonomisent, veulent avoir accès à l’information et pouvoir être en contact avec leurs praticiens partout, tout le temps et depuis n’importe quel support (bienvenu en ATAWAD).
Un acteur qui a bien compris cette tendance est le courtier en assurance April, qui propose à ses clients de venir réaliser à leur domicile, en 30 minutes, les formalités médicales d’adhésion. Ce service est proposé grâce à la startup médicale BioSerenity et à son service Cardiophy Check-up. En effet, pour la souscription à des offres complexes d’assurance médicale, il est souvent nécessaire de procéder à de multiples examens, tous réalisés chez des spécialistes différents. On comprend bien qu’en période de crise, la démarche est d’autant plus compliquée. Ainsi proposer la venue d’un infirmier lors d’un unique rendez-vous à domicile et transférer les résultats directement aux spécialistes grâce à une application mobile sur laquelle ils pourront renvoyer leurs conclusions répond parfaitement à ce nouveau besoin de commodité et de simplification du parcours patient.
Toujours plus de données
Avec Internet, on accède également à une nouvelle variété de données – des tweets, des blogs, des articles journalistiques et scientifiques, etc. – qui donnent lieu à l’émergence de nouveaux « signaux sanitaires » qu’il faut apprendre à détecter et à interpréter.
Ces données constituent un véritable corpus de savoir, mais sans structure. Tel un cerveau humain composé de neurones, le but de l’IA en médecine va être entre autres de construire des connexions entre ces données éparses pour en tirer une expertise. Il est évident qu’au-delà des avancées et bénéfices non négligeables qu’apporte la Tech dans la santé, il est primordial de se poser la question du traitement et de la sécurité de données aussi sensibles. Une question à laquelle nombre de startups sont encore incapables de répondre même si la régulation, surtout en Europe, se fait de plus en plus stricte.
Pour conclure, les 3 questions les plus souvent posées par les praticiens faisant face à l’implémentation d’une solution IA dans leur service sont:
- Est-ce que ça va marcher (dans mon contexte, avec mes patients) ?
- Serais-je toujours payé pour mon travail ?
- Quel sera mon niveau de responsabilité légale ?
Des questions auxquelles nous n’avons pas encore toutes les réponses, surtout à la première qui est très complexe et doit prendre en compte les patients traités, la spécialité des soins dispensés et les locaux visés. 2021 a du pain sur la planche. L’espérance cependant : que l’IA réhumanise le secteur médical et permette au personnel soignant de s’occuper des humains, et non plus des machines.
Et si vous souhaitez en savoir plus, n’hésitez pas à suivre notre newsletter et à nous partager votre intérêt, nous sommes en pleine rédaction de notre prochain ouvrage : « IA et Santé, le défi clef de notre futur ! »
Le contributeur :
Jean-Noël Chaintreuil est le fondateur de Change Factory, laboratoire d’acculturation et d’accompagnement au changement où l’humain est au centre. Les missions principales sont la compréhension des cultures, l’accompagnement des Comex, les transformations culturelles et la mise en application de stratégies de rupture.
Il intervient également diverses universités (La Sorbonne, Sciences Po, Berkeley, Dauphine, Sorbonne Abu Dhabi, etc.) sur le futur du travail, les ressources humaines, les transformations culturelles et accompagne les programmes d’intrapreneuriat.
Vous pouvez retrouver ses articles sur Quora,
Les contributeurs sont des auteurs indépendants de la Rédaction de FrenchWeb. Leurs propos et positions leurs sont personnels.
Nous ne diffusons pas de tribunes produites à des objectifs de RP, ou de SEO.
Pour communiquer sur FrenchWeb ou le Journal des RH, devenez partenaire, cliquez ici.
