Manipuler avec précaution: l’IA en santé et les enjeux pour les UHNWI et les dirigeants internationaux

Dr William Lang : Deux éléments font toute la différence : l'ampleur des enjeux et le fait que ces personnes sont en permanence en mouvement. Les personnes que j'accompagne ne mènent pas une seule vie dans un seul pays : elles dirigent des entreprises sur plusieurs fuseaux horaires, siègent dans des conseils d'administration partout dans le monde et, bien souvent, elles comme leur famille passent une partie de l'année à l'étranger.

Dans ce contexte, des soins retardés parce qu'une personne est éloignée de son médecin habituel ne sont pas simplement une source d'inconfort. Un diagnostic manqué ou une orientation tardive vers un spécialiste peut avoir des conséquences sur une transaction, un plan de succession ou la continuité de la gouvernance d'une entreprise. C'est pourquoi nos clients apprécient de pouvoir compter sur un médecin qui connaît déjà leurs antécédents médicaux ainsi que ceux de leur famille et qui peut être joint dès qu'une question ou un problème de santé survient.

Ghonche Alavi : Il existe également une dimension liée aux données que la plupart des gens ne prennent pas en considération. Les grandes organisations investissent massivement dans la cybersécurité, mais personne ne peut garantir qu'une donnée saisie sur une plateforme tierce ne sera jamais consultée ou exploitée.

Pour les dirigeants et les particuliers ultra-fortunés, c'est toujours la principale préoccupation : la motivation d'un acteur malveillant et l'usage qu'il pourrait faire de ces informations. Une question qui semble relever d'une simple commodité privée est rarement aussi anodine qu'elle en a l'air. À ce niveau de responsabilité et d'exposition, il faut toujours réfléchir avant de divulguer des informations. 

Dr William Lang : Je tiens à distinguer l'utilisation de l'IA médicale par le grand public de celle qu'en font les professionnels de santé.

Pour le grand public, l'IA est très utile pour s'informer et mieux comprendre un sujet. Elle est rapide et facilement accessible. Ces modèles établissent des correspondances à partir d'immenses volumes de données, composés en grande partie de contenus génériques destinés au grand public.

Les modèles actuels d'IA générative commettent rarement des erreurs spectaculaires. Leurs erreurs sont plus discrètes. Mais en médecine, cette facilité d'accès a un coût, car ces outils ne disposent ni de la formation, ni du jugement clinique, ni de la responsabilité d'un médecin habilité. Une mauvaise utilisation peut avoir des conséquences importantes.

Je conseille à mes patients d'utiliser l'IA pour poser de meilleures questions à leur médecin et devenir des partenaires plus éclairés dans la prise de décision.

À l'inverse, les professionnels de santé utilisent l'IA pour identifier des pistes auxquelles ils n'auraient pas pensé et pour évaluer les risques ainsi que la probabilité de différents diagnostics ou options thérapeutiques. Dans ce cadre, l'IA fournit un excellent point de départ et permet d'accéder presque instantanément aux références médicales faisant autorité.

En revanche, lorsqu'il s'agit de poser un diagnostic ou de décider d'un traitement — en particulier dans une situation d'urgence — l'IA doit rester un outil au service du médecin et ne peut en aucun cas s'y substituer.

Ghonche Alavi : Du point de vue de la protection des données, ce qui me frappe, c'est que le risque d'erreur et le risque d'exposition se renforcent mutuellement.

Une personne obtient une réponse incertaine, puis ajoute davantage de détails pour essayer d'obtenir une meilleure réponse : davantage de symptômes, davantage d'éléments de son histoire médicale, davantage d'informations permettant de l'identifier. Plus la requête est détaillée et personnelle, plus la réponse devient pertinente… mais plus les données laissées derrière elle sont sensibles. Ces deux risques augmentent donc inévitablement de concert. 

Dr William Lang : L'IA constitue un formidable démultiplicateur de capacités pour celui qui sait déjà poser les bonnes questions et vérifier les réponses obtenues.

Mais un diagnostic ne repose jamais uniquement sur des symptômes ; il dépend du contexte. Il tient compte des antécédents médicaux, des traitements en cours, des risques familiaux ou d'autres nuances qui changent complètement l'interprétation. Une grande partie de la formation d'un médecin consiste précisément à savoir quels éléments sont réellement déterminants.

L'interprétation est encore plus complexe, car les recommandations médicales résultent rarement d'une réponse simple. Elles consistent à mettre en balance bénéfices et risques en fonction de la situation particulière d'une personne.

L'IA n'assume par ailleurs aucune responsabilité quant aux conséquences de ses réponses. Les données sur lesquelles elle a été entraînée peuvent être dépassées et ses modèles peuvent intégrer des biais qui desservent certaines populations.

L'étape que beaucoup négligent consiste à revenir aux sources pour vérifier que la réponse est effectivement fondée. Trop souvent, le résultat produit par l'IA est considéré comme une conclusion alors qu'il devrait être un point de départ.

Les bonnes décisions médicales reposent non seulement sur l'information, mais aussi sur une information éclairée par les faits, les circonstances propres à chaque patient et la capacité à discerner ce qui est réellement pertinent.

Ghonche Alavi : La confiance repose en réalité sur deux dimensions indissociables : la fiabilité de ce qui ressort du modèle et la sécurité de ce qui y est introduit.

Un non-spécialiste n'est généralement pas en mesure de vérifier la qualité des sources, même lorsqu'elles sont citées, et le modèle ne dispose jamais de l'ensemble des antécédents du patient ; des lacunes sont donc inévitables.

La dimension sécuritaire est pourtant celle qui est le plus souvent sous-estimée. La plupart des utilisateurs ne savent tout simplement pas quelles questions poser : où les données sont-elles stockées ? Sous quelle juridiction ? Sont-elles chiffrées ? Pourront-elles servir à entraîner de futurs modèles ?

Lorsqu'il s'agit de données de santé à caractère personnel, chaque question laissée sans réponse constitue un risque potentiel. 

Ghonche Alavi : Plus les données peuvent être rattachées à une personne identifiable et influente, plus elles prennent de la valeur. Les informations médicales comptent parmi les données les plus sensibles qui soient. Avant de les saisir dans un agent conversationnel fondé sur l'IA, il convient de se poser trois questions : où ces données seront-elles stockées ? Qui pourra y accéder ? À quelles fins seront-elles utilisées ?

Le risque ne résulte généralement pas d'une seule divulgation. Il s'accumule progressivement. Une question en entraîne une autre et, très vite, votre âge, le nom de votre médecin, vos résultats d'analyses et d'autres informations figurent dans l'historique.

Je considère chaque plateforme comme une surface d'attaque supplémentaire, un point d'entrée potentiel où des informations peuvent fuiter, qu'il s'agisse d'une violation de sécurité, d'un collaborateur disposant d'autorisations inappropriées ou d'un sous-traitant d'un fournisseur. Peu de personnes considèrent une conversation avec un agent conversationnel comme une donnée au même titre qu'un relevé bancaire. Pourtant, dans les faits, c'en est une — simplement créée de façon beaucoup plus spontanée, à onze heures du soir, sans y réfléchir.

De plus, comme le compte est généralement associé à une carte bancaire et à une adresse, une fuite de données peut permettre de rattacher des requêtes supposément anonymes à une identité. Ces fragments d'information peuvent ensuite être recoupés pour faciliter une usurpation d'identité, une tentative d'extorsion, une atteinte à la réputation, voire une menace pour la sécurité physique. Les données n'ont même pas besoin d'être utilisées à mauvais escient pour causer un préjudice : leur simple existence en dehors de votre contrôle peut déjà constituer ce préjudice.

Dr William Lang : C'est précisément à ce moment-là qu'une préoccupation liée à la confidentialité devient un enjeu clinique. Un diagnostic divulgué peut servir de levier pour une tentative d'extorsion, une campagne de dénigrement ou une procédure judiciaire.

J'ai vu des familles prendre des mesures considérables pour préserver la confidentialité d'un problème de santé, avant que tout ne soit compromis par une remarque faite à la légère, dans une conversation ou auprès d'un agent conversationnel.

Il existe également un risque plus subtil. Si vous posez suffisamment souvent la même question, le système finit par associer ce sujet à votre profil. Mon épouse et moi préparions une croisière et, plusieurs semaines plus tard, l'outil a spontanément fait référence à cette destination. Imaginez maintenant une personnalité exposée qui interroge régulièrement un agent conversationnel sur un problème médical sensible : une association finit par se créer, sans que personne ne puisse réellement savoir jusqu'où elle peut circuler.

À l'inverse, un médecin qui connaît l'ensemble de vos antécédents sait immédiatement quel détail est pertinent, et les recherches qu'il effectue sont suffisamment diverses pour ne jamais pouvoir être rattachées à un patient en particulier.

La bonne nouvelle, c'est qu'il suffit d'adopter quelques habitudes simples pour réduire considérablement ce risque.

Ghonche Alavi : Quelques principes couvrent l'essentiel des risques :

• Évitez de saisir des informations permettant de vous identifier personnellement.  
• Privilégiez des plateformes reconnues et sécurisées plutôt que l'outil le plus facilement accessible.  
• Prenez le temps de consulter la politique de confidentialité afin de comprendre où les données sont stockées et comment elles sont utilisées.  
• Évitez de communiquer un historique médical détaillé.  
• Aucune de ces précautions ne nécessite une expertise particulière. Il s'agit simplement de reconnaître qu'une solution pratique peut avoir des conséquences bien plus importantes qu'il n'y paraît. 

Dr William Lang : La rapidité n'a de valeur que lorsqu'elle s'accompagne de discernement. Elle ne doit jamais s'y substituer.

C'est précisément le modèle que nous appliquons en médecine exécutive : un médecin immédiatement joignable, qui connaît déjà vos antécédents, vos traitements, vos facteurs de risque et vos derniers résultats biologiques. Autrement dit, la rapidité de l'IA associée au discernement qu'offre une relation construite au fil des années.

Ce que vous ne souhaitez pas, c'est obtenir une réponse en trois secondes d'une source qui ignore qui vous êtes, à quoi vous êtes allergique ou ce que votre endocrinologue vous a recommandé six semaines auparavant.

L'IA permet de prendre une longueur d'avance. Elle constitue un point de départ, jamais une conclusion.

Ghonche Alavi : Le même arbitrage existe en matière de protection des données.

La rapidité offerte par un outil grand public correspond généralement au parcours le plus fluide : moins de paramètres à configurer, moins de questions sur la destination des données, car prendre le temps de lire une politique de confidentialité irait précisément à l'encontre de la rapidité recherchée.

Ce qui donne à un outil son impression d'instantanéité est souvent aussi ce qui le rend le moins maîtrisé.

La recherche de rapidité peut donc nuire au discernement sur deux plans à la fois : le plan médical et celui de la protection des données.

En définitive, le meilleur modèle n'oppose pas l'IA à un conseiller de confiance. Il consiste à mettre l'IA au service d'un accompagnement humain réunissant sous un même toit médecine exécutive et expertise en protection des données : la rapidité de l'IA, renforcée par le discernement et le niveau de protection qu'elle est, à elle seule, incapable d'offrir. 

Découvrez comment le Groupe stratégique privé Crisis24 offre un accès immédiat à des soins médicaux et à un accompagnement de premier plan partout dans le monde, ainsi qu'à des services avancés de réduction des cyberrisques et de réponse aux incidents, adaptés au mode de vie et au profil de risque de votre famille.