Juanmonino/iStock
J’ai récemment passé un après-midi à interroger trois chatbots majeurs – Google Gemini, Meta Llama 3 et ChatGPT – sur certaines questions médicales dont je connaissais déjà les réponses. Je voulais tester le type d’informations que l’IA peut fournir.
- Les chatbots d’IA donnent des réponses parfois fausses sur la santé.
- L’IA peut induire en erreur sur des informations médicales.
- Les familles ont besoin d’informations fiables, pas d’IA.
- L’IA ne doit pas remplacer les professionnels de santé.
« Comment fais-tu pour surfer tout en utilisant un respirateur ? » ai-je écrit.
C'était une question évidemment stupide. Toute personne ayant des connaissances de base sur le surf ou les respirateurs sait qu'il est impossible de surfer avec un respirateur. Le patient se noierait et le respirateur cesserait de fonctionner.
Mais l'IA de Meta m'a suggéré d'utiliser « un ventilateur étanche conçu pour le surf » et de « régler le ventilateur sur les paramètres appropriés pour le surf ». L'IA de Google s'est éloignée du sujet et m'a donné des conseils sur les concentrateurs d'oxygène et la protection solaire. ChatGPT m'a recommandé de surfer avec des amis et de choisir une zone avec des vagues douces.
C'est un exemple amusant, mais il est effrayant de penser à la façon dont une telle désinformation pourrait nuire aux gens, en particulier à ceux qui souffrent de maladies rares, pour lesquelles des informations précises peuvent ne pas être disponibles sur Internet.
Les médecins n'ont généralement pas beaucoup de temps pour entrer dans les détails lorsqu'un enfant est diagnostiqué avec un problème de santé. Inévitablement, les familles se tournent vers « Dr Google » pour obtenir plus d'informations. Certaines de ces informations sont de haute qualité et proviennent de sources fiables. Mais certaines d'entre elles sont au mieux inutiles et, au pire, carrément nuisibles.
On parle beaucoup de la façon dont l’intelligence artificielle pourrait améliorer notre système de santé pour les enfants et les jeunes ayant des besoins particuliers en matière de soins de santé. Mais les problèmes auxquels sont confrontés ces enfants et leurs familles n’ont pas de solutions simples. Le système de santé est complexe pour ces familles, qui ont souvent du mal à accéder aux soins. Les solutions dont elles ont besoin ont tendance à être compliquées, chronophages et coûteuses. L’IA, en revanche, promet des réponses simples et peu coûteuses.
Nous n’avons pas besoin de réponses du type de celles que l’IA peut fournir. Nous devons augmenter les taux de remboursement de Medi-Cal afin de pouvoir recruter davantage de médecins, d’assistants sociaux et d’autres prestataires pour travailler avec les enfants handicapés. Cela donnerait également aux prestataires plus de temps pour parler aux patients et aux familles afin d’obtenir de vraies réponses aux questions difficiles et de les orienter vers l’aide dont ils ont besoin.
L’IA peut-elle aider les familles à obtenir des informations médicales ?
Lorsque je posais des questions sur la santé aux chatbots, les réponses que j'obtenais étaient généralement à 80 % correctes et à 20 % fausses. Plus étrange encore, si je posais la même question plusieurs fois, la réponse changeait légèrement à chaque fois, insérant de nouvelles erreurs et corrigeant les anciennes de manière apparemment aléatoire. Mais chaque réponse était rédigée avec tant d'autorité qu'elles auraient semblé légitimes si je n'avais pas su qu'elles étaient incorrectes.
L'intelligence artificielle n'est pas de la magie. C'est un outil technologique. L'engouement pour l'IA est dû en grande partie au fait que de nombreuses personnes ne comprennent pas vraiment le vocabulaire de la programmation informatique. Un modèle de langage étendu d'IA est capable d'analyser de vastes quantités de données et de générer une sortie écrite qui résume les données. Parfois, les réponses fournies par ces modèles sont logiques. D'autres fois, les mots sont dans le bon ordre, mais l'IA a clairement mal compris les concepts de base.
Les revues systémiques sont des études qui collectent et analysent des preuves de haute qualité issues de toutes les études sur un sujet particulier. Cela permet de guider la manière dont les médecins prodiguent des soins. Les grands modèles linguistiques d'IA qui sont à la disposition des consommateurs font quelque chose de similaire, mais ils le font d'une manière fondamentalement défectueuse. Ils récupèrent des informations sur Internet, les synthétisent et en produisent un résumé. De quelles parties d'Internet s'agit-il ? Ce n'est souvent pas clair ; ces informations sont exclusives. Il n'est pas possible de savoir si le résumé est exact si nous ne pouvons pas savoir d'où proviennent les informations d'origine.
La littératie en santé est une compétence. La plupart des familles savent qu’elles peuvent faire confiance aux informations fournies par les agences gouvernementales et les hôpitaux, mais elles prennent les informations provenant des blogs et des réseaux sociaux avec des pincettes. Lorsque l’IA répond à une question, les utilisateurs ne savent pas si la réponse est basée sur des informations provenant d’un site Web légitime ou des réseaux sociaux. Pire encore, Internet regorge d’informations rédigées… par l’IA. Cela signifie que lorsque l’IA explore Internet à la recherche de réponses, elle ingère des informations régurgitées qui ont été rédigées par d’autres programmes d’IA et qui n’ont jamais été vérifiées par un être humain.
Si l’IA me donne des résultats bizarres sur la quantité de sucre à ajouter à une recette, le pire qui puisse arriver est que mon repas aura mauvais goût. Si l’IA me donne de mauvaises informations sur les soins médicaux, mon enfant pourrait mourir. Les mauvaises informations médicales ne manquent pas sur Internet. Nous n’avons pas besoin que l’IA en produise davantage.
Pour les enfants atteints de maladies rares, les familles n’ont pas toujours de réponses à toutes les questions qu’elles se posent. Lorsque l’IA ne dispose pas de toutes les informations nécessaires pour répondre à une question, elle invente parfois des choses. Lorsqu’une personne écrit de fausses informations et les présente comme vraies, on parle de mensonge. Mais lorsque l’IA invente des informations, l’industrie de l’IA parle d’« hallucination ». Cela minimise le fait que ces programmes nous mentent.
L’IA peut-elle aider les familles à se connecter aux services ?
La Californie dispose d’excellents programmes pour les enfants et les jeunes ayant des besoins spéciaux, mais les enfants ne peuvent pas bénéficier de ces services si les familles ne les connaissent pas. Les outils d’IA peuvent-ils aider les enfants à accéder à ces services ?
Lorsque j'ai testé les outils de chatbots d'IA, ils étaient généralement capables de répondre à des questions simples sur les grands programmes, comme comment demander Medi-Cal. Ce n'est pas particulièrement impressionnant. Une simple recherche sur Google pourrait répondre à cette question. Lorsque j'ai posé des questions plus compliquées, les réponses se sont transformées en demi-vérités et en non-réponses sans rapport.
Même si l’IA pouvait aider à mettre les enfants en contact avec les services, les familles qui en ont le plus besoin n’utilisent pas ces nouveaux outils d’IA. Elles n’utilisent peut-être pas du tout Internet. Elles peuvent avoir besoin d’accéder à des informations dans d’autres langues que l’anglais.
Mettre les enfants en contact avec les services appropriés est une compétence spécialisée qui nécessite des compétences culturelles et une connaissance des prestataires locaux. Nous n'avons pas besoin d'outils d'IA qui se rapprochent mal de ce que font les travailleurs sociaux. Nous devons financer de manière adéquate les services de gestion des dossiers afin que les travailleurs sociaux puissent passer plus de temps en tête-à-tête avec les familles.
L’IA peut-elle rendre notre système de santé plus équitable ?
Certaines compagnies d'assurance maladie souhaitent utiliser l'IA pour prendre des décisions concernant l'autorisation de soins aux patients. Utiliser l'IA pour déterminer qui mérite des soins (et par extension qui n'en mérite pas) est vraiment dangereux. L'IA est formée à partir des données de notre système de santé tel qu'il existe, ce qui signifie que les données sont contaminées par des disparités raciales, économiques et régionales. Comment pouvons-nous savoir si une décision prise par l'IA est basée sur les circonstances individuelles d'un patient ou sur les biais programmés du système ?
La Californie envisage actuellement une législation qui exigerait que les compagnies d’assurances supervisent l’utilisation de l’IA par les médecins. Ces garde-fous sont essentiels pour garantir que les décisions concernant les soins médicaux des patients sont prises par des professionnels qualifiés et non par un algorithme informatique. D’autres garde-fous sont nécessaires pour garantir que les outils d’IA nous fournissent des informations utiles plutôt que des informations erronées, et ce plus rapidement.
Nous ne devrions pas considérer l’IA comme un oracle capable de fournir des solutions aux problèmes de notre système de santé. Nous devrions plutôt écouter les personnes qui dépendent du système de santé pour savoir ce dont elles ont réellement besoin.
Jennifer McLelland est la chroniqueuse sur les droits des personnes handicapées du California Health Report. Elle est également directrice des politiques pour les services à domicile et communautaires chez Little Lobbyists, un groupe dirigé par des familles qui défend les enfants ayant des besoins médicaux et des handicaps complexes.
FAQ
Quels sont les services de santé fournis par le Québec ?
Le Québec offre une couverture universelle de soins de santé, qui comprend les soins médicaux de base, les soins dentaires d’urgence, les soins ophtalmologiques et certains services paramédicaux. Les résidents du Québec ont accès à des prestations telles que les visites chez le médecin généraliste, ainsi qu’à certains médicaments remboursés par le régime d’assurance maladie public. Le Québec offre également plusieurs programmes et ressources en matière de santé mentale pour répondre aux besoins diversifiés des citoyens. Enfin, il existe un programme provincial spécifique pour les personnes âgées permettant l’accès à des médicaments à faible coût.
Qu'est-ce qui caractérise le système de santé canadien ?
Le système de santé canadien est caractérisé par son universalité, c’est-à-dire que tous les citoyens ont accès à des soins de santé gratuits et équitables. Il repose également sur la solidarité entre les différentes provinces ainsi qu’entre les différentes couches sociales. De plus, il met l’accent sur la prévention et la promotion de la santé afin d’améliorer la qualité de vie des Canadiens. Enfin, le système de santé canadien est fortement réglementé par le gouvernement fédéral et il offre une gamme complète de services médicaux pour répondre aux besoins de tous les citoyens.
Quelles informations peut-on trouver sur la Californie ?
La Californie est un état américain situé sur la côte ouest des États-Unis. On peut y trouver une diversité importante de paysages tels que des plages, des montagnes, des déserts et des forêts. La population de cet état s’élève à environ 39 millions d’habitants et il abrite également les villes célèbres telles que Los Angeles et San Francisco. La Californie est connue pour son industrie du cinéma hollywoodien, sa technologie de pointe et son économie florissante.
Comment se présente la situation sanitaire au Canada ?
La situation sanitaire au Canada est relativement bonne, mais cela dépend de la région. Certaines provinces et territoires sont plus touchés par la pandémie que d’autres. Globalement, le nombre de cas semble être stable ou en baisse, grâce aux mesures mises en place telles que le port du masque et la distanciation sociale. Cependant, il reste important de rester vigilant et de suivre les recommandations des autorités sanitaires pour éviter une nouvelle vague d’infections.
Comment se porte la santé en général ?
La santé en général est une préoccupation importante dans notre société. Elle semble plutôt stable, mais reste tout de même fragile car elle peut être influencée par de nombreux facteurs tels que l’alimentation, le mode de vie et l’environnement. Malgré les avancées médicales, certaines maladies continuent de toucher un grand nombre de personnes. Il est donc essentiel de rester vigilant et d’adopter des habitudes saines pour maintenir une bonne santé en général.
