"Développé en étroite collaboration avec des médecins"
OpenAI annonce ChatGPT Health
OpenAI, créateur du populaire chatbot ChatGPT, annonce une fonctionnalité distincte qui fournit des conseils de santé basés sur les dossiers médicaux et les applications de bien-être. ChatGPT Health sera déployé progressivement au cours des prochaines semaines, y compris en Europe.
Selon OpenAI, ChatGPT Health a été développé "en étroite collaboration avec des médecins". Cette fonctionnalité devrait aider les gens à comprendre et à prendre en charge leur santé et leur bien-être de manière plus active. OpenAI affirme qu'elle est destinée à soutenir les soins prodigués par les professionnels et qu'elle n'est pas destinée à établir un diagnostic ou un traitement.
Les utilisateurs peuvent relier leur dossier médical électronique à diverses applications de bien-être, telles que Apple Health, Function et MyFitnessPal. Selon OpenAI, cela devrait permettre de "comprendre les résultats de tests récents, de préparer les rendez-vous avec votre médecin et d'adopter une approche plus ciblée en matière de nutrition et d'entraînement".
Cela soulève immédiatement des questions sur la confidentialité des données de santé. Pas de problème, selon OpenAI, car ChatGPT Health est conçu "comme un espace séparé avec une confidentialité renforcée pour protéger les données sensibles". Les conversations au sein de ChatGPT Health ne sont pas utilisées pour entraîner nos modèles".
Les personnes qui soulèvent un problème de santé dans la version standard de ChatGPT sont invitées à passer à ChatGPT Health pour bénéficier de ces protections supplémentaires.
Le lien direct avec les dossiers médicaux électroniques (DME) n'est possible qu'aux États-Unis. Toutefois, cela n'empêche pas les utilisateurs de télécharger leurs propres données de santé, telles que les résultats de laboratoire et les rapports, par exemple au format PDF.
Selon OpenAI, la santé est l'un des sujets les plus fréquemment abordés par les utilisateurs de ChatGPT. "Selon notre analyse anonyme des conversations, plus de 230 millions de personnes dans le monde posent chaque semaine à ChatGPT des questions sur la santé et le bien-être."
Évalué avec un cadre d'évaluation propriétaire
ChatGPT Health a été développé en collaboration avec 260 médecins de 60 pays et de dizaines de spécialités, selon OpenAI. Ce groupe a donné son avis plus de 600 000 fois sur les réponses du modèle dans 30 domaines d'intérêt.
Le modèle de ChatGPT Health a été testé par rapport à des normes cliniques à l'aide de HealthBench, un cadre d'évaluation développé par OpenAI elle-même avec des critères d'évaluation définis par des médecins.
Un article récemment publié (preprint) met en garde contre le fait que les chatbots - même lorsqu'ils sont spécifiquement formés pour des applications médicales - sont facilement trompés par des détails saillants mais pas toujours pertinents dans la description. Par exemple, le fait de mentionner qu'une personne a récemment fait du camping conduit généralement à un diagnostic de "maladie de Lyme" plutôt qu'à celui, beaucoup plus probable, de "grippe".
