Une expérience troublante avec ChatGPT Health
Ce mois-ci, ChatGPT Health a lancé une nouvelle intégration avec Apple Health et d'autres fournisseurs de données. Geoffrey A. Fowler, chroniqueur technologique au Washington Post, a décidé de partager ses données d'Apple Watch dans le cadre de cette initiative, mais les résultats ont été pour le moins déconcertants.
Un accès aux données personnelles
Fowler a déclaré : « En tant qu'utilisateur quotidien d'Apple Watch, je me suis longtemps interrogé sur ce que révélerait une décennie de données à mon sujet. » Il a ainsi rejoint une liste d'attente pour permettre à ChatGPT d'accéder à ses 29 millions de pas et 6 millions de mesures de rythme cardiaque, stockés dans son application Apple Health.
Une évaluation alarmante
Après avoir demandé à ChatGPT d'évaluer sa santé cardiaque, la réponse a été sans appel : « F ». Cette note a provoqué une panique chez Fowler, qui a décidé de sortir courir pour se rassurer. Il a ensuite transmis le rapport de ChatGPT à son médecin.
La réaction du médecin
Le médecin de Fowler a calmé ses inquiétudes : « Non, je ne pense pas que vous soyez un F. En réalité, vous êtes à un si faible risque de crise cardiaque que votre assurance ne couvrirait probablement même pas un test de condition cardiaque supplémentaire pour prouver que l’intelligence artificielle avait tort. »
Des erreurs d’interprétation
Fowler a noté que la note négative de ChatGPT était fondée sur plusieurs interprétations erronées de ses données de santé. Par exemple, « ChatGPT Health a basé une grande partie de son évaluation négative sur le VO2 max, qui, selon Apple, n'est qu'une estimation. » Bien que ces mesures puissent être utiles pour suivre les tendances, elles ne sont pas suffisamment précises sans équipement spécialisé.
Des variations de rythme cardiaque mal interprétées
Un autre problème relevé par Fowler était que les variations de son rythme cardiaque au repos, survenues lors de l'utilisation d'une nouvelle Apple Watch, n'étaient pas réelles mais résultaient de mises à jour des capteurs. « Cela n’a pas semblé être pris en compte dans l’évaluation de ChatGPT », a-t-il ajouté.
Incohérences dans les réponses
Un autre aspect troublant a été l'incohérence des évaluations fournies par ChatGPT. « Lorsque j’ai demandé à nouveau la même question sur la longévité cardiaque, ma note est soudainement passée à un C. J’ai continué à poser la même question, observant le score osciller entre un F et un B. »
Des informations clés ignorées
Au cours de ses échanges avec ChatGPT, Fowler a constaté que l’intelligence artificielle avait omis des informations cruciales, telles que son sexe, son âge et certains signes vitaux récents. Bien qu'elle ait eu accès à ses résultats de tests sanguins, ChatGPT ne les a pas toujours utilisés dans son analyse.
Une préoccupation croissante
Pour quiconque ayant déjà utilisé un chatbot d'intelligence artificielle, ces problèmes ne sont guère surprenants. Cependant, pour un produit censé fournir des conseils de santé, ces erreurs soulèvent des inquiétudes majeures. En réponse à ces préoccupations, Apple travaillerait actuellement sur un service "Health+" propulsé par l'intelligence artificielle, qui est prévu pour plus tard cette année.
Partagez votre expérience
Les premiers retours sur ChatGPT Health mettent en lumière deux questions essentielles : Êtes-vous déjà devenu utilisateur de ChatGPT Health avec vos données Apple Health ? Quels résultats avez-vous obtenus ? N'hésitez pas à partager votre expérience dans les commentaires ci-dessous.
