Designing digital health services that do not exclude women

Jusqu’en 1993, une recommandation de l’agence américaine du médicament (FDA) écartait les femmes en âge de procréer des premières phases d’essais cliniques. La même année, une loi américaine imposait d’inclure femmes et minorités dans la recherche clinique financée par les instituts nationaux de santé. Trois décennies plus tard, les connaissances médicales portent encore la trace de cette période, et les outils numériques qui s’appuient sur elles en héritent. La question santé numérique et genre n’est pas militante : elle porte sur la qualité du service rendu à la moitié de la population.

Ce guide s’adresse aux ministères, aux établissements de santé et aux équipes qui conçoivent ou achètent un service de santé numérique : dossier patient, téléconsultation, application de suivi, outil d’aide à la décision.

D’où viennent les biais

Ils ont rarement une origine intentionnelle. Ils naissent à trois endroits.

Dans les données. Un modèle de risque cardiovasculaire entraîné sur une population majoritairement masculine reconnaîtra moins bien les présentations fréquentes chez les femmes. Un outil d’aide au diagnostic nourri de dossiers où certaines plaintes féminines ont été moins investiguées reproduira cette moindre attention.

Dans la conception. Un parcours pensé pour une personne qui dispose de son propre téléphone, d’un moment libre en journée et d’une connexion stable ne correspond pas à la situation de nombreuses femmes, en particulier dans les pays où l’écart d’accès au mobile entre femmes et hommes reste marqué, comme le documentent chaque année les rapports de la GSMA sur ce sujet.

Dans l’accès et la sécurité. Une notification qui affiche le motif d’un rendez-vous sur l’écran verrouillé, un historique visible par un conjoint, un compte familial unique : pour une femme exposée à des violences ou à un contrôle de son entourage, ces choix de conception ont des conséquences graves.

Six décisions de conception

1. Distinguer sexe et genre dans les données, quand c’est nécessaireNe collecter ces informations que si la finalité l’exige, avec des catégories claires et une explication donnée à l’usager. Quand elles sont collectées, s’en servir : tous les indicateurs du service doivent pouvoir être désagrégés. Les recommandations SAGER, publiées en 2016 pour la recherche, offrent une grille utile au-delà des seules publications scientifiques.
2. Tester les algorithmes par sous-groupeExiger du fournisseur, ou mesurer soi-même, les performances d’un outil d’aide à la décision séparément pour les femmes et pour les hommes, et pour les tranches d’âge pertinentes. Un taux de détection global satisfaisant peut masquer un écart important. L’OMS, dans ses orientations sur l’éthique et la gouvernance de l’IA en santé publiées en 2021, fait de cette vérification un principe.
3. Concevoir pour le téléphone partagé et l’accès intermittentPrévoir l’accès sans application installée, par SMS ou service vocal, un parcours qui fonctionne sur un appareil modeste, la reprise d’une démarche interrompue, et un accompagnement par un agent de santé communautaire quand l’usagère ne peut pas ou ne veut pas utiliser un téléphone.
4. Protéger la confidentialité au quotidienNotifications neutres par défaut, sans motif médical visible ; possibilité de masquer certaines informations ; déconnexion rapide ; contrôle par l’usagère de qui accède à son dossier, y compris parmi ses proches. Ces protections servent tout le monde ; elles sont vitales pour certaines.
5. Écrire des contenus qui reflètent toutes les présentations cliniquesLes fiches d’information, les questionnaires de triage et les arbres de décision doivent intégrer les symptômes moins « typiques » mais fréquents chez les femmes, et couvrir des périodes souvent négligées : santé menstruelle, grossesse et post-partum, ménopause.
6. Associer des usagères à la conception et à l’évaluationDes tests avec des femmes de profils variés (âge, niveau de lecture, situation familiale, milieu rural ou urbain), dès les premières maquettes, révèlent des obstacles que l’équipe projet ne voit pas.

Le cas des données de santé reproductive

Les données de cycle menstruel, de contraception, de grossesse ou d’interruption de grossesse sont parmi les plus sensibles qui soient. Elles relèvent des catégories particulières de données au sens du RGPD et, selon les pays, leur divulgation peut exposer les personnes à des risques sociaux, familiaux ou juridiques.

Notre comparatif des applications de suivi de grossesse montre combien les pratiques varient d’un éditeur à l’autre sur ces points.

Appliquer la méthode à un service existant

Prenons, pour illustrer, un service de téléconsultation déjà en ligne, et passons-le au crible des six décisions. L’exercice prend une demi-journée avec l’équipe produit, un médecin et deux ou trois usagères.

On commence par l’inscription : le formulaire demande-t-il le sexe, et pour quoi faire ? Si la donnée sert à orienter vers un spécialiste ou à adapter un questionnaire de triage, elle a sa place ; si elle ne sert à rien, on la retire. On passe ensuite au questionnaire de pré-consultation : les douleurs thoraciques y sont-elles décrites seulement sous leur forme « classique » ? Les symptômes digestifs, la fatigue inhabituelle ou l’essoufflement, fréquents dans certaines présentations chez les femmes, sont-ils proposés ?

Vient ensuite le parcours technique. La consultation exige-t-elle une application installée et un compte personnel, ou peut-on rejoindre l’appel par un simple lien, depuis un téléphone partagé ? Que voit-on sur l’écran verrouillé quand le rappel de rendez-vous arrive ? Le compte rendu est-il envoyé par courriel, et à quelle adresse, si l’adresse a été saisie par un proche ?

On termine par les données de pilotage. Le service sait-il dire combien de femmes et d’hommes l’utilisent, par tranche d’âge, et à quelle étape ils abandonnent ? Si un outil d’aide au triage est utilisé, ses performances ont-elles été vérifiées par sous-groupe ?

Chaque réponse insatisfaisante devient une correction à planifier, souvent modeste : un libellé, un paramètre de notification, un champ supprimé. Les plus coûteuses, comme la refonte d’un algorithme, se décident en connaissance de cause.

Mesurer pour corriger

Un service ne s’améliore que sur ce qu’il mesure. Pour savoir s’il exclut une partie de ses usagers, il faut quelques indicateurs suivis dans la durée.

• Taux d’inscription et d’usage actif, par sexe et par tranche d’âge, rapportés à la population cible.
• Taux d’abandon à chaque étape du parcours, désagrégé de la même manière.
• Performances des outils d’aide à la décision par sous-groupe, revues à chaque mise à jour du modèle.
• Signalements liés à la confidentialité ou à la sécurité, analysés avec les équipes de terrain.
• Retour qualitatif régulier d’usagères, recueilli par des entretiens et pas seulement par des questionnaires en ligne.

Ces mesures supposent un système qui sait produire des indicateurs désagrégés sans exposer les données individuelles. C’est l’un des principes de notre produit Betz pour le dossier patient partagé, et un fil conducteur de notre expertise santé numérique. Pour aller plus loin sur l’architecture d’ensemble, notre guide complet du dossier patient partagé détaille gouvernance, consentement et indicateurs.

Le premier pas est modeste : reprendre les indicateurs de votre service actuel et vérifier s’ils peuvent être désagrégés. S’ils ne le peuvent pas, vous savez par où commencer.

Questions fréquentes

Pourquoi parler de genre et pas seulement de sexe ?

Le sexe renvoie aux caractéristiques biologiques ; le genre aux rôles, normes et conditions sociales. Les deux influencent la santé : le sexe agit sur certaines maladies et sur la réponse aux traitements, le genre sur l'accès aux soins, le temps disponible, la possession d'un téléphone ou la liberté de consulter. Un service numérique doit tenir compte des deux.

Faut-il collecter le sexe et le genre des usagers ?

Seulement si c'est utile à la finalité du service et proportionné, conformément au principe de minimisation des données. Quand l'information est nécessaire, par exemple pour un calcul de risque clinique ou pour des indicateurs désagrégés, il faut la recueillir avec des catégories claires, expliquer pourquoi, et protéger la donnée en conséquence.

Comment vérifier qu'un algorithme n'est pas biaisé ?

En mesurant ses performances séparément pour les femmes et pour les hommes, et pour d'autres sous-groupes pertinents (âge, origine géographique), sur des données représentatives de la population servie. Un écart important doit être compris et corrigé avant le déploiement, puis surveillé ensuite.