Se mettre à la place de l'autre

Dans ce cinquième blog de la « Garder la lumière allumée : Réflexions sur l’IEG et l’IA en Afrique" série, Dr Elizabeth Oseku, coordinatrice du projet pour la Centre d'intelligence artificielle pour la santé maternelle, sexuelle et reproductive en Afrique subsaharienne(HASH), membre d'IAPD, revient sur son parcours personnel et celui de son hub pour se mettre à la place de la diversité des personnes ayant des besoins en matière de santé sexuelle et reproductive. Elle réfléchit à l'importance de données plus intersectionnelles dans les solutions basées sur l'IA.

Les filles peuvent faire ce que les garçons peuvent faire

Notre projet, le Centre d'intelligence artificielle en santé maternelle, sexuelle et reproductive, a débuté en novembre 2021 avec une équipe multidisciplinaire composée de médecins, de spécialistes des sciences sociales, d’informaticiens et de spécialistes des données. En tant qu’équipe, la majorité d’entre nous avait une idée générale de ce que signifiaient le genre, l’équité et l’inclusion. Pour la plupart d’entre nous, cela signifiait une action positive pour assurer la représentation des femmes et parvenir à l’équilibre entre les sexes.

Nous étions sûrs qu'en tant qu'équipe, nous nous en sortions au moins bien dans ce domaine ; après tout, notre chef Chercheur principal est une femme ! Et au cas où nous aurions oublié quelque chose, l'une de nos informaticiennes (une femme, soit dit en passant) était une experte en genre et couvrirait cela.

En tant qu’individu, mes idées sur l’égalité des chances se résumaient à croire que les filles pouvaient faire ce que les garçons pouvaient faire. Donc, tant que les filles pouvaient avoir accès à l’éducation et à un travail gratifiant, je n’avais pas grand-chose à dire. J’ai grandi dans un environnement qui n’a jamais étouffé mes ambitions, c’est pourquoi j’ai pensé que chaque fille devait grandir avec cette liberté.

Nous avons vu les choses d’une manière que nous n’avions jamais vue auparavant

Au fur et à mesure de l'avancement du projet, IAPD et le CRDI ont organisé divers moyens pour en apprendre davantage sur le concept de GEI. Ils ont partagé des documents de lecture, organisé des webinaires et nous ont assigné notre propre expert en genre de Gender At Work. Marie-Katherine (Kate) WallerKate a planifié des rencontres régulières avec nous et nous a aidés à explorer nos perceptions du concept.

En nous écoutant mutuellement, nous avons vu les choses d’une manière que nous n’avions jamais vue auparavant. Nous avons vu des différences entre les sexes et au sein de chaque sexe. Nous avons chacun acquis une meilleure compréhension de la manière dont les différences de genre influencent la liberté, la compétence et la confiance avec lesquelles les personnes font des choix concernant leur propre corps, leur avenir et leur santé. Nous avons également constaté qu’au sein d’un même sexe, le chemin vers l’exercice de tous ses droits n’est pas toujours linéaire et dépend de l’origine et de l’exposition de chacun.

Ces constatations nous ont fait découvrir le concept d’intersectionnalité. Je suis amenée à réfléchir, par exemple, aux quatre principes de l’éthique médicale qui sont censés guider la pratique médicale : l’autonomie, la bienfaisance, la justice et la non-malfaisance. Ces principes ont eux aussi été appliqués plus ou moins historiquement, en fonction des facteurs complexes de l’intersectionnalité tels que le sexe, la religion, la race, le niveau d’éducation, l’âge, l’ethnicité, etc.

En ce qui concerne l’IA pour la santé, nous avons constaté que du point de vue de l’IEG, contrairement à ce qui est habituellement le cas, dans notre domaine de la santé maternelle, sexuelle et reproductive (MSRH), ce sont généralement les hommes qui sont sous-représentés dans les données et il est donc plus probable qu’il y ait un biais en faveur du développement d’outils d’IA qui profitent davantage aux femmes qu’aux hommes.

L'un de nos data scientists masculins, La sagesse favorise César, a été tellement séduit par le GEI que lorsque Kate a suggéré que nous sélectionnions un groupe spécifique de personnes de notre équipe pour défendre le GEI pour notre projet, il a proposé de le diriger. En tant qu'innovateur en IA, il a estimé que le domaine de l'IA avait besoin d'un cadre pour réfléchir au GEI dans l'IA pour la MSRH, compte tenu des multiples facteurs associés. C'est pourquoi notre équipe s'est attachée à développer ce cadre. Notre équipe a également commencé à représenter HASH lors des sessions du Peer Learning Journey où nous avons partagé nos expériences avec d'autres membres d'IAPD.

Lorsque nous avons intégré nos dix sous-bénéficiaires, nous avons réalisé qu'ils se trouvaient dans une situation similaire à celle où nous étions au début de notre projet en termes d'IEG. Ayant maintenant un peu grandi nous-mêmes, nous savions quoi faire. Nous connaissions la valeur des ressources de connaissances, de la communauté et du mentorat, et nous avons donc mis en place des mécanismes pour les reproduire. Depuis lors, nous avons créé un club d'IEG qui organise régulièrement des sessions axées sur l'IEG et nous travaillons également sur notre cadre pour guider l'intégration de l'IEG dans un projet d'IA MSRH. Nous effectuons également des contrôles trimestriels avec nos sous-bénéficiaires où l'IEG est mis en avant. Lors de ces contrôles, nos champions d'équipe d'IEG ont tenu à sonder comment l'IEG peut être davantage intégrée dans les projets à différentes étapes du projet, par exemple la collecte de données, l'analyse de données, les tests utilisateurs, etc.

À l'avenir

Alors que notre projet touche à sa fin, j’ai appris que l’une des clés de la mise en pratique de l’IGE dans l’IA est de se mettre à la place d’une autre personne. C’est seulement à ce moment-là que des concepts comme l’éthique, l’intersectionnalité et les préjugés prennent vie. L’un des moments d’éclaircissement pour moi a été de réaliser que la précision d’un outil d’IA qui prédit les fausses couches peut être améliorée en ajoutant des données sur des facteurs sociaux comme la violence conjugale. Pourtant, dans les ensembles de données cliniques habituels qu’un développeur pourrait penser collecter, cela peut ne pas être présent. Il faudrait imaginer la vie de différentes mères qui viennent dans une clinique pour planifier ce type d’ensemble de données. Il y a tellement de choses que nous ne voyons jamais ou auxquelles nous ne pensons jamais lorsque nous ne voyons les choses qu’à travers notre propre lentille myope. Ce fut tout un voyage. J’ai maintenant beaucoup à dire, mais il me reste encore beaucoup à apprendre.

Le Dr Elizabeth Oseku, MBChB, MSc PH, est médecin, spécialiste en santé publique et chef de projet à l'Institut des maladies infectieuses en Ouganda. Elle coordonne actuellement les recherches Centre d'intelligence artificielle pour la santé maternelle, sexuelle et reproductive en Afrique subsaharienne (HASH). Ses recherches portent sur la santé numérique (de la santé à l'intelligence artificielle), la promotion de la santé et les déterminants plus larges de la santé. Vous pouvez la retrouver sur LinkedIn.

Restez à l'écoute pour les prochains articles de blog de la série Garder la lumière allumée : Réflexions sur les GEI et l’IA en Afrique!