Que faut-il pour parvenir à l’intégration de l’égalité des genres et de l’inclusion (GEI) dans la recherche IAPD

La puissance de l’intelligence artificielle (IA) semble promettre des solutions faciles à de nombreux problèmes insolubles auxquels sont confrontées les organisations des pays du Sud, qu’elles s’intéressent à la médecine, à la santé publique, à l’éducation, à l’agriculture et aux systèmes alimentaires ou aux affaires.

Bien que l’IA soit un outil de recherche incontournable, la réalité de sa mise en œuvre juste et équitable est plus difficile. L’IA est une bête beaucoup plus complexe à apprivoiser et à maîtriser, et comporte son propre éventail de risques et d’embûches potentiels. En particulier, un système d’IA ne fournit pas toujours des solutions impartiales et exemptes de danger. Sans attention, les algorithmes et les ensembles de données courent le risque de perpétuer les mêmes inégalités et préjugés que les organisations de justice sociale s’efforcent tant d’éradiquer.

Contexte : Intelligence artificielle pour le développement en Afrique (IAPD)

Intelligence artificielle pour le développement de l'Afrique (IAPD) est un programme qui a débuté en janvier 2020, avec pour mission « d'améliorer la qualité de vie de tous en Afrique et au-delà en s'associant avec les communautés scientifiques et politiques africaines pour tirer parti de l'IA grâce à une recherche de haute qualité, une innovation responsable et le renforcement des talents ». .

Quatre des projets financés dans le cadre d'IAPD ont choisi de participer à un processus d'apprentissage de deux ans, commençant en janvier 2022 et se terminant en septembre 2024, axé sur l'égalité des sexes et l'inclusion (GEI), appelé le Parcours d’apprentissage par les pairs (PLJ). Les quatre partenaires avaient des objectifs différents mais complémentaires :

HASH (Hub for Artificial Intelligence in Maternal, Sexual and Reproductive Health) : Un consortium multidisciplinaire de professionnels de la santé, d'informaticiens, de spécialistes des données, de spécialistes des sciences sociales et d'experts en santé publique travaillant à améliorer la santé maternelle, sexuelle et reproductive en Afrique subsaharienne en exploitant l'IA. ;
Centre EduAI : Un consortium d'universités travaillant à faire progresser l'éducation en réunissant des chercheurs et innovateurs africains en matière d'IA et d'éducation et en soutenant la conception et le développement d'appels à projets basés sur la recherche de haute qualité dans trois domaines thématiques que sont l'inclusion, la langue et l'administration.
Laboratoire Dodoma (Laboratoire de recherche multidisciplinaire anglophone d'Afrique) : Un laboratoire multidisciplinaire IAPD utilisant l'IA pour promouvoir le développement humain durable et le progrès économique, et favoriser la recherche, la formation, l'innovation et l'internationalisation.
AI4AFS (Artificial Intelligence For Agriculture and Food Systems) : Une initiative visant à faire progresser la recherche et les innovations responsables en matière d’IA pour relever les défis urgents de l’agriculture et des systèmes alimentaires en Afrique.

IAPD s'engage à garantir que ces partenaires du programme, ou « hubs » et « laboratoires », intègrent efficacement les considérations GEI dans leur travail pour soutenir écosystèmes d’IA responsables. Cela implique de faire progresser la compréhension des pôles et des laboratoires des impacts sexospécifiques et intersectionnels de la conception, du développement et du déploiement de l’IA dans leurs organisations, leurs communautés et la recherche qu’ils soutiennent. Chaque hub/laboratoire s'est lancé dans son propre « projet de changement », bénéficiant de l'assistance de l'équipe de support GEI, un partenaire technique d'IAPD qui comprenait Ladysmith (un cabinet de recherche féministe), Femmes à table (une organisation mondiale de la société civile) et Genre au travail. Le projet a été financé par le Centre de recherches pour le développement international(CRDI) et le Agence suédoise de coopération internationale au développement (ASDI).

La question directrice

La question directrice pour tous les projets de changement dans le processus PLJ était : «Que faut-il pour intégrer l’égalité des sexes et l’inclusion dans l’IA pour la recherche pour le développement en Afrique ?

Le parcours d'apprentissage par les pairs comprend différents processus, combinant réflexions individuelles, apprentissage par les pairs, mentorat personnalisé et ressources, comme l'illustre la figure 1. L'équipe de soutien du GEI (Ladysmith, Gender at Work et Women at the Table) a offert diverses opportunités d'apprentissage aux une petite cohorte d’équipes individuelles de centres et de laboratoires, sélectionnées en consultation avec le CRDI.

Le processus a commencé par une auto-évaluation exploratoire sur le GEI dans leur travail, appelée Hearing our Stories (HoS), animée par un membre de l'équipe de soutien du GEI. L’atelier HoS n’est pas une formation ou une auto-évaluation typique sur le genre. Il s'agit d'une série de conversations courtes, animées et réflexives utilisant des techniques d'apprentissage anti-oppression, féministes et sociales, et examinant les perspectives personnelles et collectives, les questions et les expériences du GEI en fonction du travail en cours. Lors de l’atelier HoS, les participants commencent également à réfléchir à ce que sera leur « projet de changement » pourraient ressembler, ce qu’ils aimeraient approfondir ou faire différemment.

Le PLJ comprenait également trois ateliers d'apprentissage par les pairs en ligne, répartis sur deux ans, pour améliorer l'apprentissage sur le GEI au sein des équipes du hub/laboratoire. Entre les ateliers d'apprentissage par les pairs, les participants ont également travaillé avec des mentors de l'équipe de soutien GEI. La méthodologie PLJ construite sur neuf années de Partenariats Genre au travail-CRDI pour soutenir des programmes de recherche similaires du CRDI. Après la COVID, l’approche d’apprentissage par l’action sur le genre et le mentorat réactif sont passés des réunions en personne aux réunions en ligne.

Le premier atelier d'apprentissage par les pairs s'est concentré sur l'établissement de relations et la clarification des concepts, ainsi que des projets de changement, en utilisant des outils d'analyse du système pour identifier les causes profondes des défis abordés. Une ressource était Le genre au travail Analytique Cadre.

Le deuxième atelier entre pairs a approfondi les problèmes systémiques et les inégalités que les pôles et laboratoires tentaient de résoudre, notamment en utilisant des outils d'analyse du pouvoir pour rendre visible les différentes manières dont le pouvoir se manifeste pour maintenir le statu quo de l'inégalité entre les sexes. Le troisième et dernier atelier visait à rendre visibles les leçons individuelles et collectives des deux dernières années : ce qui était possible, ce qui les a permis, ainsi que quelles en étaient les limites.

Principaux enseignements de l'atelier final du PLJ

Le troisième et dernier atelier d'apprentissage par les pairs IAPD, PLJ3, s'est déroulé sur trois jours en mai 2024. Cet atelier comprenait de multiples opportunités de discussion et de connexion, ainsi qu'un « atelier d'écriture » de réflexion animé par un coach en rédaction. Ethan Gilsdorf. L'écriture créative invite les gens à connecter leur tête avec leur cœur pour réfléchir et décrire leur apprentissage au cours des deux années. Des enseignements clés ont émergé au sein des quatre pôles/laboratoires alors qu'ils réfléchissaient à leurs expériences lors des deux premiers ateliers PLJ. Les graphiques des jours 1 et 2 ci-dessous illustrent les multiples apprentissages. Les écrits ont révélé que de nombreux participants ont vécu un processus d'apprentissage en trois étapes.

Étape 1 : La lumière s'allume

Les participants ont généralement d'abord décrit ne pas savoir à quel point le GEI était important ni comment il devait être intégré dans leur projet. Beaucoup ont décrit la première séance « Écouter nos histoires » comme leur « Aha ! » moment. Certains ont fait état d’une certaine confusion, voire d’une certaine réticence ou lassitude, face à des expériences passées de formation sur le genre et à des présentations de concepts étrangers sans aucun temps, espace ou contenu adapté pour comprendre leur pertinence pour leur vie quotidienne, leur rôle de scientifique et leur travail dans le domaine de l’IA. Les participants devaient trouver un langage qui leur convenait. Le HoS l’a autorisé.

Voici quelques points saillants des réflexions des participants :

Je me demandais quelles techniques, compétences ou approches garantiraient que j'appliquais une « optique de genre » au projet. Je me suis posé ces questions et, à un moment donné, pour être honnête, j'ai eu l'impression de ne pas avancer. Ce n’était pas mon domaine d’expertise et cela me donnait donc des raisons de m’inquiéter.

J’ai perçu un fossé important entre les experts en genre et les chercheurs scientifiques, avec les experts en genre d’un côté et les chercheurs scientifiques de l’autre, séparés par un grand fleuve mais sans pont à traverser. Pire encore, les experts en genre n’avaient soi-disant aucune idée de la longueur et de la difficulté du parcours nécessaire aux scientifiques pour développer la technologie permettant de répondre aux préoccupations du GEI. Ces deux groupes partageraient-ils un jour le « même espace » et liraient-ils le « même script » ? Quand les experts en genre cesseront-ils un jour d’imposer les choses aux autres ? Toutes ces questions étaient mes questions sans réponses.

Étape 2 : Le processus d’apprentissage par la pratique

Au cours de cette étape, les participants ont réfléchi à ce qui s'est passé au cours de leur projet, qui était pour beaucoup la première fois qu'ils expérimentaient l'intégration du GEI dans leur travail. Les participants ont exploré ce qui était important, ce qu’ils ont appris individuellement et ce qu’ils ont appris collectivement en tant que pôle/laboratoire.

Plusieurs participants ont évoqué les surprises qu'ils ont ressenties en découvrant comment travailler aussi bien sur le côté « social » que sur le côté « technique ». Les participants ont également mentionné les aspects continus et itératifs du processus d’apprentissage. Quelques exemples de ce que les participants ont écrit :

L’un des apprentissages les plus importants pour moi a été l’importance de la co-création. En collaborant étroitement avec nos parties prenantes, nous avons acquis des informations inestimables sur leurs expériences vécues, leurs priorités et leurs perspectives. Notre collaboration a non seulement permis de garantir que nos solutions d'IA étaient adaptées à leurs besoins spécifiques, tels que la détection des maladies en temps réel dans les cultures, l'un des besoins prioritaires de nos parties prenantes. La co-création a également favorisé un sentiment d'appropriation et de confiance parmi les communautés avec lesquelles nous avons travaillé.

Nous avions besoin de rappels, et encore de rappels, que le GEI doit être inclus, puis d'inviter tout au long du parcours de prise de conscience : « Oh non, comment ? À l’étape où la réflexion doit se traduire par la construction réelle de ces idées, concepts et compréhensions dans les modèles réels. Stratégies que nous avons utilisées : se tenir la main, parler, poser des questions, voir où les erreurs et les omissions nous mènent. Sur le plan personnel, les concepts, la réflexion large et profonde étaient une chose, mais la traduction en projets est plus difficile, à plusieurs niveaux et tout aussi intéressante.

Notre hub a commencé le voyage de changement avec une réunion d'évaluation des besoins du GEI avec nos sous-bénéficiaires. Alors qu’ils faisaient des présentations sur leurs besoins en GEI, j’ai senti une lumière briller sur moi. Travailler avec nos sous-bénéficiaires pour co-créer des solutions aux besoins identifiés du GEI, dans le but de sensibiliser davantage la communauté à l'inclusion du genre et d'intégrer des conceptions d'IA inclusives dans l'éducation, a été un processus particulièrement instructif pour moi.

Étape 3 : Intentions futures, grandes idées

À ce stade, les participants ont réfléchi à ce qu’ils prévoyaient de tirer de leur apprentissage sur le GEI dans la recherche IAPD, et à ce que pourrait être ce processus. Les participants ont également imaginé un avenir dans lequel non seulement ils travailleraient différemment, mais créeraient différents types de structures qui mèneraient à une IA plus juste.

Alors que notre projet touche à sa fin, j'ai appris que l'une des clés de la pratique du GEI est de se mettre à la place d'un autre. Ce n’est qu’alors que des concepts comme l’éthique, l’intersectionnalité et les préjugés prennent vie. Il y a tellement de choses que nous ne voyons jamais ou auxquelles nous ne pensons jamais lorsque nous ne voyons les choses qu’à travers notre propre lentille myope. Cela a été tout un voyage. J'ai maintenant plus à dire, mais il reste encore beaucoup à apprendre.

Mon parcours m’a aidé à réaliser à quel point je suis passionné par le changement du système. Mon parcours a fini par faire de moi un défenseur du GEI qui voit la marginalisation et en dit quelque chose.

En fin de compte, ma vision est de créer une équipe de recherche où diverses voix sont non seulement entendues, mais façonnent activement l'orientation et les résultats de notre travail. En faisant du GEI une valeur fondamentale, nous pouvons exploiter tout le potentiel de l’IA pour créer un avenir plus juste, équitable et durable pour tous.

Présentation de la série de blogs : « Garder la lumière allumée : Réflexions sur les GEI et l’IA en Afrique »

Au cours des prochaines semaines, des réflexions plus longues de la part des participants à Intelligence artificielle pour le développement en Afrique (IAPD) sera posté dans cet espace, dans le cadre de la série « Garder la lumière allumée : Réflexions sur les GEI et l’IA en Afrique ».

Cette série de parcours personnels, professionnels et collectifs démontre l’importance de réfléchir et d’expérimenter intentionnellement ce que l’intégration GEI signifie pour une équipe, une organisation et une recherche axée sur l’IA.

Nous découvrons la valeur de la collaboration multidisciplinaire, de l’échange, de la narration et de l’apprentissage par la pratique sur GEI. Ce qui a émergé de ces quatre pôles et laboratoires sont des approches participatives innovantes centrées sur l’utilisateur en matière d’IA, qui ne nuisent pas et permettent aux plus marginalisés d’améliorer leur propre vie. Les histoires démontrent qu'une ouverture à remettre en question nos propres préjugés de genre et sociaux, l'apprentissage mutuel et la volonté d'expérimenter peuvent conduire à des innovations et à des politiques en matière d'IA qui profitent à tous les membres d'une communauté.

Un « projet de changement » est ce sur quoi le hub ou le laboratoire choisit de travailler avec l'accompagnement de l'équipe support du GEI. Cela va du test d’une approche différente pour réaliser leurs objectifs GEI à la mise en œuvre d’initiatives concrètes visant à surmonter les obstacles identifiés à leurs objectifs. Tout au long de la mise en œuvre du projet de changement, les pôles et les laboratoires sont soutenus pour adopter une approche d'apprentissage par l'action dans leur travail.

Ce billet de blog d'introduction a été rédigé et édité par Ethan Gilsdorf, David Keller, Khanysa E.Mabyeka, Lucía Mesa Vélez et Marie-Kate Waller. Ce travail est sous licence ouverte via CC BY 4.0.

Nous lançons la série avec un blog intitulé « Comment le design par inclusion a changé ma perspective sur le GEI » par Daisy Salifu, biostatisticienne, qui réfléchit à ses propres « moments aha » pour trouver le sens et la pertinence du GEI dans son propre travail sur l'IA dans le domaine de l'agriculture et des systèmes alimentaires. Elle a travaillé avec son hub pour co-développer des outils d'IA avec des agricultrices et des personnes handicapées en Ouganda et au Nigeria. Surveillez cet espace pour plus de réflexions dans la série « Garder la lumière allumée : Réflexions sur les GEI et l’IA en Afrique ». Nous espérons que vous apprécierez cette série et apprécions vos réflexions et vos commentaires.