TDR – Audit du Dispositif de Suivi-Evaluation d’Asmae
>>> Extension de l’Echeance de soumission au 23/11 <<<
I. Présentation de l’organisation
Asmae – Association Sœur Emmanuelle est une organisation de solidarité internationale fondée en 1980 œuvrant pour la défense et la réalisation des droits des enfants et des jeunes. Son action s’articule autour de quatre axes thématiques principaux :
- L’accès à une éducation de qualité ;
- La formation et l’insertion professionnelle des jeunes ;
- La protection des enfants contre toutes formes de violences et d’exploitation et promotion de leur bien-être ;
- Le vivre ensemble, pour permettre aux enfants et à leurs communautés de s’épanouir dans un monde durable et en paix.
Présente dans huit pays (Egypte, Liban, Burkina Faso, Côte d’Ivoire, Madagascar, Philippines, Inde et France), Asmae agit aux côtés de partenaires locaux pour garantir à plus de 39 000 jeunes filles et jeunes garçons vulnérables des opportunités et des espaces pour apprendre, se former et se développer. Les actions d’Asmae prennent en compte, de manière transversale, les problématiques liées au genre, à la participation et à l’inclusion. L’approche fondée sur les droits est également un axe central.
II. Présentation du dispositif de suivi-évaluation d’Asmae
Dans un contexte de développement et du renforcement de la qualité de ses actions, Asmae poursuit une démarche d’organisation apprenante, promouvant le renforcement des capacités des équipes et la structuration de ces processus et pratiques.
Le renforcement des mécanismes de suivi-évaluation des projets à l’international répond aux objectifs affichés par Asmae dans son plan stratégique 2025 et son Ambition 2030. Il s’agit de formaliser des procédures et outils permettant de suivre et d’analyser la bonne mise en œuvre et la performance des activités des projets et programmes de l’organisation.
Dans le cadre d’un accompagnement externe, soutenu par le F3E, Asmae a sollicité l’appui d’une consultance pour créer un dispositif de suivi-évaluation (DSE), aussi appelé « dispositif de suivi organisationnel », un outil capable de mesurer les résultats des projets de manière consolidée et systématique. Développé entre 2019 et 2021, le dispositif a permis de recueillir des informations clés, à l’aide d’indicateurs prédéfinis, concernant le nombre et le type de bénéficiaires des projets et les changements attendus en lien avec les thématiques d’intervention d’Asmae. Le dispositif a également responsabilisé les équipes face à l’importance du traitement des données et de l’utilité de l’analyse pour mieux comprendre leurs actions.
Il est attendu de cet outil qu’il puisse, à mesure de son utilisation et de son appropriation par les équipes du siège et des bureaux pays, fournir une analyse fine des modalités d’intervention de l’organisation, de ses évolutions et progrès majeurs et, à terme, de l’impact que les actions d’Asmae ont sur les groupes ciblés par les actions. Cet outil a également pour objectif d’examiner la pertinence des activités avec les objectifs stratégiques d’Asmae et de fournir des preuves et angles d’analyse pour pouvoir mieux adapter les pratiques. Enfin, cet outil fournit des données systématiques et fiables pouvant être facilement partagées en interne et en externe.
III. Format du dispositif
Le dispositif de suivi-évaluation d’Asmae est, en pratique, un mécanisme de saisie, consolidation et visualisation de données conçu sur Microsoft Excel et hébergé sur SharePoint. Il se compose à l’heure actuelle de 8 fichiers Excel :
- 5 fichiers correspondant aux 5 pays d’intervention d’Asmae à la date de la création de l’outil : le Burkina Faso, l’Egypte, le Liban, Madagascar et les Philippines ;
- 2 fichiers pouvant être utilisés pour la saisie de données pour deux autres pays (il est prévu de paramétrer ces fichiers pour l’Inde et la Côte d’Ivoire) ;
- 1 fichier « international » permettant l’agrégation et la visualisation de l’ensemble des données saisies dans les pays d’intervention
Les 7 fichiers Excel « pays » sont composés de 5 onglets projet maximum. Le nombre d’onglets actifs (les onglets inactifs sont masqués) dépend du nombre de projets paramétrés dans le fichier. Les onglets projets contiennent une liste d’indicateurs sélectionnés avec le bureau pays mettant en œuvre le projet.
Ces fichiers suivent tous le même format, avec des onglets préalablement créés et des lignes et colonnes déjà définies (avec des formules incluses permettant d’effectuer des calculs, d’instaurer un code couleur dans certaines cellules, de faire des vérifications, etc.). Comme pour les onglets, les lignes et colonnes non pertinentes à un projet spécifique sont masquées.
Ces fichiers possèdent également un onglet de synthèse, renvoyant à une série de tableaux croisés dynamiques (onglet masqué), et qui se compose de plusieurs graphiques. Ces graphiques facilitent la visualisation des données saisies selon des filtres choisis (par année, par projet, de manière agrégée).
Enfin, ces fichiers sont liés au fichier Excel « international ». Ce dernier fichier ne dispose que d’un onglet de synthèse, sur le même format que les onglets de synthèse dans les fichiers pays (et connecté à une série de tableaux croisés dynamiques).
Afin que les données des fichiers « pays » puissent remonter au fichier « international », une série de manipulations informatiques est nécessaire pour actualiser les données dans tous les onglets de saisie et de synthèse de tous les fichiers. Le dispositif s’accompagne d’un manuel d’utilisation (« Guide du dispositif de suivi organisationnel Asmae ») et de plusieurs annexes apportant précisions sur la saisie des données, le paramétrage des onglets pays, l’addition / la suppression d’indicateurs, l’organisation d’audit des données et l’utilisation du fichier international et une partie de l’actualisation des données.
IV. Premiers constats : enjeux structurels et limites du dispositif
La complexité technique de l’outil :
De par son format Excel, des fichiers et onglets au contenu pré-défini et relativement modifiable grâce à des instructions fournies dans le guide et les annexes, et un ensemble de formules et de liens fragiles connectant les onglets et les fichiers, le dispositif nécessite des compétences techniques spécifiques et
solides.
Bien que des temps de formation aient été organisés entre l’organisation en charge de la consultance initiale et Asmae, ainsi qu’entre les équipes d’Asmae au siège et sur les bureaux pays, l’utilisation régulière de l’outil peut comporter des risques. Des protections (via des mots de passe) ont été mises en place dans les fichiers pour limiter le nombre de manipulations dans certaines lignes et colonnes
(associées notamment à des formules). Malgré cela, il peut arriver que du contenu « standardisé » soit modifié par des membres des équipes. Si cela engrange des changements négatifs, il est alors nécessaire de parcourir l’historique des versions dans le SharePoint et de retrouver la version du fichier avant la modification. Limiter l’accès des fichiers à une ou deux personnes par pays serait une stratégie.
En outre, il semblerait que les liens se brisent facilement entre les fichiers « pays » et le fichier « international ». L’actualisation des données, dans les fichiers « pays » et le fichier « international » s’accomplit annuellement. Ces deux dernières années, le processus de synchronisation entre ces fichiers a rencontré des difficultés : les données ne remontaient pas dans le fichier « international » ou
les sources étaient introuvables. Cette étape de synchronisation, qui est au cœur du dispositif car elle permet l’analyse, doit être maitrisée par les équipes. En février dernier (et nouvelle tentative en juillet), la synchronisation n’a pu être effectuée. L’une des hypothèses est que l’intitulé de la pochette contenant
tous les fichiers Excel sur le SharePoint a été modifié (le titre intègre dorénavant la traduction en anglais du DSE, et est donc « DSE_GMES »), ce qui pourrait affecter les liaisons [à confirmer].
Ainsi, bien que la pertinence de certains processus comme l’agrégation des données à un niveau global ne soit pas remise en cause et au contraire considérée comme essentielle, l’efficacité et le temps dédié aux manipulations informatiques posent question. Il est également important de noter que ces fichiers ont été construits pour fonctionner avec la version d’Excel 2016 ou Office 365 version 2020. Il n’est pas connu si ces fichiers fonctionneront avec des versions ultérieures.
Les limites lors de la construction de l’outil
Le dispositif comporte également plusieurs limites. Il a été construit de telle manière que :
- Le nombre maximum de fichiers pays est de 7. Or, le plan stratégique 2025 ambitionne cependant d’ouvrir une mission dans un 8ème pays à l’international.
- Le nombre maximum d’onglets projets pouvant être contenus dans un fichier pays est de 5.
Or, pour certains fichiers pays, comme le Liban ou le Burkina Faso, cette limite est déjà ou en voie d’être atteinte. - La durée maximale d’un projet est de 5 ans. Or, plusieurs projets comportent plusieurs phases – souvent de 3 ans. Tous les projets contenus dans les onglets n°5 de tous les fichiers pays terminent une première phase en décembre 2023 et débuteront une seconde phase allant jusqu’à 2026 par la suite. La structure actuelle du DSE ne permettra pas de saisir des données
pour la dernière année de cette seconde phase, ni la troisième phase. - L’agrégation des projets au niveau d’un pays est prévue sur 10 ans. Il n’y a pas encore de stratégie prévue pour lorsque cette échéance sera atteinte. Or, l’un des objectifs du dispositif est de mesurer l’impact des actions d’Asmae sur les personnes soutenues dans le cadre des projets. Cette mesure n’est possible que dans un temps long.
En outre, les fichiers Excel sont des fichiers lourds. Les modalités d’archivage des onglets projets n’ont pas encore été définies par Asmae. Il ne devrait pas y avoir de difficultés techniques particulières à masquer les onglets projets qui ne sont plus actifs par exemple. Cependant, à mesure que des onglets projets seront créés (s’il est possible de contourner la limiter de 5 onglets projets par pays), la taille des fichiers continuera de croître. Un questionnement existe quant à la capacité d’absorption des fichiers (et des ordinateurs qui ouvrent ces fichiers). Afin de pouvoir synchroniser les données dans le fichier « international », il est nécessaire d’ouvrir l’ensemble des fichiers Excel en même temps pour que les connexions soient actives. Il est déjà arrivé que le logiciel Excel se ferme inopinément en raison d’une surcharge de l’ordinateur.
L’hébergement sur SharePoint
L’hébergement des fichiers Excel sur SharePoint permet à toutes les équipes d’Asmae d’accéder facilement au fichier pays dont elles ont la charge. Quelques difficultés ont été rencontrées lorsque plusieurs personnes se sont connectées en même temps dans un fichier. Une copie du fichier est alors créée automatiquement sur le SharePoint. Il existe un risque de perte de données lorsque cela se produit, car le mauvais fichier, ne comportant pas les bonnes mises à jour, peut être supprimé, ou il est nécessaire d’intégrer les données de la copie dans le fichier originel.
V. Appui sollicité
Cette demande vise à appuyer Asmae dans l’amélioration de son dispositif de suivi-évaluation, à travers l’accompagnement suivant :
- Diagnostic : confirmation ou infirmation des limites identifiées, identification de failles structurelles autres du DSE
- Propositions :
o élaboration de recommandations pour améliorer le dispositif et faire face aux enjeux et limites identifiées, voire mise en œuvre des recommandations.
o si d’autres supports s’avèrent plus pertinents qu’Excel, il est attendu une courte liste des supports recommandés, avec avantages et inconvénients (praticité, coût, facilité d’utilisation). - Livrables : liste des limites et proposition afférente ; liste de supports pertinents ; le cas échéant, modifications à apporter dans le DSE
V. Expertise recherchée
Il est attendu que cet audit soit conduit par un·e consultant·e répondant aux prérequis suivants :
- Connaissances solides dans l’installation, la gestion et la maintenance des systèmes informatiques ;
- Connaissances solides des systèmes d’exploitation Windows et des applications Microsoft Office (Excel) ;
- Connaissances des bases de données, en particulier celles pouvant être utilisées dans le secteur de la solidarité internationale ;
- Expérience confirmée dans le secteur du développement et de la solidarité internationale
VII. BUDGET
Le budget pourra s’élever jusqu’à 5 000 euros TTC.
VIII. Réponse à l’appel d’offre
Pour répondre à l’appel d’offre, veuillez envoyer :
- Une note d’1 à 2 pages permettant d’expliquer l’expertise et expérience que vous avez en lien avec cette mission ainsi que les principales étapes que vous proposez en termes d’accompagnement
- Un devis en euros TTC
Veuillez envoyer ces documents à pole-ai@asmae.fr avant le 23 novembre (date initiale du 16 étendue au 23/11), à 18h heure de Paris.
Un comité de sélection analysera les offres reçues sur la base de :
- La concordance avec l’expertise recherchée
- L’expérience en la matière
- La compréhension des attentes / propositions sur les étapes à mener
- La compétitivité du devis
Vous souhaitez déposer un appel d’offre ?
Déposez vos appels d'offres pour vos recherches de prestations visant à renforcer votre organisation, faciliter vos projets...
Déjà inscrit ?
L’ABC des prestataires
Plus de 50 prestataires référencés dans notre base !