Courrier des statistiques N7 - 2022

Septième numéro et troisième anniversaire pour la revue depuis sa renaissance. L’ambition est toujours d’y aborder un large panel des problématiques de la statistique publique. Sur une tonalité pédagogique, il s’adresse au statisticien, débutant ou expert, à l’étudiant et à l’enseignant, comme au citoyen que la « fabrique » des statistiques intéresse.

Les deux premiers articles traitent de l’intégration du multimode dans les enquêtes, abordant les questions de méthodes et d’outils pour tirer parti de cette nouvelle approche de la collecte de données. Une grande opération statistique se modernise : le recensement agricole est désormais en multimode. Les sources administratives exhaustives sont plus accessibles, mais sont-elles pour autant faciles à mobiliser ? Un exemple avec l’analyse fine du patrimoine immobilier des ménages. Si la donnée forme la tonalité de ce numéro, une large place y est faite aux instruments qui la rendent exploitable et audible. La maîtrise du Cloud computing et des techniques de développement informatique sont mises en avant pour veiller à qualité de la production statistique. Le statisticien doit aussi être en capacité de jouer de concert avec d’autres disciplines académiques, comme la psychométrie dans l’évaluation des compétences des élèves. Enfin, la mise au point d’une nomenclature sur les infractions illustre l’utilité d’adopter un solfège commun pour ranger, classer et analyser les données.

Courrier des statistiques
Paru le :Paru le20/01/2022
François Beck, directeur de la Prévention et promotion de la santé, Santé publique France,
Laura Castell, experte sur la collecte en ligne et la collecte multimode, Insee,
Stéphane Legleye, chef de la division Conditions de vie des ménages, Insee,
Amandine Schreiber, cheffe du Département des études, de la prospective, des statistiques et de la documentation, ministère de la Culture
Courrier des statistiques- Janvier 2022
Consulter

Le multimode dans les enquêtes auprès des ménages : une collecte modernisée, un processus complexifié

François Beck, directeur de la Prévention et promotion de la santé, Santé publique France,Laura Castell, experte sur la collecte en ligne et la collecte multimode, Insee,Stéphane Legleye, chef de la division Conditions de vie des ménages, Insee,Amandine Schreiber, cheffe du Département des études, de la prospective, des statistiques et de la documentation, ministère de la Culture

Avec l’introduction d’internet comme nouveau mode de collecte et les difficultés croissantes à contacter les ménages, l’évolution des enquêtes vers des protocoles multimodes est devenue une orientation stratégique forte pour les services statistiques publics. De nombreux protocoles multimodes sont envisageables, permettant de tirer profit des avantages de chaque mode de collecte en fonction des contraintes, de la thématique de l’enquête et des populations ciblées.

Cependant, le multimode complexifie le processus d’une enquête. Des adaptations sont nécessaires pour garantir la qualité des résultats : d’abord sur le questionnaire et sa durée, puis sur la définition du protocole de collecte et enfin sur les traitements statistiques d’agrégation des données en aval de la collecte. Par les efforts de standardisation et de simplification qu’elle impose avec notamment l’introduction de séquences auto-administrées, l’évolution vers le multimode constitue un véritable changement de paradigme pour les enquêtes ménages.

Les protocoles mobilisant plusieurs modes de collecte (face-à-face, téléphone, internet, etc.) ne sont pas une nouveauté dans les enquêtes de la statistique publique. Néanmoins, la généralisation de l’usage d’internet, l’évolution des pratiques des ménages en termes de communication et de participation, et la constituent des changements profonds, favorables au développement du multimode dans les enquêtes auprès des ménages. Cette évolution a été impulsée depuis les années deux-mille-dix dans les services statistiques publics, elle a connu tout récemment une accélération dans le contexte particulier de la crise sanitaire de la Covid-19. Plus que jamais, elle se dessine comme une orientation stratégique forte pour la statistique publique. Or le multimode complexifie les processus de collecte comme le traitement des données à l’aval, au risque d’entraîner des ruptures de séries. Au-delà des opportunités offertes par ce changement de paradigme pour les enquêtes auprès des ménages, il convient d’identifier les défis que cette transition pose aux statisticiens. .

Le multimode, un changement de paradigme pour les enquêtes auprès des ménages

Le caractère multimode d’une enquête concerne à la fois le protocole de contact et le protocole de collecte. Le premier contact consiste très souvent en une lettre postale, alors même que la collecte s’effectue rarement via un .

Néanmoins, dans les faits, on parle d’enquête multimode lorsque le protocole de collecte implique le recours à plusieurs modes de recueil de l’information : en face-à-face avec un enquêteur, par téléphone, par internet, etc.

Différents paramètres entrent en jeu pour apprécier l’opportunité d’une collecte multimode : la population cible, les informations disponibles pour l’atteindre (base de sondage, données de contact) et la thématique. Plusieurs enquêtes de la statistique publique sont ainsi réalisées en multimode depuis de nombreuses années, par exemple :

  • l’enquête auprès des ménages sur les Technologies de l’information et de la communication (TIC) est réalisée par internet, papier et téléphone depuis 2007 ;
  • l’enquête Emploi en continu conjugue les modes face-à-face, téléphone (depuis 2003) et internet () selon les vagues d’interrogation ;
  • l’enquête Cadre de vie et sécurité (CVS) réalisée par l’Insee en face-à-face de 2006 à 2021, collecte une partie de son questionnaire sous casque en auto-administré, etc.

Depuis une dizaine d’années, l’Insee s’est lancé dans un plan d’expérimentations pour évaluer l’impact de l’introduction d’internet dans les protocoles d’enquêtes. Cette place croissante accordée au mode internet conduit à renouveler l’analyse sur les protocoles multimodes. De fait, dans les enquêtes de la statistique publique, internet est rarement envisagé comme unique mode de collecte, mais plutôt comme un mode complémentaire.

Trois raisons expliquent le passage à des enquêtes multimodes.

La première d’entre elles est la diminution tendancielle du , bien que la situation française s’avère moins problématique que dans d’autres pays européens (Luiten et alii, 2020). Or la diversification des moyens de contacter les personnes accroît les chances de les atteindre et augmente a priori le taux de collecte, même si le taux de réponse n’est pas en soi un indicateur définitif de qualité (Ouvrir dans un nouvel ongletGroves et Peytcheva, 2008). Ainsi, des travaux récents (Ouvrir dans un nouvel ongletCornesse et Bosnjak, 2018) ont montré que les enquêtes multimodes sont de meilleure qualité en termes de représentativité et que les enquêtes exclusivement conduites sur internet accusent de .

De manière générale, le face-à-face apparaît supérieur au téléphone et à internet pour la représentativité de certains segments de la population, notamment les moins favorisés ou éduqués, les immigrés, les personnes peu à l’aise dans la langue, ou encore les personnes vivant en milieu urbain (Ouvrir dans un nouvel ongletBuelens et Van den Brakel, 2010).

L’évolution de l’équipement et des pratiques des ménages constitue également un contexte favorable au multimode. Au cours de la dernière décennie, le taux d’équipement des foyers en accès internet (matériel et abonnement) a connu une croissance spectaculaire en France : . Une telle situation rapproche désormais la France des pays dans lesquels l’implantation d’internet a été plus ancienne, tels que les Pays-Bas, les pays nordiques, le Royaume-Uni et l’Allemagne. Les conditions sont donc de plus en plus favorables pour recourir à ce moyen pour enquêter les ménages. Les attentes des ménages eux-mêmes paraissent par ailleurs fortes : certains ménages enquêtés comprennent de moins en moins qu’un tel service ne soit pas offert alors que les progrès récents en matière de démarches administratives sur le web sont très visibles.

Certaines personnes n’accèdent par ailleurs à internet que par le biais d’un smartphone : plus de 60 % de la population européenne dispose d’un accès à internet via un téléphone mobile. Ceci souligne l’enjeu de proposer une interface et un questionnaire conçus d’emblée pour ce type de support (Mobile first) et dont le format des pages s’adapte de manière ergonomique (Responsive design) (encadré 1).

 

Encadré 1. Vers une conception Mobile First

Avec les tablettes puis les téléphones mobiles, le besoin de générer des questionnaires « agnostiques », c’est-à-dire à même d’offrir la meilleure ergonomie possible quels que soient la situation d’usage et l’appareil utilisé, est devenu crucial, en particulier dans les enquêtes auprès des jeunes.

De fait, il n’est pas possible d’interdire aux enquêtés de répondre sur leur smartphone, mais cela impose souvent des efforts de zoom et de « défilement » (scrolling) pour le répondant. Or si l’ergonomie du questionnaire n’est pas adaptée à cet outil, le risque est fort d’une qualité de remplissage moindre : réponses systématiques, non-réponses partielles ou abandon en cours de questionnaire.

Le questionnaire et les questions doivent de ce fait être aussi courts que possible et minimiser l’effort de scrolling (Ouvrir dans un nouvel ongletCouper et Peterson, 2016). Il est par ailleurs recommandé d’utiliser les « boutons radio » (ou case d’option) en adaptant leur taille au petit écran et de rendre l’ensemble de la modalité sélectionnable (pas seulement le bouton radio). Ces auteurs incitent même à aller vers les questions ouvertes plutôt que vers de longues listes de modalités.

Les données les plus récentes indiquent que lorsqu’une enquête est conçue de manière appropriée pour les smartphones, la qualité des données peut être aussi bonne que celle des enquêtes en ligne réalisées sur ordinateur fixe (Ouvrir dans un nouvel ongletAntoun et alii, 2017). Il y a donc un enjeu fort à se situer dans une logique d’optimisation des questionnaires pour les supports mobiles, et notamment le smartphone.

Note : Mobile First est un concept de web design optimisé pour le mobile qui va au-delà du Responsive web design. Il consiste à concevoir un site en mettant la priorité sur la version mobile et en adaptant progressivement la conception web pour les écrans plus larges, à rebours de l’approche la plus répandue précédemment qui consistait à dégrader progressivement un site web pour l’adapter à un affichage sur téléphone portable.

 

Les enquêtes téléphoniques, qui ont été très utilisées dans les années quatre-vingt-dix par les instituts de sondages et une partie de la statistique publique, se heurtent en revanche à des taux de participation plus faibles désormais, à cause de la . Le téléphone fixe, qui était le socle de ces enquêtes jusqu’aux années 2010, est désormais un outil qui est très rarement décroché (voire activé) par les .

Les contraintes budgétaires conduisent par ailleurs à s’intéresser aux coûts relatifs des différents modes de collecte : les entretiens avec les enquêteurs (en face-à-face ou téléphone) étant les plus coûteux, on préférera les réserver aux thématiques ou aux populations pour lesquelles leur expérience est indispensable.

Chaque mode de collecte ayant ses forces et ses faiblesses en termes de biais de couverture et de sélection, il importe de tirer profit des avantages de chacun dans l’élaboration des protocoles des enquêtes.

Des modes de collecte qui s’adaptent au contexte de chaque enquête

L’analyse des biais de mesure – c’est-à-dire de l’impact du mode de collecte sur la réponse des enquêtés – oppose les modes auto-administrés (papier et internet) et les modes avec enquêteurs (face-à-face et téléphone). Les deux biais principaux induits par la présence ou l’absence d’un enquêteur sont le biais de désirabilité sociale et le satisficing :

  • la désirabilité sociale désigne le fait que certains enquêtés peuvent être amenés à fournir une réponse donnant une image valorisante d’eux-mêmes ou dont ils croient qu’elle satisfait les attentes normatives. Elle survient plus fréquemment lors d’une interrogation menée par un enquêteur, et pour des questions d’opinion ou des questions sensibles ou intimes, telles que la consommation d’alcool ou de drogues illicites (Ouvrir dans un nouvel ongletBeck et Peretti-Watel, 2001) ou les comportements sexuels (Ouvrir dans un nouvel ongletLegleye et Charrance, 2021) ;
  • le biais de désigne le fait que certains enquêtés renoncent à fournir l’effort nécessaire pour renseigner la réponse exacte (Ouvrir dans un nouvel ongletKrosnick, 1991). Ce phénomène survient plus fréquemment avec des questionnaires auto-administrés, difficiles, longs ou répétitifs pour lesquels le niveau de concentration et d’engagement sont moindres que face à un enquêteur. Il peut se manifester par des réponses approximatives, par une tendance à choisir plutôt les premières modalités proposées (primacy effect) ou les dernières (recency effect), à ne pas recourir à des documents, à arrondir les réponses chiffrées, à choisir des modalités médianes ou encore par de la non-réponse partielle, voire un abandon du questionnaire. Le moindre niveau de concentration associé aux modes auto-administrés impose une durée nettement raccourcie par rapport au téléphone, et encore plus comparé au face-à-face.

Par ailleurs, les modes auto-administrés souffrent de taux de réponse inférieurs et d’un risque d’auto-sélection par rapport à la thématique de l’enquête plus important, puisque la réponse suppose une démarche plus pro-active de la part des enquêtés.

Ces effets peuvent varier suivant les caractéristiques des répondants. Ainsi, les jeunes les plus diplômés, les personnes ayant des compétences et une appétence pour le numérique, pourront trouver naturelle la réponse par internet : leurs réponses sur ce mode seront peu affectées par le satisficing. À l’inverse, ces populations peuvent être plus difficiles à enquêter par téléphone ou en face-à-face et leurs réponses peuvent se trouver affectées par une forte désirabilité sociale en présence d’un enquêteur. De plus, les coordonnées de contact disponibles sont variables : si l’adresse postale est connue pour tous les ménages, ce n’est pas toujours le cas du numéro de téléphone fixe voire mobile et de l’adresse courriel. La disponibilité de ces différentes coordonnées de contact diffère dans la population, ainsi que la faculté à contacter effectivement les personnes, et leur appétence à répondre dans les différents modes de collecte.

Une étude conduite auprès d’une population de migrants a ainsi montré que le papier était le plus approprié pour les hommes, et le téléphone plus adapté pour les femmes – notamment pour limiter l’impact de la présence du conjoint (Ouvrir dans un nouvel ongletKappelhof, 2015).

Chaque mode de collecte comporte donc ses avantages et ses inconvénients en fonction de la thématique, des populations ciblées et des modalités de contact disponibles (figure 1).

Figure 1. À chaque mode ses caractéristiques

 

Une multitude de multimodes : concurrentiel, séquentiel, mixte...

Les protocoles construits sur la base des différentes possibilités offertes par les modes de collecte prennent des formes très variées (figure 2).

Les différents modes de collecte peuvent être soit proposés en même temps aux enquêtés, les modes étant en quelque sorte mis en concurrence (on parle de multimode concurrentiel), soit proposés successivement, la proposition d’une alternative n’étant faite qu’aux non-répondants de la phase antérieure (on parle de multimode séquentiel). En général, le multimode séquentiel consiste à proposer d’abord les modes de collecte les moins coûteux.

La plupart des protocoles débouchent sur une période où plusieurs modes sont en concurrence : c’est le cas des séquentiels web/téléphone pour lesquels la possibilité de répondre sur internet reste offerte même lorsque la phase d’enquête téléphonique a commencé. On parle alors de protocole mixte.

Figure 2. Avec le multimode, la collecte gagne en souplesse

 

 

La limite principale du protocole séquentiel est qu’il incite certains enquêtés à répondre sur un mode qui n’est pas celui pour lequel ils ont le plus d’appétence et que cela pourrait dégrader la qualité de leurs réponses (sujet sensible, aversion pour le mode, etc.). Il entraîne aussi un risque que des enquêtés, qui auraient accepté de répondre s’ils avaient été sollicités par un enquêteur en premier lieu, se trouvent dans de moins bonnes dispositions lorsque ce contact intervient après qu’ils aient refusé de répondre par un premier mode de collecte auto-administré : persistance dans le refus initial, réticence marquée à fournir les efforts nécessaires à la qualité des réponses, etc. Par ailleurs, sauf à diminuer les chances de réussite de chacun des modes, il impose une durée de collecte minimale à chaque étape. Un temps de terrain court incite donc à proposer un multimode concurrentiel ou mixte plutôt que séquentiel.

Le multimode séquentiel reste néanmoins, en général, le protocole jugé le plus efficace, en particulier sur le plan financier (Dillman et alii, 2014). Par ailleurs, le fait de laisser le choix du mode de réponse à l’enquêté peut être vécu comme une charge cognitive supplémentaire (Schwartz, 2005), à un moment où il attend souvent que l’enquêteur, ou à défaut le protocole, le guide pour s’acquitter au plus vite de sa tâche. Laisser le choix du mode s’avère surtout intéressant dans les enquêtes en panel ou avec des réinterrogations, l’enquêté pouvant exprimer sa préférence au terme de la première vague et renseigner des coordonnées de contact facilitant le recours à un mode particulier pour les vagues suivantes.

... ou intégré (pour les questions sensibles)

Le multimode intégré désigne le recours à un mode de collecte complémentaire en cours de collecte pour l’ensemble des enquêtés. C’est par exemple le cas lorsqu’un enquêteur présent au domicile laisse l’enquêté répondre seul à une partie du questionnaire sur un ordinateur, comme dans l’enquête Cadre de vie et sécurité (CVS) où il peut utiliser un casque et répondre seul via le clavier.

Ce type de protocole apparaît particulièrement bien adapté aux questions sensibles (Ouvrir dans un nouvel ongletTurner et alii, 1998). Il permet sans doute de tirer au mieux profit des différents modes sollicités, mais c’est en général le plus coûteux.

Dans les enquêtes par téléphone, il peut aussi être demandé de basculer complètement sur internet pour remplir le questionnaire (Ouvrir dans un nouvel ongletLegleye et Charrance, 2021). Pour une série de questions sensibles, l’enquêteur peut éventuellement laisser sa place à un serveur vocal interactif () avec lequel on espère que le biais de désirabilité sociale sera diminué (Ouvrir dans un nouvel ongletKreuter et alii, 2008). Cela amène à des abandons assez nombreux durant la collecte, car l’expérience n’est probablement pas jugée très agréable par les enquêtés qui perdent la motivation induite par la présence sonore de l’enquêteur et peuvent couper court à la poursuite du questionnaire. Il semble donc préférable de ne recourir à ce mode de collecte que pour une courte série de questions.

Des protocoles adaptables au rythme des enquêtes...

Dans les enquêtes longitudinales, il est possible d’adapter les modes de collecte selon les vagues d’interrogation. La présence d’un enquêteur est souvent nécessaire pour initier le processus de collecte. En revanche, les vagues ultérieures (réinterrogations) peuvent souvent être réalisées sur des modes moins coûteux et moins invasifs, comme le téléphone ou internet. En France, l’enquête Emploi en continu et l’enquête Loyers et charges reposent depuis de nombreuses années sur ce type de protocole, enchaînant une première vague d’interrogation en face-à-face, puis des réinterrogations au téléphone avant de clore le processus en face-à-face. Depuis janvier 2021, un multimode séquentiel web/téléphone est proposé en réinterrogation dans l’enquête Emploi (Guillaumat-Tailliet et Tavan, 2021).

Il existe par ailleurs des protocoles en deux phases reposant sur une double enquête. La première consiste en une enquête courte, menée auprès d’un nombre très important d’individus, basée sur des questions visant à identifier une population d’intérêt spécifique (personnes en situation de handicap, victimes de violences, minorités sexuelles, etc.). Étant donné la taille de l’échantillon, il peut être avantageux de mener un multimode séquentiel, s’appuyant sur des modes de collecte moins coûteux : internet, puis papier, puis téléphone, éventuellement pour une partie des non-répondants. La seconde phase, qui peut également être multimode, est réalisée auprès d’une sélection de répondants de la première phase, dans laquelle certaines caractéristiques d’intérêt sont surreprésentées grâce aux informations de l’enquête filtre. Elle peut être multimode elle aussi. Un tel protocole a été retenu avec succès pour l’enquête Vie quotidienne et santé (VQS)/Autonomie du service statistique du ministère des Solidarités et de la Santé (Drees) et pour l’enquête Ouvrir dans un nouvel ongletGenre et Sécurité (Genese) du service statistique du ministère de l’Intérieur (SSMSI).

Enfin, la pénétration croissante des smartphones offre désormais aux chercheurs la possibilité de collecter des données auprès de leurs utilisateurs par le biais d’une collecte de données passives via l’historique et l’utilisation des applications (géolocalisation, mouvements physiques, comportement en ligne, etc.). Une partie de la collecte peut même s’effectuer sur smartphone (carnet d’emploi du temps, interrogations courtes à intervalles réguliers par exemple). Cette opportunité ne doit pas cacher les difficultés que représente, pour certains enquêtés, le téléchargement d’une application sur leur smartphone, ni les enjeux soulevés en matière de consentement au recueil et à l’exploitation de telles données.

Au final, les contraintes de chaque projet d’enquête peuvent amener le concepteur à orienter ses choix parmi les possibles évoqués ci-dessus (voir les choix opérés sur certaines grandes enquêtes européennes en encadré 2).

Encadré 2. Les choix de protocole effectués par les différents pays sur les enquêtes sociales européennes

Dans le cadre du projet européen Mixed Mode Designs in Social Surveys (MIMOD*) piloté par l’institut italien Istat de janvier 2018 à avril 2019, un questionnaire portant sur quelques grandes enquêtes sociales européennes a été réalisé pour établir un état des lieux des pratiques en matière de multimode.

Une majorité des pays mène désormais des enquêtes en multimode, ce qui n’était pas encore le cas il y a cinq ans. La variété des protocoles apparaît très grande et, pour l’instant, la majorité d’entre eux (57 %) n’inclut pas de mode internet.

Selon les experts de chaque pays, certaines enquêtes s’avèrent plus adaptées au mode internet. Pour la première interrogation de l’enquête Emploi, c’est l’absence d’enquêteur qui semble le plus préjudiciable, tandis que pour celle de SRCV**, c’est la longueur du questionnaire. Les vagues de réinterrogation sont très majoritairement identifiées comme compatibles avec un recueil sur internet, en particulier celles de l’enquête Emploi.

Bien sûr, les contextes nationaux sont parfois très structurants : la disponibilité de registres de population dans les pays nordiques par exemple, peut permettre d’alléger nettement le questionnement lorsque certaines informations y figurent, ce qui favorise le recours à internet. Les pays qui s’appuient beaucoup sur le téléphone ont des systèmes connectés qui permettent de récupérer les paradonnées (nombre de tentatives, date et heure de chaque tentative, etc.) même lorsque les enquêteurs appellent de chez eux, grâce à des systèmes de plateau téléphonique virtuel.

L’ensemble des rapports des différents groupes de travail est disponible sur le Ouvrir dans un nouvel ongletsite d’Istat.

** Statistiques sur les ressources et conditions de vie. Le système statistique EU-SILC a pour vocation de permettre la production d’indicateurs structurels sur la répartition des revenus, de la pauvreté et de l’exclusion comparables pour les pays de l’Union européenne.

 

... et adaptables au profil des populations enquêtées

Ces différents types de protocoles multimodes peuvent ne pas s’appliquer de la même manière à toutes les unités échantillonnées d’une même enquête. Ainsi, depuis quelques années, des protocoles permettant d’adapter la stratégie de recueil des données au profil sociodémographique des enquêtés ont été conceptualisés et commencent à être mis en œuvre (Ouvrir dans un nouvel ongletChun et alii, 2018). L’Adaptive design utilise ainsi l’information disponible en amont de la collecte des données pour affecter le mode de collecte a priori le plus efficace à chaque unité enquêtée, que ce soit en termes de taux de réponse ou de limitation des biais de mesure.

Par exemple, dans le cas des enquêtes sur les usages d’alcool, de tabac et de drogues illicites, sexe et âge apparaissent comme des caractéristiques clivantes dans le choix du mode de collecte (auto-administré ou bien téléphone) (Ouvrir dans un nouvel ongletBeck et alii, 2014). Une des différences entre l’Adaptive design et les autres formes de multimode est que la préférence pour un mode est fixée d’emblée par le concepteur (contrairement au concurrentiel où c’est l’enquêté qui le choisit) et qu’elle est assumée (tel mode est plus adapté pour telle sous-population).

La longueur du questionnaire étant un facteur limitant l’intérêt du recours à internet, on peut aussi cibler une population ayant une bonne capacité à répondre sur internet sans que la qualité soit dégradée (les individus jeunes, issus de ménages de 1 ou 2 personnes, n’ayant pas de ce fait un ménage trop complexe à décrire), tandis que le reste de la population est interrogé par téléphone ou en face-à-face.

Il existe également des protocoles plus complexes consistant à mobiliser l’information disponible pendant la collecte () afin d’ajuster la stratégie de collecte pour le reste de l’échantillon : il s’agit du Responsive design. Il peut ainsi être décidé, en cours de collecte, de porter l’effort sur un profil particulier en le ciblant directement ou indirectement en recourant à un mode de collecte particulier. Avant d’être utilisé dans le cadre des enquêtes de la statistique publique française, ce type de protocole nécessiterait d’être testé pour en évaluer l’opportunité.

Le questionnaire : pierre angulaire d’une enquête multimode réussie

La mise en œuvre d’un protocole multimode nécessite d’adapter toutes les étapes de conception et de production d’une enquête afin de proposer une ergonomie qui limite au maximum les effets de mode. Cet effort est grandement facilité par les outils de conception et de génération des supports de collecte fondés sur les .

Le premier défi est l’adaptation du questionnaire aux différents modes envisagés : doit-on chercher à tout prix à garder la même structure et les mêmes questions pour tous les modes ou au contraire chercher à faire au mieux au sein de chaque mode ? Les recommandations internationales penchent nettement en faveur de la première solution (Ouvrir dans un nouvel ongletDe Leeuw, 2018), même si les travaux les plus récents invitent plutôt à une troisième voie cherchant à optimiser chacun des questionnaires tout en réduisant les écarts inter-mode au strict minimum.

Cette approche omnimode (ou agnostique), dans laquelle s’inscrivent plusieurs instituts nationaux de statistique (Pays-Bas, Grande-Bretagne), consiste à concevoir le questionnaire indépendamment du mode de collecte et à opérer dans un second temps les adaptations nécessaires dans chacun des modes afin de limiter au maximum les effets de mode. Les grandes recommandations en la matière sont les suivantes :

  • adopter une approche omnimode : les questions ne doivent pas être attachées à un mode particulier ;
  • s’en tenir à une seule question par écran pour que le répondant reste concentré sur une question à la fois, à moins qu’il ne s’agisse de questions filtres ou de suivi ;
  • répéter les textes des questions sur la page suivante pour donner à nouveau le stimulus complet ;
  • inclure systématiquement toutes les options de réponse présentes à l’écran dans les questions à lire à haute voix par les enquêteurs ;
  • éviter les tableaux et grilles pour privilégier des séries de questions dans tous les modes ;
  • réduire au minimum les instructions et les explications, et les présenter de manière similaire dans les différents modes.

Les adaptations nécessaires portent notamment sur les choix de charte graphique, de taille et de position des boutons / cases à cocher, sur l’affichage systématique ou en seconde intention des options « ne sait pas » / « ne veut pas répondre » ou sur leur absence systématique.

De manière générale, le passage au multimode, et notamment à l’introduction de modes de collecte auto-administrés, constitue une bonne occasion de se re-questionner sur ce que l’on cherche à mesurer et ainsi revoir les complexités qui ont pu être introduites au fil des éditions d’enquêtes. Si la compréhension des concepts et des questions est endossée par l’enquêteur, elle ne peut être déportée sur les enquêtés eux-mêmes, au risque d’obtenir de la non-réponse ou des réponses incorrectes.

Le recours à l’auto-administré impose ainsi d’utiliser des formulations de questions simples et de fournir des exemples éclairants pour les enquêtés, en particulier en population générale, car aucune reformulation ni aide ne pourra être apportée par un enquêteur (Koumarianos et Schreiber, 2021). La présentation des consignes, aides et exemples doit faire l’objet d’une réflexion ad hoc afin qu’elle soit attractive et judicieuse. Les enquêteurs assurent une mission importante de contrôle des saisies et de respect des consignes durant la passation : lorsqu’ils sont absents, tout ce travail de vérification est transféré aux statisticiens en charge de l’apurement des données, avec un risque important d’erreur en raison de l’impossibilité de demander des précisions sur la saisie a posteriori.

Ajuster la durée de questionnement aux modes les plus contraignants

Répondre à une enquête est toujours un exercice difficile, mais la participation à une enquête et la qualité des informations recueillies dépendent de la longueur et de la complexité du questionnaire. Si la présence d’un enquêteur, en particulier en face-à-face, ouvre des possibilités pour des questionnements longs et complexes, l’auto-administré en revanche renvoie très vite aux limites de ce que peut et souhaite accomplir la frange de la population la plus en difficulté de littératie ou la moins intéressée ou concernée par la thématique. Au-delà d’une certaine durée qui dépend du mode de collecte, le risque de satisficing s’accroît et avec lui de réponse aléatoire, d’abandon, de recours plus fréquent au « ne sait pas », de réponses plus courtes aux questions ouvertes et globalement d’une baisse de la qualité (Ouvrir dans un nouvel ongletGalesic et Bosnjak, 2009). Dans le cas du multimode, la longueur du questionnaire est fixée par le mode de collecte qui génère le plus de contraintes chez l’enquêté.

La durée maximale recommandée pour le téléphone est de l’ordre d’une demi-heure (Ouvrir dans un nouvel ongletRoberts et alii, 2010), mais la présence d’un enquêteur conduit fréquemment les concepteurs à dépasser cette limite, sans toutefois le plus souvent excéder trois quarts d’heure. Pour les enquêtes web, il est grandement recommandé de ne pas dépasser 20 minutes, l’idéal étant de proposer un questionnaire dont le temps médian de réponse est de 10 minutes (Revilla et Ochoa, 2017).

Pour parvenir à limiter le temps de questionnement, plusieurs solutions sont envisageables si la réduction du questionnaire n’est pas suffisante. Une première consiste à administrer le questionnaire en plusieurs séquences, ce qui revient à « panéliser » l’enquête. Cela n’est pas sans risque ni coût : attrition, gestion des déménagements ou des éclatements du ménage, étalement de la référence temporelle, complexification de l’aval statistique, etc. Les protocoles d’Adaptive design cherchent pour leur part à répondre à ces problématiques en ajustant le questionnaire de façon à proposer à chaque enquêté une durée de passation optimale du point de vue de la qualité des informations recueillies. Ainsi, il peut être envisagé de ne pas poser toutes les questions à tous les enquêtés, mais par exemple de déterminer un tronc commun de questions, puis d’affecter aléatoirement des blocs de questions différents à plusieurs sous-échantillons (Ouvrir dans un nouvel ongletBeck et Richard, 2013). La question des incitations financières, en cas de questionnaire plus difficile ou plus long, est évoquée dans l’encadré 3.

 

Encadré 3. Des leviers pour accroître la participation aux enquêtes

Suivant les travaux théoriques de (Ouvrir dans un nouvel ongletGroves et alii, 2000) sur les déterminants de la participation à une enquête, l’acceptation se trouve influencée par : la nature de l’organisme commanditaire de l’étude, l’habileté de l’enquêté avec un smartphone, la durée de la période de collecte des données, etc., mais avant tout par le recours à une incitation.

Les études menées au niveau international au cours des deux dernières décennies ont montré qu’une incitation financière était la solution la plus efficace pour accroître la participation aux enquêtes ménages (Ouvrir dans un nouvel ongletSinger et Ye, 2012 ; Ouvrir dans un nouvel ongletEdwards et alii, 2009), plus que les « cadeaux ». Elle est notamment utilisée par certains instituts statistiques lorsque la charge pesant sur les répondants est particulièrement lourde (par la complexité ou par la durée du questionnaire), par exemple lorsque l’individu ou le ménage est sollicité pour participer à un panel, ou lorsque la durée de questionnaire dépasse trois quarts d’heure. Elle permet de limiter l’attrition. Notons que les expérimentations de la sorte sont rares en France (Legleyeet alii, Ouvrir dans un nouvel onglet2014 ; Ouvrir dans un nouvel onglet2016) et que leur mise en œuvre par un organisme de la statistique publique, pour des enquêtes la plupart du temps obligatoires, pose des questions de plusieurs ordres, notamment budgétaire (renchérissement) et déontologique (par exemple : faut-il monétiser la participation civique à des projets d’intérêt social ? Y a-t-il rupture d’égalité en cas de ciblage de sous-populations particulières ? Faut-il étendre l’indemnisation à toutes les enquêtes ? etc.). Un tel choix complexifie les procédures de production et nécessite une évaluation stricte (arbitrage coût-efficacité en termes de représentativité, gain en variance ou en biais). Enfin, des effets à long terme pourraient surgir : altération de l’image et de la notoriété des instituts ; l’appréciation de l’importance d’une enquête à l’aune de l’indemnisation prévue pour y répondre pourrait pousser à la concurrence inter-enquêtes et à une hausse tendancielle des indemnisations, etc.

Le défi de l’agrégation des données...

Dans les enquêtes multimodes, l’agrégation de données issues de modes de collecte différents nécessite certaines précautions. De fait, ce qui est observé sur un mode peut ne pas être directement comparable à ce qui est observé sur un autre. On appelle cette différence un effet de mode. Il peut être décomposé en deux parties :

  • le biais de sélection : un mode de collecte peut entraîner une sous-représentation de certaines catégories de population, car leur propension à répondre dépend du mode qui leur est proposé. Ainsi, la composition des répondants diffère d’un mode à l’autre, de sorte que la moyenne des variables d’intérêt s’en trouve affectée : on parle alors de biais de composition ou de biais de sélection ;
  • le biais de mesure : un mode de collecte peut induire des réponses qui diffèrent de celles apportées sur d’autres modes, car la situation d’enquête va influer sur la façon de répondre des enquêtés (désirabilité sociale, satisficing, biais de mémoire, difficulté face à une longue liste d’items en auto-administré ou au téléphone, etc.). Le biais de mesure est la conséquence directe du mode de collecte sur la réponse d’un individu donné (ou d’individus semblables, puisqu’on observe rarement la réponse d’un même individu sur deux modes différents).

L’existence d’un biais de sélection découle d’un des objectifs du multimode qui est d’augmenter les possibilités de répondre des enquêtés. Ce n’est en soi pas un problème, à partir du moment où il n’y a pas d’effet de mesure et que l’ensemble des répondants, quel que soit leur mode de collecte, est représentatif de la population cible.

Il est donc important de neutraliser tous les biais de composition pour évaluer proprement ce qui ne relève que du mode de collecte, c’est-à-dire d’évaluer le biais de mesure.

Pour cela, on utilise des méthodes permettant de rendre parfaitement comparables les répondants à chacun des modes de collecte. Cependant, dans la pratique, il peut être difficile de distinguer les biais résultants de ces deux effets, sélection et mesure (Ouvrir dans un nouvel ongletKlausch, 2014). De fait, toutes ces méthodes reposent sur l’hypothèse forte qu’il n’existe pas de biais de sélection non-ignorable, c’est-à-dire de facteur non observé qui influe à la fois sur la participation et sur la valeur des variables d’intérêt, et qui soit peu corrélé aux facteurs observés par lesquels on contrôle (Rubin et Little, 2002). Dans ce cas, surviennent alors des problèmes de sélection endogène particulièrement complexes à traiter (Ouvrir dans un nouvel ongletLee, 2009 ; Castell et Sillard, 2021 ; Ouvrir dans un nouvel ongletHeckman, 1979).

Les travaux menés sur différents jeux de données issus d’enquêtes françaises ont permis de constater des écarts entre les valeurs obtenues par des enquêtes de référence en face-à-face et des enquêtes web posant les mêmes questions (Razafindranovona, 2015). Ces différences sont atténuées par la prise en compte de caractéristiques sociodémographiques, et plus encore si les .

Mais il peut demeurer un écart résiduel traduisant à la fois un biais de mesure et un biais de composition sur des variables non observables, comme l’intérêt pour la thématique de l’enquête (biais de sélection endogène).

... et des méthodes de correction qui ne lèvent pas définitivement toutes les difficultés

Les effets de mode sont sans doute le frein le plus puissant face au développement du multimode : ils complexifient les analyses, rendent difficile l’estimation des « vrais » niveaux des indicateurs d’intérêt de l’enquête et peuvent entraîner des ruptures de séries. L’estimation et la correction de ces biais nécessitent de faire des hypothèses. Pour s’assurer de leur plausibilité, il est nécessaire de se doter de moyens spécifiques, à penser en amont de la collecte (encadré 4).

 

Encadré 4. Se doter en amont de moyens de corriger les effets de mode à l’aval

L’analyse des effets de mesure nécessite de faire l’hypothèse qu’il n’existe pas de biais de composition inobservable entre les répondants aux différents modes et que chaque répondant d’un mode de collecte trouvera un individu comparable parmi les répondants à l’autre mode. Pour être au plus proche de ces hypothèses, des solutions existent, mais elles doivent être pensées en amont de la collecte.

  • Une première méthode consiste à disposer d’un échantillon de contrôle disjoint, sur lequel l’enquête sera réalisée via l’un des modes de collecte de l’échantillon multimode. Dans l’idéal, le protocole dédié à cet échantillon devrait à la fois reposer sur le mode de référence pour la thématique de l’enquête – c’est-à-dire conduisant à un biais de mesure minimal – et maximiser le taux de collecte, ce qui est souvent difficile. En cas d’arbitrage entre réduction du biais de mesure et maximisation du taux de collecte, il faut privilégier le taux de collecte afin de disposer d’un échantillon comprenant tous les profils à comparer dans chacun des modes. Cette méthode peut donc être généralisée à plusieurs sous-échantillons donnant lieu à plusieurs combinaisons de modes différentes.
  • Une autre méthode, complémentaire de la première, consiste à ajouter des questions pertinentes directement dans le questionnaire. Ces questions doivent permettre d’assurer la comparabilité entre les répondants à chacun des modes de collecte, de manière plus robuste qu’avec les informations disponibles dans la base de sondage ou les variables sociodémographiques classiques. Elles peuvent par exemple porter sur les usages des différents modes de collecte. Il est en revanche important que ces variables ne soient pas sujettes elles-mêmes à un effet de mesure.

Ces méthodes sont efficaces, mais il y a toujours un risque que des profils de répondants particuliers soient très peu représentés dans un des modes, rendant difficiles l’évaluation et la correction des effets de mesure. De plus, les effets peuvent varier d’une sous-population à l’autre, ce qui peut très largement compliquer l’analyse.

  • Une autre méthode, particulièrement performante, consiste à réinterroger les mêmes individus, avec un certain délai, avec deux modes différents. Le test repose sur l’hypothèse forte que les réponses au second mode ne sont pas affectées par la participation antérieure au premier mode. Dans la mesure où la situation créée par ce protocole est très artificielle, il est nécessaire de soigner particulièrement la prise de contact avec l’enquêté. Il est également recommandé d’apporter des modifications au questionnaire en remplaçant les questions les moins importantes par des efforts didactiques afin de justifier cette nouvelle interrogation (Ouvrir dans un nouvel ongletKlausch, 2014).
  • Une autre solution consiste à affecter aléatoirement un mode de collecte après le recueil d’une acceptation de participer, obtenue à la suite d’une première sollicitation (idéalement faite sur un autre mode de contact que les modes de collecte testés). L’estimation est alors sans biais (sur l’échantillon des répondants) si le taux de réponse post-acceptation atteint 100 % (ce qui est peu probable). Mais cette méthode permet en principe de contrôler les deux phases de sélection (l’une relative à l’enquête, l’autre au mode), ce qui augmente sa fiabilité relativement à un protocole multimode classique.

 

Le projet MIMOD (encadré 2) a permis de recenser les méthodes concrètement utilisées dans les instituts nationaux statistiques pour agréger les données issues des différents modes et de mettre à jour les connaissances acquises sur le multimode. Si les expériences en matière de mesure des effets de mode commencent à être riches et partagées au sein des pays européens, celles en matière de corrections de ces effets restent en revanche rares, à l’image de la littérature scientifique sur ce thème.

Plusieurs méthodes de correction sont envisageables, mais elles restent sujettes à des limites fortes, d’où le choix le plus souvent fait de ne pas corriger les effets de mode.

Tout d’abord, le biais de mesure est conceptuellement un problème qui se situe au niveau de la réponse partielle (comparativement au biais de sélection qui est un problème au niveau de la réponse totale). Il peut dans ce sens s’apparenter à un problème de valeur manquante : il se traite donc efficacement par imputation. Cependant, cette méthode constitue un choix méthodologique, voire déontologique, fort puisqu’on modifie la réponse des enquêtés. On préférera alors des sélectionnant les observations les plus porteuses du biais afin de minimiser les modifications de la base de données (Ouvrir dans un nouvel ongletLegleye et alii, 2019).

Une autre méthode consiste à recourir au calage. Celui-ci permet de neutraliser le biais de sélection mais aussi le biais de mesure à un niveau agrégé, en introduisant des contraintes sur les niveaux de la variable d’intérêt. Ainsi, au lieu de modifier les données, on modifie les poids de façon à obtenir le bon niveau dans tout ou partie de l’échantillon. En revanche, le biais de mesure n’est pas corrigé au niveau individuel. Là aussi, on privilégiera des marges sur les sous-populations les plus porteuses du biais et le recours à un échantillon de contrôle monomode est fortement recommandé.

Il est également possible de ne pas corriger le biais de mesure, mais de chercher à le contenir dans le temps : dans des enquêtes répétées, il est possible d’introduire dans le redressement une contrainte maintenant à valeurs constantes les parts des différents modes (Ouvrir dans un nouvel ongletBuelens et Van den Brakel, 2010). Ceci présente l’avantage de la simplicité mais pose également des questions de pérennité en cas de disparition d’un mode ou bien de changement de part des différents modes au cours du temps.

Au-delà du biais de mesure, on peut être amené à corriger un autre biais : un biais de sélection inobservable portant sur l’ensemble des répondants. Cette problématique n’est pas directement liée au multimode, qui au contraire peut améliorer la représentativité de l’enquête, en fonction du protocole. Mais le multimode s’associe le plus souvent à l’introduction d’internet et l’utilisation de modes de collecte avec un moindre taux de réponse et une moindre représentativité des répondants que le face-à-face. Dans ce cas, des méthodes de correction existent, fondées sur l’approche d’Heckman (Ouvrir dans un nouvel ongletHeckman, 1979). Toutefois, leur validité repose sur l’hypothèse forte qu’il n’existe pas de biais de mesure (Castell et Sillard, 2021), car aujourd’hui, il n’existe pas de méthode permettant de traiter simultanément les deux, si la réponse sur un mode résulte d’un choix de l’enquêté (Ouvrir dans un nouvel ongletLee, 2009).

De manière générale, les méthodes de correction des effets de mesure nécessitent un travail spécifique. Ainsi, toutes les variables d’une enquête ne pourront pas être analysées, et encore moins corrigées. Il est donc important de sélectionner avec soin les variables d’intérêt principales. Par ailleurs, les méthodes nécessitent de faire l’hypothèse qu’un des modes de collecte constitue la référence, soit parce qu’il est le mode historique d’une série d’enquêtes, soit parce qu’il est réputé produire la mesure de la meilleure qualité. Un échantillon de contrôle de la qualité, collecté en monomode (ou avec multimode embarqué) s’avère donc souvent nécessaire.

Ainsi, la détection des effets de mode peut justifier d’adapter le protocole d’enquête et son plan de sondage, notamment pour que des sous-échantillons disjoints soient collectés selon des compositions de modes différents (encadré 4).

Faire du multimode un atout pour améliorer la qualité des enquêtes

Le développement du multimode nous invite à repenser la conception des enquêtes ménages autour de bonnes pratiques fondamentales et structurantes, garantes d’une qualité minimum des réponses telles que le respect d’un temps de réponse maximum pour un questionnaire et le recours à des concepts et des formulations compréhensibles par une large majorité de la population.

Dans son « programme Multimode », l’Insee a ainsi fait le choix de ne proposer le web que dans certains contextes (enquêtes courtes ou séquencées, concepts simples, réinterrogations après un premier contact intermédié). À l’heure où certains instituts de sondage abandonnent les enquêtes en face-à-face et parfois même les enquêtes téléphoniques, la force de l’Insee est de disposer d’un réseau d’enquêteurs très expérimentés en face-à-face, et très bien répartis sur le territoire français.

Au final, l’évolution vers le multimode constitue certes une occasion d’améliorer les enquêtes sur de nombreux aspects, mais elle représente aussi un coût organisationnel et un défi pour la gestion des effets de mode : ceci doit nous inviter à apporter le plus grand soin dans les choix méthodologiques envisagés au moment de la conception de l’enquête. Face à la généralisation du multimode en Europe, il serait notamment nécessaire de faire évoluer les règlements européens vers des questionnaires omnimodes, donc forcément simplifiés par rapport à ceux en vigueur actuellement et qui ont été conçus dans un univers dominé par le face-à-face. À l’automne 2021, un groupe de travail ad hoc (Ouvrir dans un nouvel ongletEurostat, 2021) a présenté des recommandations allant dans ce sens : un « position paper » (coordonné par la France) identifie les champs d’investigation des prochaines années – en termes d’enjeux méthodologiques et de collecte – pour adapter les enquêtes européennes auprès des ménages au contexte du multimode.

Pour ce qui concerne l’impact du multimode sur l’organisation de la collecte et le travail des enquêteurs, voir l’article d’Éric Sigaud et Benoît Werquin sur « La mise en musique d’enquêtes multimodes » dans ce même numéro.

L’article s’appuie notamment sur les travaux séminaux de (Dillman et alii, 2014) aux États-Unis et sur ceux de (Ouvrir dans un nouvel ongletDe Leeuw, 2018) en Europe, ainsi que sur un premier état des lieux réalisé dans le contexte de la statistique publique française (Razafindranovona, 2015).

De très rares enquêtes auprès des ménages continuent à utiliser le papier (TIC), voire commencent à le faire en complément d’internet (par exemple l’enquête Vécu et Ressenti en matière de Sécurité (Ouvrir dans un nouvel ongletVRS) conduite par le Service statistique ministériel de la sécurité intérieure (SSMSI)).

Une enquête sur les non-répondants de l’EEC a été menée à partir de 2007 par internet et papier et ses résultats ont été intégrés à la pondération de l’enquête en 2007. Voir l’article du Courrier des statistiques N6 consacré au nouveau protocole de collecte de l’enquête Emploi (Guillaumat-Tailliet et Tavan, 2021).

Par exemple, le taux de réponse a baissé pour les enquêtes en face-à-face Cadre de vie et sécurité (de 72 % à 66 % entre 2012 et 2021) et SRCV (de 85 % à 80 % entre 2010 et 2019).

C’est un tel constat qui avait conduit l’Insee à écarter la solution d’enquêtes monomodes via internet.

Entre 2007 et 2021, le taux d’équipement en accès à Internet à domicile est passé de 54 % à 91 % et le taux d’utilisation quotidienne ou quasi-quotidienne est passé de 36 % à 72 % (enquête sur les TIC auprès des ménages).

Le taux de réponse à la première vague de l’enquête Camme est passé de 63 % à 53 % entre 2013 et 2020.

Selon TIC 2021, seuls 66 % des 15-29 ans disposent d’un téléphone fixe : 42 % y prennent tous les appels, 21 % ne décrochent jamais et 23 % ne décrochent que lorsqu’ils connaissent le numéro appelant. Par comparaison, 99 % sont équipés d’un portable : 65 % y prennent tous les appels, 2 % ne décrochent jamais, et 31 % décrochent seulement lorsque le numéro appelant est connu.

Ce mot-valise est formé de satisfying (satisfaisant) et sufficing (suffisant) : il apparaît en 1957 dans le discours du sociologue, économiste et psychologue Herbert Simon dans le cadre de ses recherches sur le comportement humain.

Le SVI est utilisé pour l’assistance aux enquêtés, les relances, ou en automate posant les questions et recueillant les réponses. Sur les sujets sensibles, il donne de meilleurs résultats que le téléphone, sans atteindre le niveau des questionnaires auto-administrés qui restent privilégiés pour diminuer le biais de désirabilité sociale.

Les informations, non visées par la collecte, qui peuvent être recueillies lors de celle-ci, par exemple : si une unité appartient à l’échantillon, si elle a répondu, le nombre de tentatives pour la joindre, le mode de collecte, etc.

La notion de métadonnées actives a été abordée dans le numéro N3 de la revue. Voir également l’article d’Éric Sigaud et Benoît Werquin dans ce même numéro.

Cela peut être le cas du sentiment d’insécurité déclaré pour évaluer l’effet de mode sur les taux de victimation, ou encore d’un score de bien-être pour évaluer l’effet de mode sur un certain nombre de conditions de travail, etc.

C’est-à-dire, des méthodes limitant le nombre de modifications de la base de données, en ne sélectionnant que les observations les plus porteuses du biais, par opposition à des méthodes qui modifieraient toutes les réponses fournies sur un mode.

Pour en savoir plus

ANTOUN, Christopher, COUPER, Mick P. et CONRAD, Frederick G., 2017. Ouvrir dans un nouvel ongletEffects of Mobile versus PC Web on Survey Response Quality: A Crossover Experiment in a Probability Web Panel. In : Public Opinion Quarterly. [en ligne]. 28 mars 2017. Vol. 81, n° S1, 2017, pp. 280-306. [Consulté le 15 décembre 2021].

BECK, François et PERETTI-WATEL, Patrick, 2001. Ouvrir dans un nouvel ongletLes usages de drogues illicites déclarés par les adolescents selon le mode de collecte. In : Population. [en ligne]. 56e année, n° 6, pp. 963-985. [Consulté le 15 décembre 2021].

BECK, François, et RICHARD, Jean-Baptiste, 2013. Ouvrir dans un nouvel ongletLe Baromètre santé de l’INPES, un outil d’observation et de compréhension des comportements de santé des jeunes. In : Agora Débats Jeunesses. [en ligne]. Presses de Sciences Po, 2013, n° 63, pp. 51-60. [Consulté le 15 décembre 2021].

BECK, François, GUIGNARD, Romain et LEGLEYE, Stéphane, 2014. Ouvrir dans un nouvel ongletDoes Computer Survey Technology Improve Reports on Alcohol and Illicit Drug Use in the General Population? A Comparison Between Two Surveys with Different Data Collection Modes In France. [en ligne]. 22 janvier 2014. PLOS ONE. [Consulté le 15 décembre 2021].

BUELENS, Bart et VAN DEN BRAKEL, Jan, 2010. Ouvrir dans un nouvel ongletOn the Necessity to Include Personal Interviewing in Mixed-Mode Surveys. In : Survey Practice. [en ligne]. 30 septembre 2010. Vol. 3, n° 5. [Consulté le 15 décembre 2021].

CASTELL, Laura, SILLARD, Patrick, 2021. Le traitement du biais de sélection endogène dans les enquêtes auprès des ménages par modèle de Heckman. [en ligne]. 24 mars 2021. Insee. Document de travail n° M2021/02. [Consulté le 15 décembre 2021].

CHUN, Asaph Young, HEERINGA, Steven G. et SCHOUTEN, Barry, 2018. Ouvrir dans un nouvel ongletResponsive and Adaptive Design for Survey Optimization. In : Journal of Official Statistics. [en ligne]. Septembre 2018. Vol. 34, n° 3, pp. 581‑597. [Consulté le 15 décembre 2021].

CORNESSE, Carina et BOSNJAK, Michael, 2018. Ouvrir dans un nouvel ongletIs there an association between survey characteristics and representativeness? A meta-analysis. In : Survey Research Methods. [en ligne]. 12 avril 2018. Vol. 12, n° 1, pp. 1-13. [Consulté le 15 décembre 2021].

COUPER, Mick P, PETERSON, Gregg J, 2016. Ouvrir dans un nouvel ongletWhy Do Web Surveys Take Longer on Smartphones? In : Social sciences computer review. [en ligne]. 11 février 2016. Vol. 35, n° 3, pp. 355-377. [Consulté le 15 décembre 2021].

DE LEEUW, Edith, 2018. Ouvrir dans un nouvel ongletMixed-Mode: Past, Present, and Future. In : Survey Research Methods. [en ligne]. 13 août 2018. Vol. 12, n° 2, pp. 75-89. [Consulté le 15 décembre 2021].

DILLMAN, Don A., SMYTH, Jolene D., CHRISTIAN, Leah Melani, 2014. Internet, Phone, Mail and Mixed-Mode Surveys: The Tailored Design Method. Août 2014. Éditions Wiley. ISBN 978-1-118-45614-9.

EDWARDS, Philip James, ROBERTS, Ian, CLARKE, Mike J., DIGUISEPPI, Carolyn, WENTZ, Reinhard, KWAN, Irene, COOPER, Rachel, FELIX, Lambert M. et PRATAP, Sarah, 2009. Ouvrir dans un nouvel ongletMethods to increase response to postal and electronic questionnaires. [en ligne]. 8 juillet 2009. Éditions John Wiley & Sons. Cochrane Database Systematic Reviews, n° 3, article n° MR000008. [Consulté le 15 décembre 2021].

EUROSTAT, 2021. Ouvrir dans un nouvel ongletPosition Paper on Mixed-Mode Data Collection in Household Surveys. [en ligne]. 19 octobre 2021. Groupe de travail sur les enquêtes ménages en multimode. Projet présenté aux directeurs des statistiques sociales (DSS), aux directeurs de la méthodologie (DIME) et aux directeurs des systèmes d’information (IT). [Consulté le 15 décembre 2021].

GALESIC, Mirta et BOSNJAK, Michael, 2009. Ouvrir dans un nouvel ongletEffects of Questionnaire Length on Participation and Indicators of Response Quality in a Web Survey. In : Public Opinion Quarterly. [en ligne]. 28 mai 2009. Oxford Academics Journal. Vol. 73, n° 2, pp. 349-360. [Consulté le 15 décembre 2021].

GROVES, Robert M. et PEYTCHEVA, Emilia, 2008. Ouvrir dans un nouvel ongletThe Impact of Nonresponse Rates on Nonresponse Bias: A Meta-Analysis. In : Public Opinion Quarterly. [en ligne]. 7 mai 2008. Oxford Academics Journal. Vol. 72, n° 2, pp. 167-89. [Consulté le 15 décembre 2021].

GROVES, Robert M., SINGER, Eleanor et CORNING, Amy, 2000. Ouvrir dans un nouvel ongletLeverage-Saliency Theory of Survey Participation: Description and an Illustration. In : Public Opinion Quarterly. [en ligne]. 1er novembre 2000. Oxford Academics Journal. Vol. 64, n° 3, pp. 299-308. [Consulté le 15 décembre 2021].

GUILLAUMAT-TAILLIET, François et TAVAN, Chloé, 2021. Une nouvelle enquête Emploi en 2021, entre impératif européen et volonté de modernisation. In : Courrier des statistiques. [en ligne]. 8 juillet 2021. Insee. N° N6, pp. 7-27. [Consulté le 15 décembre 2021].

HECKMAN, James J., 1979. Ouvrir dans un nouvel ongletSample Selection Bias as a Specification Error. In : Econometrica, Journal of the econometric society. [en ligne]. Janvier 1979. Vol. 47, n° 1, pp. 153-161. [Consulté le 15 décembre 2021].

KAPPELHOF, Johannes W. S., 2015. Ouvrir dans un nouvel ongletFace-to-Face or Sequential Mixed-Mode Surveys Among Non-Western Minorities in the Netherlands: The Effect of Different Survey Designs on the Possibility of Nonresponse Bias. In : Journal of Official Statistics. [en ligne]. Mars 2015. Vol. 31, n° 1, pp. 1-30. [Consulté le 15 décembre 2021].

KLAUSCH, Lars Thomas, 2014. Ouvrir dans un nouvel ongletInformed Design of Mixed-Mode Surveys − Evaluating mode effects on measurement and selection error. [en ligne]. 10 octobre 2014. Utrecht University − Department of Methodology and Statistics. ISBN 978-90-393-6192-4. [Consulté le 15 décembre 2021].

KOUMARIANOS, Heïdi et SCHREIBER, Amandine, 2021. Conception de questionnaires auto-administrés. [en ligne]. 15 décembre 2021. Insee. Document de travail n° M2021/03.[Consulté le 15 décembre 2021].

KREUTER, Frauke, PRESSER, Stanley et TOURANGEAU, Roger, 2008. Ouvrir dans un nouvel ongletSocial Desirability Bias in CATI, IVR, and Web Surveys: The Effects of Mode and Question Sensitivity. In : Public Opinion Quarterly. [en ligne]. Décembre 2008. Oxford Academics Journal. Vol. 72, n° 5, pp. 847-865. [Consulté le 15 décembre 2021].

KROSNICK, Jon A., 1991. Ouvrir dans un nouvel ongletResponse strategies for coping with the cognitive demands of attitude measures in surveys. In : Applied Cognitive Psychology. [en ligne]. Mai/Juin 1991. Vol. 5, n° 3, pp. 213-236. [Consulté le 15 décembre 2021].

LEE, David S., 2009. Ouvrir dans un nouvel ongletTraining, Wages, and Sample Selection: Estimating Sharp Bounds on Treatment Effects. In : The Review of Economic Studies. [en ligne]. Juillet 2009. Vol. 76, n° 3, pp. 1071-1102. [Consulté le 15 décembre 2021].

LEGLEYE, S., BOHET, A., RAZAFINDRATSIMA, N., BAJOS, N. et MOREAU, C., 2014. Ouvrir dans un nouvel ongletA randomized trial of survey participation in a national random sample of general practitioners and gynecologists in France. In : Revue d’Épidémiologie et de Santé Publique. [en ligne]. Août 2014. Vol. 62, n° 4, pp. 249-255. [Consulté le 15 décembre 2021].

LEGLEYE, Stéphane et CHARRANCE, Géraldine, 2021. Ouvrir dans un nouvel ongletSequential and Concurrent Internet-Telephone Mixed-Mode Designs in Sexual Health Behavior Research. [en ligne]. 30 août 2021. Journal of Survey Statistics and Methodology. [Consulté le 15 décembre 2021].

LEGLEYE, Stéphane, RAZAFINDRANOVONA, Tiaray et DE PERETTI, Gaël, 2019. Ouvrir dans un nouvel ongletAgregating mix-mode survey data: a practical approach to neutralize measurement bias. [en ligne]. 19 juillet 2019. European Survey Research Association. Conférence internationale 2019, Zagreb. [Consulté le 15 décembre 2021].

LEGLEYE, Stéphane, RAZAKAMANANA, Nirintsoa, CORNILLEAU, Anne et COUSTEAUX, Anne-Sophie, 2016. Ouvrir dans un nouvel ongletIntéressement financier, motivation initiale et caractéristiques des enquêtes : effets sur le recrutement et la participation à long terme dans le panel ELIPSS. [en ligne]. 30 octobre 2016. Université du Québec en Outaouais. 9e Colloque francophone sur les sondages, Gatineau. [Consulté le 15 décembre 2021].

LUITEN, Annemieke, HOX, Joop et DE LEEUW, Edith, 2020. Ouvrir dans un nouvel ongletSurvey Nonresponse Trends and Fieldwork Effort in the 21st Century: Results of an International Study across Countries and Surveys. In : Journal of Official Statistics. [en ligne]. 24 juillet 2020. Vol. 36, n° 3, pp. 469-487. [Consulté le 15 décembre 2021].

RAZAFINDRANOVONA, Tiaray, 2015. La collecte multimode et le paradigme de l’erreur d’enquête totale. [en ligne]. 27 mars 2015. Insee. Document de travail n° M2015/01. [Consulté le 15 décembre 2021].

REVILLA, Melanie et OCHOA, Carlos, 2017. Ideal and Maximum Length for a Web Survey. In : International Journal of Market Research. 24 octobre 2017. Vol. 59, n° 5, pp. 557-566.

ROBERTS, Caroline, EVA, Gillian, ALLUM, Nick et LYNN, Peter, 2010. Ouvrir dans un nouvel ongletData Quality in Telephone Surveys and the Effect of Questionnaire Length: a Cross-National Experiment. [en ligne]. 9 novembre 2010. Institute for Social and Economic Research. Working Paper Series n° 2010-36. [Consulté le 15 décembre 2021].

RUBIN, Donald B. et LITTLE, Roderick J. A., 2002. Statistical Analysis with Missing Data. 26 août 2002. Éditions John Wiley & Sons, Wiley Series in Probability and Statistics. ISBN 978-1119013563.

SCHWARTZ, Barry, 2005. The Paradox of Choice − Why More is Less. 18 janvier 2005. Harper Perennial. ISBN 978-0060005696.

SINGER, Eleanor et YE, Cong, 2012. Ouvrir dans un nouvel ongletThe use and effects of incentives in surveys. In : The Annals of the American Academy of Political and Social Science. [en ligne]. 26 novembre 2012. Vol. 645, n° 1, pp.112-141. [Consulté le 15 décembre 2021].

TURNER, C. F., KU, L., ROGERS, S. M., LINDBERG, L. D., PLECK, J. H., et SONENSTEIN, F. L., 1998. Ouvrir dans un nouvel ongletAdolescent Sexual Behavior, Drug Use, and Violence: Increased Reporting with Computer Survey Technology. In : Science. [en ligne]. 8 mai 1998. Vol. 280, n° 5365, pp. 867-873. [Consulté le 15 décembre 2021].