Qu'est-ce que la désinformation ?

La désinformation est une information inexacte, incomplète ou trompeuse, que la personne qui la partage ait eu ou non l'intention de nuire. Elle peut apparaître dans des reportages d'actualité, des conversations privées, de la publicité, des allégations de santé, des images, des statistiques et des commentaires quotidiens. Une déclaration peut contenir un petit élément de vérité tout en créant une impression matériellement fausse.

Mésinformation vs. Désinformation

La distinction centrale entre la mésinformation et la désinformation est l'intention. La mésinformation est généralement partagée en raison d'une erreur, d'un malentendu ou d'un manque de connaissances, tandis que la désinformation est délibérément produite ou diffusée pour tromper. Une même affirmation inexacte peut donc être de la mésinformation lorsqu'elle est répétée de manière informelle, et de la désinformation lorsqu'elle est conçue dans le cadre d'une campagne de manipulation.

L'intention n'est pas toujours visible à partir du contenu lui-même. Une photographie recyclée, par exemple, peut être partagée par une personne qui la croit actuelle et par une autre qui sait qu'elle est présentée dans un faux contexte. C'est pourquoi l'évaluation de la source, de la date, des preuves et des circonstances environnantes importe tout autant que l'évaluation de la formulation de l'affirmation.

Pourquoi la désinformation se propage comme une traînée de poudre

Trois mécanismes sont au cœur de la propagation des fausses affirmations, et chacun opère discrètement au sein de la logique des systèmes publicitaires modernes.

L'effet de chambre d'écho

Les modèles de simulation de réseau montrent que lorsque des groupes d'utilisateurs partagent une opinion commune et sont étroitement connectés tout en étant polarisés par rapport au reste du réseau, les contagions complexes telles que la désinformation se propagent plus rapidement et plus loin.

Cet « effet de chambre d'écho » signifie que la présence d'un groupe polarisé agit comme un effet d'entraînement initial, créant l'élan de départ qui propulse une fausse affirmation de l'anonymat vers une large visibilité. Cette relation est difficile à étudier en situation réelle car les connexions sur les médias sociaux sont denses et les boucles de cause à effet s'entremêlent. Néanmoins, le constat selon lequel la polarisation des opinions et la polarisation des réseaux fonctionnent en synergie pour stimuler la viralité de la désinformation offre une explication plausible de la raison pour laquelle certains faux récits décollent.

Cela suggère que les audiences publicitaires qui ressemblent structurellement à des chambres d'écho, à savoir des groupes très homogènes ayant peu de connexions externes, peuvent constituer un terrain particulièrement fertile pour la propagation de statistiques démystifiées, surtout si ces statistiques s'alignent sur la vision du monde existante du groupe.

Le carburant émotionnel

Les données expérimentales d'une vaste étude menée auprès de 719 participants américains ont révélé qu'une anxiété accrue rend les gens considérablement plus susceptibles de croire et d'exprimer leur volonté de partager tous les types d'affirmations, qu'elles soient vraies, correctives ou carrément fausses. Cet effet était particulièrement prononcé chez les Républicains, mais le modèle de base était clair : l'anxiété réduit les filtres cognitifs qui bloqueraient normalement les contenus douteux.

Par ailleurs, une enquête menée auprès de 513 adultes sud-coréens a révélé que la colère pousse les gens à juger des fausses affirmations sur la COVID-19 comme « scientifiquement crédibles », ce lien étant plus fort chez les conservateurs.

Dans un contexte publicitaire, les variations créatives qui exploitent l'anxiété ou la colère, que ce soit par des titres urgents ou des images formulées sous forme de crise, peuvent par inadvertance stimuler l'engagement. Lorsque ces leviers émotionnels sont actionnés à grande échelle par des systèmes automatisés qui optimisent uniquement les signaux d'attention, ces mêmes carburants émotionnels qui favorisent le partage de fausses informations peuvent conduire un moteur d'optimisation créative dynamique (DCO) à privilégier des variantes publicitaires contenant des affirmations douteuses.

Le fact-checking peut se retourner contre vous

Une analyse de 5 303 publications sur les réseaux sociaux et de plus de 2,6 millions de commentaires sur Facebook, Twitter et YouTube a révélé que si les articles de fact-checking génèrent certains signaux positifs, ils génèrent également des signaux cohérents avec un effet de « retour de flamme » (backfire), à savoir des réactions d'utilisateurs qui peuvent renforcer les fausses croyances plutôt que de les corriger.

Des traces linguistiques telles que des taux plus élevés de jurons, une utilisation intensive d'emojis et des marqueurs de sensibilisation à la désinformation apparaissent beaucoup plus fréquemment sur les publications les plus mensongères. Ces signaux peuvent aider les plateformes à détecter la désinformation, mais ils révèlent également que lorsqu'une statistique démystifiée apparaît dans une publicité et que la conversation environnante éclate en fils de correction ou en commentaires toxiques, l'amplification algorithmique de cet engagement peut aggraver l'association de la marque avec la fausse affirmation, même si le message explicite est « ceci est faux ».

Nous ne sommes pas certains que la désinformation cause directement des préjudices réels

Une analyse interdisciplinaire de 2023 couvrant l'informatique, l'économie, la psychologie et les études de médias a révélé que si les progrès des technologies de l'information ont incontestablement permis et révélé des distorsions de la vérité fondamentale, « il n'est pas encore démontré de manière empirique et fiable que les comportements répréhensibles sont le résultat de la désinformation ; la confusion entre corrélation et causalité pourrait y être pour quelque chose. »

De nombreux préjudices sociétaux supposés reposent sur une perception intersubjective, ce que les gens croient qu'il se passe, plutôt que sur une chaîne causale étroite allant de l'exposition au comportement. Pour les spécialistes du marketing, cette incertitude est cruciale. Elle signifie que surestimer le danger des statistiques réfutées dans les publicités peut mener à une panique inutile, mais elle signifie également qu'ignorer le risque lorsqu'une chaîne claire de sentiments négatifs et de dépenses inutiles est visible serait tout aussi imprudent.

Comment la désinformation se propage

La désinformation circule à la fois via les réseaux numériques et hors ligne. Les plateformes sociales peuvent rendre la publication et le partage presque instantanés, mais les conversations familiales, les discussions de groupe, la télévision, la publicité et le bouche-à-oreille restent des canaux importants. La vitesse de circulation dépasse souvent la vitesse à laquelle une affirmation peut être vérifiée.

La désinformation sur les réseaux sociaux

Les réseaux sociaux encouragent une attention rapide grâce à des éléments visuels, des titres concis et des signaux de popularité visibles. Les publications qui provoquent la colère, la peur, la surprise ou l'amusement peuvent recevoir plus de réactions et de partages que des explications prudentes. Une personne peut également faire confiance à une affirmation parce qu'elle provient d'un ami, d'une connaissance professionnelle ou d'une communauté à laquelle elle s'identifie déjà.

Plusieurs caractéristiques augmentent généralement la probabilité que des informations peu fiables circulent largement :

• Un langage émotionnel peut inciter à un partage immédiat avant toute réflexion.

• La répétition peut rendre une affirmation non étayée familière et crédible.

• Les images et les courtes vidéos peuvent être séparées de leur date ou de leur contexte d'origine.

• Les systèmes de recommandation peuvent exposer les utilisateurs à des points de vue de plus en plus similaires.

Ces mécanismes ne rendent pas chaque publication populaire fausse, pas plus qu'ils ne rendent chaque publication impopulaire exacte. Ils montrent cependant pourquoi la portée et l'engagement sont de piètres substituts aux preuves. Un lecteur attentif sépare la preuve sociale entourant une affirmation de la qualité de l'affirmation elle-même.

Comment 3 piliers du MarTech deviennent des vecteurs de désinformation

1. L'optimisation créative dynamique (DCO)

Les plateformes d'optimisation créative dynamique (DCO) testent de manière algorithmique des milliers de titres publicitaires, d'images et d'appels à l'action, orientant davantage de budget vers les variantes qui génèrent des taux de clics élevés, une vitesse de commentaire rapide ou une forte dynamique de partage.

Le risque réside dans le fait que si le contenu émotionnel stimule l'interaction, comme le démontrent les études sur l'anxiété et la colère, un moteur DCO entraîné sur des signaux d'engagement peut promouvoir des créations qui font écho à des statistiques réfutées précisément parce que ces variantes déclenchent l'anxiété ou la colère qui favorise le partage. Les signaux linguistiques qui accompagnent les fausses publications, comme les jurons fréquents ou les réactions intenses par emojis, pourraient être confondus par l'algorithme avec un « engagement élevé », renforçant ainsi le cycle.

Par conséquent, les spécialistes du marketing devraient tester si leurs propres variantes DCO contenant des affirmations non vérifiées surpassent celles qui sont factuellement irréprochables, et se demander si ce gain de performance est réellement un atout pour la marque.

2. La modélisation d'audiences similaires (Lookalike)

Les modèles d'audiences similaires prennent une audience source (les visiteurs ayant converti, les utilisateurs engagés ayant regardé une vidéo) et trouvent des millions de nouveaux utilisateurs présentant des signatures comportementales similaires sur la plateforme. Si la liste source est construite à partir d'utilisateurs ayant interagi avec des variantes publicitaires contenant des fausses affirmations, ou d'utilisateurs regroupés au sein de chambres d'écho hautement polarisées, l'extension d'audience similaire peut hériter de profils idéologiques et émotionnels plus enclins à partager de la désinformation.

Une précaution pratique consiste à auditer la composition des audiences sources performantes qui ont généré d'importantes extensions d'audiences similaires, et à vérifier si leur historique d'engagement s'aligne sur des contenus ayant nécessité ultérieurement une correction.

3. Les outils de contenu d'IA générative

Les grands modèles de langage et les générateurs d'images produisent des textes publicitaires et des visuels à partir de modèles présents dans leurs données d'entraînement. Sans garde-fous explicites, un outil d'IA générative peut reproduire textuellement des statistiques réfutées parce que ces chiffres apparaissent fréquemment sur le web, dans de vieux articles, des fils de discussion de forums et des publications autrefois virales.

Les marqueurs linguistiques mentionnés dans l'étude susmentionnée et associés aux contenus faux, tels qu'un langage émotionnel chargé et des structures rhétoriques spécifiques, peuvent être imités par le modèle, donnant à une affirmation réfutée un semblant de crédibilité nouvelle.

Par conséquent, les spécialistes du marketing devraient effectuer des tests internes en soumettant des titres sources contenant des statistiques notoirement fausses pour voir si l'outil les reproduit ou crée des variations qui pourraient passer un examen superficiel.

L'équation de la sécurité de la marque et du gaspillage

Lorsqu'une publicité associe une marque à une statistique réfutée, les indicateurs clés de performance (KPI) de sécurité de la marque commencent à fluctuer. Les scores d'analyse de sentiment peuvent baisser à mesure que les commentaires deviennent correctifs. Les taux de spam et de signalement peuvent grimper si des fact-checkers ou des utilisateurs vigilants signalent le contenu.

Les signaux de négativité identifiés dans l'analyse linguistique (jurons, densité d'emojis, réactions chargées d'émotion) offrent une alerte précoce quantifiable indiquant qu'une création a pu franchir une ligne. Payer pour amplifier de fausses affirmations gaspille également le budget d'une manière particulièrement insidieuse : les impressions qui génèrent un retour de flamme du fact-checking ou qui suscitent des fils de discussion correctifs de la part des utilisateurs produisent un engagement qui semble positif sur un tableau de bord, mais qui génère un ROI négatif lorsqu'il est mesuré à l'aune de la santé réelle de la marque.

Pourtant, rappelons la mise en garde de l'analyse interdisciplinaire : le lien entre l'exposition à la désinformation et les comportements d'achat mesurables des consommateurs, comme l'évitement d'achat, reste empiriquement fragile. La prudence est de mise, mais les prédictions hyperboliques de ruine immédiate de la marque ne sont pas étayées par les faits.

Protocole d'audit étape par étape : Inventorier, Vérifier, Supprimer

Le protocole traduit la recherche en une séquence que toute équipe de croissance peut exécuter, chaque étape étant liée à une ligne de preuve spécifique et à un KPI mesurable.

Étape 1 : Inventorier

Listez chaque élément créatif, variable de modèle dynamique, source d'audience de départ et prompt d'IA générative utilisé dans les campagnes actuellement actives et planifiées. Identifiez tout élément contenant des affirmations statistiques, des chiffres liés à la santé, des références politiques ou un langage lié à des crises (taux de cas de COVID-19, statistiques électorales, indicateurs économiques). Cet inventaire devient la base de référence pour le reste de l'audit.

Lien avec le KPI : Extrayez vos mesures actuelles de sécurité de la marque, les scores de sentiment des commentaires, les signalements de vérification tiers, la part d'impressions signalées, pour la semaine précédant l'audit. Ce sont vos repères de pré-intervention.

Étape 2 : Vérification des affirmations

Vérifiez chaque affirmation factuelle de l'inventaire par rapport aux sources primaires et aux bases de données de fact-checking reconnues, les mêmes sources Snopes et PolitiFact utilisées dans l'étude linguistique.

Lorsque vous rencontrez une statistique réfutée, ne créez pas de version corrigée qui répète la fausse affirmation sous une forme négative (« X n'est pas vrai »). De telles négations peuvent par inadvertance renforcer la fausse affirmation, un schéma cohérent avec les signaux de retour de flamme observés dans l'analyse des commentaires.

Remplacez plutôt l'affirmation entièrement par une déclaration vraie et vérifiée. Pour les résultats d'IA générative, insérez un point de contrôle d'examen humain obligatoire avant que tout texte généré par l'IA ne soit intégré dans un flux DCO.

Étape 3 : Configuration des règles de suppression

Déployez des règles de suppression automatisées au sein de vos plateformes publicitaires en utilisant les signatures linguistiques et émotionnelles identifiées dans la recherche :

• Mettez en pause toute variante publicitaire dont la section des commentaires dépasse un seuil de signaux de sensibilisation à la désinformation, en particulier un ratio élevé de jurons ou une utilisation intensive d'emojis par rapport à la norme de votre compte.

• Supprimez les segments d'audience qui affichent des schémas d'engagement liés à une forte anxiété ou à la colère face à des contenus sensibles. Bien que ces segments puissent présenter des taux de clics élevés, ils présentent également un risque plus grand de déclencher la boucle de retour de flamme.

• Créez une base de données d'affirmations interdites et bloquez la réintroduction de toute URL réfutée, chaîne de statistiques ou fausse affirmation paraphrasée dans votre bibliothèque DCO. Cela empêche l'algorithme de faire resurgir une ancienne variante problématique qui fonctionnait autrefois bien sur des mesures d'engagement superficielles.

Mesurez le résultat en suivant ces trois chiffres après l'activation des règles de suppression : la baisse en pourcentage des signalements de fact-checking sur les créations publicitaires, l'évolution des pics de sentiment négatif après le lancement de la publicité, et la réduction des dépenses payées attribuées à des emplacements publicitaires générant des taux de signalement élevés.

Parce que la relation entre les signaux de commentaires et la propagation réelle de la désinformation est corrélationnelle, la détection n'est pas la prévention. Le protocole est une couche d'atténuation des risques, pas un remède parfait.

Conclusion

L'intégration d'outils marketing automatisés présente un risque unique d'amplification involontaire de la désinformation numérique. Des systèmes conçus pour la vitesse et l'échelle peuvent recycler des affirmations réfutées dans des campagnes actives sans supervision humaine. Cette transformation d'un danger réputationnel en un problème technique de martech nécessite une attention immédiate de la part des équipes de croissance.

Bien que le lien de cause à effet entre l'exposition à la désinformation et le comportement spécifique des consommateurs reste un sujet de débat académique, une atténuation proactive est essentielle. La mise en œuvre de protocoles d'audit structurés sert de protection réversible et peu coûteuse pour préserver l'intégrité de la marque. En supprimant les affirmations fausses vérifiées, les spécialistes du marketing protègent l'efficacité de leur budget et la sécurité à long terme de leur marque.

Votre protocole d'audit élimine les fausses affirmations, mais qu'est-ce qui construit un souvenir de marque durable ? Découvrez pourquoi les équipes modernes se tournent vers la neurotechnologie pour contourner les conjectures et obtenir des Insight basés sur des données sur la façon dont votre public perçoit réellement votre marque.

Références

1. Törnberg, P. (2018). Echo chambers and viral misinformation: Modeling fake news as complex contagion. PLoS one, 13(9), e0203958. https://doi.org/10.1371/journal.pone.0203958

2. Freiling, I., Krause, N. M., Scheufele, D. A., & Brossard, D. (2023). Believing and sharing misinformation, fact-checks, and accurate information on social media: The role of anxiety during COVID-19. New media & society, 25(1), 141-162. https://doi.org/10.1177/14614448211011451

3. Han, J., Cha, M., & Lee, W. (2020). Anger contributes to the spread of COVID-19 misinformation. Harvard Kennedy School Misinformation Review, 1(3).

4. Jiang, S., & Wilson, C. (2018). Linguistic signals under misinformation and fact-checking: Evidence from user comments on social media. Proceedings of the ACM on Human-Computer Interaction, 2(CSCW), 1-23. https://doi.org/10.1145/3274351

5. Adams, Z., Osman, M., Bechlivanidis, C., & Meder, B. (2023). (Why) is misinformation a problem?. Perspectives on Psychological Science, 18(6), 1436-1463. https://doi.org/10.1177/17456916221141344

Foire Aux Questions

Qu'est-ce que l'effet de chambre d'écho et comment facilite-t-il la propagation de la désinformation ?

L'effet de chambre d'écho se produit lorsque des groupes polarisés, étroitement connectés, partagent des opinions communes, permettant à des contagions complexes comme la désinformation de circuler plus vite et plus loin. Cet élan initial de ralliement peut propulser de fausses affirmations de l'ombre vers une large visibilité, en particulier chez les audiences publicitaires qui ressemblent structurellement à ces chambres d'écho.

Comment l'anxiété et la colère affectent-elles la probabilité des gens à partager de la désinformation dans les publicités ?

Une anxiété accrue rend les gens considérablement plus susceptibles de croire et de partager tous les types d'affirmations, y compris les fausses, en réduisant les filtres cognitifs. De même, la colère conduit les individus à juger les fausses affirmations comme plus crédibles scientifiquement, ces états émotionnels pouvant stimuler l'engagement envers des publicités contenant des statistiques réfutées.

Qu'est-ce que l'effet de retour de flamme (backfire) et pourquoi est-il problématique pour les marques ?

L'effet de retour de flamme se produit lorsque les articles de fact-checking génèrent des réactions d'utilisateurs qui renforcent les fausses croyances plutôt que de les corriger, comme des jurons, une utilisation intensive d'emojis et des marqueurs de sensibilisation à la désinformation. Lorsqu'une statistique réfutée apparaît dans une publicité, les fils de correction et les commentaires toxiques qui en résultent peuvent amplifier algorithmiquement la fausse affirmation, détériorant ainsi l'association de la marque avec celle-ci.

Comment les plateformes d'optimisation créative dynamique (DCO) peuvent-elles devenir des vecteurs de désinformation ?

Les plateformes DCO testent de manière algorithmique des variantes publicitaires et orientent le budget vers celles qui génèrent un fort engagement. Si le contenu émotionnel qui suscite l'anxiété ou la colère incite au partage, la DCO peut privilégier les créations comportant des statistiques réfutées parce que ces variantes activent les mêmes leviers émotionnels qui favorisent le partage de désinformation.

Comment les outils de contenu d'IA générative peuvent-ils reproduire des statistiques réfutées ?

Les outils d'IA générative produisent des textes publicitaires à partir de modèles issus de leurs données d'entraînement, lesquelles peuvent contenir des statistiques réfutées provenant de vieux articles ou de fils de discussion de forums. Sans garde-fous, l'IA peut reproduire ces chiffres textuellement, et les marqueurs linguistiques des contenus faux peuvent être imités, donnant à l'affirmation réfutée une apparence de nouveauté.

Quelle est l'équation de la sécurité de la marque lors de l'utilisation de statistiques réfutées dans les publicités ?

Lorsqu'une publicité associe une marque à une statistique réfutée, les KPI de sécurité de la marque peuvent basculer : les scores de sentiment baissent, les taux de spam et de signalement augmentent, et les signaux de négativité comme les jurons et la densité d'emojis s'accroissent. Payer pour amplifier de fausses affirmations gaspille le budget sur un engagement qui semble flatteur sur les tableaux de bord mais qui offre un ROI négatif par rapport à la santé réelle de la marque.

Quelle est la mise en garde clé concernant le lien entre la désinformation et les préjudices dans le monde réel ?

Une analyse interdisciplinaire avertit que si la technologie de l'information permet des distorsions de la vérité, il n'est pas encore démontré de manière empirique et fiable que les comportements répréhensibles découlent de la désinformation ; la corrélation peut être confondue avec la causalité. Cela signifie qu'il est inutile de surestimer le danger, mais qu'il serait imprudent d'ignorer une chaîne évidente de sentiments négatifs et de dépenses inutiles.

Quelles sont les trois étapes du protocole d'audit pour atténuer le risque de désinformation ?

Le protocole d'audit comprend trois étapes : inventorier tous les éléments créatifs et identifier les affirmations, procéder à la vérification des affirmations par rapport à des bases de données de fact-checking et remplacer les statistiques réfutées par des déclarations vraies et vérifiées, et configurer des règles de suppression basées sur des signatures linguistiques et émotionnelles comme les jurons et l'usage d'emojis. Cela crée une couche d'atténuation des risques, et non un remède absolu.

Pourquoi le protocole d'audit est-il considéré comme une protection réversible et peu coûteuse plutôt que comme une nécessité éprouvée ?

Les données disponibles ne testent pas directement si les systèmes MarTech remettent systématiquement en circulation des statistiques réfutées ; les scénarios envisagés sont des extrapolations logiques basées sur la science fondamentale. Le protocole d'audit constitue une protection réversible et peu coûteuse contre un risque présentant un inconvénient financier et réputationnel majeur si les scénarios hypothétiques s'avéraient exacts.