什么是虚假信息？

虚假信息是指不准确、不完整或具有误导性的信息，无论分享该信息的人是否意图造成伤害。它可能出现在新闻报道、私人对话、广告、健康声明、图像、统计数据以及日常评论中。一个陈述可能包含一小部分事实，但仍会造成实质上的虚假印象。

虚假信息 vs. 恶意虚假信息

虚假信息（misinformation）与恶意虚假信息（disinformation）的核心区别在于意图。虚假信息的分享通常是由于错误、误解或缺乏知识，而恶意虚假信息则是故意制造或传播以欺骗他人。因此，同一个不准确的说法在被随意重复时可能是虚假信息，而在被设计为操纵活动的一部分时则是恶意虚假信息。

从内容本身并不总是能看出意图。例如，一张循环使用的照片可能会被一个人分享，因为他相信这是最新的，而另一个人分享则是因为知道它是在虚假的背景下被呈现的。这就是为什么评估来源、日期、证据和周围环境与评估说法本身的措辞同样重要。

为什么虚假信息会迅速传播

三个机制是虚假信息得以传播的核心，而每一个机制都在现代广告系统的逻辑中静静地运行。

回音室效应

网络模拟模型表明，当一组用户拥有共同的意见且联系紧密，同时又与网络的其余部分两极分化时，像虚假信息这样的复杂传染病的传播速度会更快、更远。

这种“回音室效应”意味着极化群体的存在起到了最初的随大流作用，创造了早期的势头，将一个虚假的说法从默默无闻推向广泛关注。这种关系在现实中很难研究，因为社交媒体的联系非常密集，因果循环相互交织。尽管如此，意见极化和网络极化协同工作以提高虚假信息病毒式传播的研究结果，为某些虚假叙事为什么会迅速传播提供了一个合理的解释。

这表明，结构上类似于回音室的广告受众——高度志同道合且极少与外部联系的群体——可能是已被证伪的统计数据传播的肥沃土壤，特别是当这些统计数据符合该群体既有的世界观时。

情绪燃料

来自一项针对719名美国参与者的大型研究的实验数据表明，焦虑感的提高使人们明显更有可能相信并表达分享各类说法的意愿，包括真实的、纠正性的以及完全虚假的说法。这种效应在共和党人中尤为明显，但核心模式很明确：焦虑降低了通常会阻止可疑内容的认知过滤器。

另外，一项对513名韩国成年人的调查发现，愤怒会导致人们将虚假的COVID-19言论评为“具有科学可信度”，且这种联系在保守派中更为强烈。

在广告语境中，利用焦虑或愤怒的创意变体（无论是通过紧迫的标题还是危机框架的图像）可能会在无意中提高互动率。当这些情感杠杆被纯粹优化注意力信号的自动化系统大规模拉动时，驱动虚假信息分享的同样情绪燃料可能会导致动态创意优化引擎倾向于包含可疑说法的广告变体。

事实核查可能会适得其反

一项对Facebook、Twitter和YouTube上5,303个社交媒体帖子和超过260万条评论的分析发现，虽然事实核查文章确实产生了一些积极的信号，但它们也产生了与“逆反”效应相一致的信号——这些用户反应可能会强化虚假信念，而不是纠正它们。

在虚假帖子中，语言痕迹（如更高的脏话率、大量使用表情符号以及对虚假信息敏感度的标记）出现的频率要高得多。这些信号可以帮助平台检测虚假信息，但它们也表明，当一个被证伪的统计数据出现在广告中，并且周围的对话在纠正帖或有毒评论中爆发时，这种互动的算法放大可能会加剧品牌与虚假说法的关联，即使明确的信息是“这是错误的”。

我们不确定虚假信息是否直接造成现实世界的伤害

一项跨越计算机科学、经济学、心理学和媒体研究的2023年跨学科评论发现，虽然信息技术的进步毫无疑问使歪曲基本事实成为可能并将其暴露出来，但“在实证上，不良行为尚未被可靠地证明是虚假信息的结果；相关性被误认为因果关系可能在其中起到了作用。”

许多假设的社会伤害取决于主体间的感知（即人们认为正在发生什么），而不是从接触到行为的紧密因果链。对于营销人员来说，这种不确定性至关重要。这意味着在广告中夸大被证伪的数据的危险可能会导致不必要的恐慌，但也意味着当看到负面情绪和浪费支出的清晰链条时，忽略这一风险将是同样不审慎的。

虚假信息是如何传播的

虚假信息通过数字和线下网络进行传播。社交平台可以使发布和分享几乎瞬间完成，但家庭对话、群聊、电视、广告和口口相传仍然是重要的渠道。传播的速度往往超过了核查某一说法真伪的速度。

社交媒体上的虚假信息

社交媒体通过视觉材料、简洁的标题和可见的流行信号来激发快速的注意力。引起愤怒、恐惧、惊讶或娱乐的帖子可能会比谨慎的解释获得更多的反应和分享。一个人也可能会因为某项声明来自朋友、专业熟人或他们已经认同的社区而信任它。

以下几种特征通常会增加不可靠信息广泛传播的可能性：

• 情感化的语言可能会促使人们在思考之前立即分享。

• 重复会让一个没有根据的说法显得熟悉且可信。

• 图片和短视频可能会与其原始日期或背景脱节。

• 推荐系统可以让用户接触到越来越相似的观点。

这些机制并不会让每个热门帖子都变成虚假，也不会让每个冷门帖子都变成准确。然而，它们确实说明了为什么阅读量和互动量不能代替证据。细心的读者会将围绕一个说法的社会证明与该说法本身的质量区分开来。

3大MarTech核心工具如何成为虚假信息的传播媒介

1. 动态创意优化

动态创意优化（DCO）平台通过算法测试成千上万个广告标题、图片和呼吁行动，将更多预算推向那些能产生高点击率、快速评论速度或强劲分享势头的变体。

风险路径在于，如果情绪化内容驱动了互动，正如焦虑和愤怒研究所展示的那样，那么针对互动信号进行训练的DCO引擎可能会推广那些呼应被证伪数据的创意，这恰恰是因为这些变体触发了刺激分享的焦虑或愤怒。虚假帖子伴随的语言信号——大量的脏话、强烈的表情符号反应——可能会被算法误认为是“高互动”，从而进一步加剧这一循环。

因此，营销人员应该测试他们自己包含未验证声明的DCO变体是否优于事实清晰的变体，并考虑这种效果提升是否真的对品牌资产有益。

2. 相似受众建模

相似模型获取种子受众（如完成转化的访问者、观看过视频的互动者），并寻找数百万具有相似平台行为特征的新用户。如果种子列表是基于与含有虚假声明的广告变体互动的用户，或者是从高度极化的回音室内部聚集的用户中构建的，那么相似扩展可能会继承更容易分享虚假信息的思想和情绪特征。

一个实际的预防措施是审计那些推动了大规模相似扩展的高效果种子受众的组成，并检查他们的互动历史是否与后来需要纠正的内容一致。

3. 生成式AI内容工具

大语言模型和图像生成器根据其训练数据中的模式来生成广告文案和视觉效果。在没有明确限制的情况下，生成式AI工具可能会逐字复制已被证伪的统计数据，因为这些数字频繁出现在网络各处，包括旧文章、论坛帖子和曾经疯传的帖子里。

上述研究中提到的与虚假内容相关的语言特征（如带有偏向性的情感语言和特定的修辞结构）可能会被模型模仿，从而给一个已被证伪的说法套上一层新鲜、可信的外衣。

因此，营销人员应该进行内部测试，提交包含已知虚假数据的种子标题，看看该工具是否会复制它们或创建可以通过肤浅审查的变体。

品牌安全与浪费等式

当广告将品牌与已被证伪的统计数据联系在一起时，品牌安全的KPI就开始发生变化。随着评论转向纠正，情感分析得分可能会下降。如果事实核查员或警惕的用户标记了内容，垃圾邮件率和举报率就会上升。

在语言分析中识别出的否定信号（脏话、表情符号密度、带有情感色彩的反应）提供了一个可量化的早期预警，表明创意可能已经越界。付费推广虚假声明也会以一种特别隐蔽的方式浪费预算：产生事实核查逆反或引发用户纠正贴的展示曝光虽然在仪表板上看起来很好，但在衡量实际品牌健康度时，带来的却是负投资回报率（ROI）。

然而，回想一下跨学科评论中的警告，虚假信息接触与可衡量的消费者行为结果（如避免购买）之间的联系在实证上仍然是不确定的。谨慎是必要的，但证据并不支持对品牌立即受损进行夸大预测。

逐步审计方案：盘点、验证、抑制

该方案将研究转化为任何增长团队都可以执行的步骤，每一步都与特定的证据链和可衡量的KPI相关联。

步骤1：盘点

列出当前活动和计划活动中使用的每一个创意资产、动态模板变量、受众种子来源以及生成式AI提示词。标记任何包含统计声明、健康相关数字、政治参考或与危机相关的语言（COVID-19病例率、选举统计、经济指标）的资产。该盘点成为后续审计的基准。

与KPI挂钩：拉取审计前一周的当前品牌安全指标、评论情感得分、第三方验证标记、被标记曝光的份额。这些是干预前的基准。

步骤2：声明验证

对照原始来源和公认的事实核查数据库（语言研究中使用的同类Snopes和PolitiFact来源）交叉核对盘点中的每一项事实声明。

当你遇到已被证伪的统计数据时，不要创建一个以否定形式重复该虚假说法的纠正版本（“X不是真实的”）。这种否定可能会在无意中强化虚假说法，这种模式与在评论分析中观察到的逆反信号一致。

相反，应将该说法完全替换为经证实的真实陈述。对于生成式AI的输出，在任何AI生成的文案进入DCO数据流之前，加入一个强制性的人工审核检查点。

步骤3：抑制规则设置

利用研究中确定的语言和情感特征，在您的广告平台内部署自动化抑制规则：

• 暂停任何其评论区超过虚假信息防范信号阈值的广告变体，特别是相对于您账户的正常水平而言，其脏话比例较高或表情符号使用广泛的广告变体。

• 抑制那些对敏感内容表现出高焦虑或高度愤怒互动模式的受众细分。虽然这些细分可能显示出高点击率，但它们也存在触发逆反循环的更大风险。

• 建立一个禁止声明数据库，并阻止任何已被证伪的URL、统计数据字符串或释义的虚假声明重新进入您的DCO库。这可以防止算法重新推出过去在表面互动指标上表现良好的旧有、问题变体。

在抑制规则生效后，通过追踪以下三个数据来衡量结果：广告创意上事实核查标记的下降百分比、广告发布后负面情绪尖峰的变化，以及投放到产生高标记率广告位的付费支出的减少。

因为评论信号与实际虚假信息传播之间的关系是相关性的，检测并不等同于预防。该方案是一个风险缓解层，而不是一个完美无瑕的治疗方法。

结论

自动化营销工具的整合为无意中放大数字虚假信息带来了独特的风险。专为速度和规模设计的系统可以在没有人工监督的情况下，将已被证伪的声明循环用于进行中的活动。这种将声誉危险转化为技术性MarTech问题的转变需要增长团队的立即关注。

尽管接触虚假信息与特定消费者行为之间的因果联系在学术界仍有争议，但主动缓解是必不可少的。实施结构化的审计方案是维护品牌完整性的一种低成本、可逆的保障。通过抑制已被证伪的虚假声明，营销人员可以保护他们的预算效率和长期的品牌安全。

您的审计方案清除了虚假声明，但什么能建立持久的品牌记忆？了解为什么现代团队正在转向神经技术，以跳过猜测，并获得关于您的受众如何真实看待您的品牌的、有数据支持的 Insight 。

参考文献

1. Törnberg, P. (2018). Echo chambers and viral misinformation: Modeling fake news as complex contagion. PLoS one, 13(9), e0203958. https://doi.org/10.1371/journal.pone.0203958

2. Freiling, I., Krause, N. M., Scheufele, D. A., & Brossard, D. (2023). Believing and sharing misinformation, fact-checks, and accurate information on social media: The role of anxiety during COVID-19. New media & society, 25(1), 141-162. https://doi.org/10.1177/14614448211011451

3. Han, J., Cha, M., & Lee, W. (2020). Anger contributes to the spread of COVID-19 misinformation. Harvard Kennedy School Misinformation Review, 1(3).

4. Jiang, S., & Wilson, C. (2018). Linguistic signals under misinformation and fact-checking: Evidence from user comments on social media. Proceedings of the ACM on Human-Computer Interaction, 2(CSCW), 1-23. https://doi.org/10.1145/3274351

5. Adams, Z., Osman, M., Bechlivanidis, C., & Meder, B. (2023). (Why) is misinformation a problem?. Perspectives on Psychological Science, 18(6), 1436-1463. https://doi.org/10.1177/17456916221141344

常见问题

什么是回音室效应，它如何促进虚假信息的传播？

回音室效应发生在联系紧密、两极分化的群体分享共同意见时，使得像虚假信息这样的复杂传染病能够传播得更快、更远。这种最初的随大流势头可以将虚假的说法从默默无闻推向广泛关注，尤其是在结构上类似于此类回音室的广告受众中。

焦虑和愤怒如何影响人们在广告中分享虚假信息的可能性？

焦虑感的提高会通过减少认知过滤器，使人们明显更有可能相信并分享所有类型的声明（包括虚假声明）。同样，愤怒会导致个人认为虚假声明更具科学可信度，这些情绪状态可能会驱使人们与包含已被证伪统计数据的广告进行互动。

什么是逆反效应？为什么它对品牌来说是个问题？

逆反效应发生在事实核查文章产生激发用户强加虚假信念而非纠正它们的反应时，例如说脏话、大量使用表情符号和虚假信息意识标记。当广告中出现已被证伪的统计数据时，由此产生的纠正贴和有毒评论会通过算法放大虚假声明，从而恶化品牌与其的关联。

动态创意优化（DCO）平台如何成为虚假信息的传播媒介？

DCO平台通过算法测试广告变体，并将预算推向高互动的变体。如果驱动焦虑或愤怒的情感内容导致了分享，DCO可能会青睐包含已被证伪数据的创意，因为这些变体触发了驱动虚假信息分享的同样情绪燃料。

生成式AI内容工具如何复制已被证伪的统计数据？

生成式AI工具根据其训练数据中的模式来生成广告文案，这些训练数据可能包含来自旧文章或论坛帖子的已被证伪的数据。在没有安全限制的情况下，AI可以逐字复制这些数字，并且虚假内容的语言标记可能会被模仿，从而给已被证伪的说法带来崭新的外观。

在广告中使用已被证伪的数据时，品牌安全等式是什么？

当广告将品牌与已被证伪的统计数据联系在一起时，品牌安全的KPI可能会发生改变：情感得分下降、垃圾邮件和标记率上升，以及说脏话和表情符号密度等负面信号增加。付费推广虚假声明是将预算浪费在那些在仪表板上看起来很好但在衡量实际品牌健康度时带来负投资回报率的互动上。

关于虚假信息与现实世界伤害之间联系的关键警告是什么？

一项跨学科评论警告说，虽然信息技术使歪曲事实成为可能，但实证上尚未可靠地证明不良行为是虚假信息的结果；相关性可能会被误认为是因果关系。这意味着夸大危险是没有必要的，但如果忽略负面情绪和浪费支出的清晰链条，那将是同样不审慎的。

审计方案中减轻虚假信息风险的三个步骤是什么？

该审计方案包括三个步骤：盘点所有创意资产并标记声明；对照事实核查数据库进行声明核实，并将已被证伪的数据替换为经证实的真实陈述；根据脏话和表情符号使用等语言和情绪特征设置抑制规则。这创造了一个风险缓解层，而不是一个完美无瑕的治愈方法。

为什么审计方案被认为是一种低成本、可逆的保障措施，而不是一种证明必要的手段？

目前的证据库并没有直接测试MarTech系统是否系统性地重新传播已被证伪的统计数据；这些路径是对基础科学的合理推断。审计方案是一种低成本、可逆的防范措施，用以防范如果假设路径被证明是正确的，将会带来的重大声誉和财务损失风险。