随着生成式AI技术的迅猛发展，网络内容创作的门槛显著降低，各类标题党、低俗内容及谣言的传播能力与说服力得到了前所未有的增强。这一趋势不仅改变了信息传播的格局，更悄然掀起了一场关乎每个人认知的隐形战争。
在这场没有硝烟的战争中，内容平台扮演了至关重要的角色。今日头条发布的《2024年度治理报告》揭示了平台在维护信息真实性方面的努力。数据显示，去年今日头条成功拦截超过500万条不实信息，封禁了4.77万个造谣传谣账号，处理了93万多条低质量AI生成内容，并对相关账号采取了封禁或禁言措施。平台还针对同质化内容进行了大规模整治，处理了781万多篇同质化文章，封禁了6.3万个违规账号。
“作为内容资讯平台，我们有责任确保用户接触到真实、有价值的信息。”今日头条内容策划负责人刘姗姗强调。她指出，虚假和低质内容不仅破坏了平台生态，降低了优质创作者的积极性，还可能误导用户，影响他们的思考能力和道德价值判断。
为了应对这一挑战，今日头条推出了包括谣言库、权威信源库和专业审核团队在内的“治谣套餐”。谣言库利用大模型技术，通过关键词抓取和内容比对快速验证信息真伪；权威信源库则帮助审核人员准确判断信息，并在发现谣言后进行精准辟谣。结合人工审核和AI审核机制，平台形成了高效的风险治理流程，既保护了原创内容，又净化了用户的阅读环境。
与此同时，抖音也在积极应对虚假信息和谣言的挑战。根据抖音发布的2024年平台治理报告，去年平台累计删除了452万条谣言，提前拦截了340万条谣言，并处理了4.8万条涉及企业的谣言视频。针对老年人易受骗的问题，抖音日均下架5000多条违规视频，并成功劝阻了约1万名潜在受害者。
作为短视频平台，抖音还面临着摆拍乱象的挑战。抖音集团副总裁李亮指出，识别摆拍是治理的难点之一，有时连媒体也会误将段子当作新闻报道。为此，抖音采取了专项核实措施，当事件达到一定热度或收到举报时，平台会联系当事人或邀请当地媒体进行真实性核查，确保信息真实性后再进行推荐。
在这场认知战争中，用户自身的信息辨别能力同样至关重要。近期，网络上流传的关于“80后死亡率突破5.2%”的谣言就是一个典型例子。这些谣言往往借助AI对话技术生成，并通过非权威信源传播，误导了大量用户。中国人民大学教授李婷指出，这类错误信息的源头很可能是AI对话系统。
AI虽然能够生成对话内容，但缺乏意识和判断力。它往往根据提示词和对话历史进行延伸搜索，并从数据库中抓取内容进行回复。如果用户的要求过于抽象或模糊，AI就可能因为无法锚定具体信息而产生“幻觉效应”，开始一本正经地胡说八道。恶意分子还可以利用AI截图传播谣言，通过角色扮演或复读等方式混淆视听。
因此，在日益复杂的网络生态中，每个人都应该成为认知战争的参与者。除了内容平台需要加强审核机制外，用户自身也需要建立信息防火墙，学会在转发信息之前进行核实和判断。只有这样，我们才能在这场认知战争中取得最终的胜利。
