【ITBEAR】随着短视频平台的兴起，国庆假期期间，一系列标榜为“雷军”的发言视频在网络上疯传。这些视频涉及多个热门话题，言辞尖锐且常含粗俗语言。然而，真相是这些发言并非出自雷军本人，而是利用AI配音技术制作。目前，相关平台已开始逐步下架这些虚假视频。
虚假信息的存在古已有之，但在当下，每个人都可以成为信息的发布源，这使得信息与新闻的界限变得模糊。特别是AI技术的发展，使得深度伪造和低价量产成为可能，进一步加剧了虚假信息的泛滥。从换脸、换声到文生图、文生视频，技术的便捷性让虚假信息的制造变得轻而易举。
全球范围内，虚假信息的激增已成为一个严重问题。无论是政要、商界精英还是明星，都可能成为虚假信息的“碰瓷”对象。这种流水线式的造假不仅侵犯了个人隐私，还混淆了公众的认知，带来了巨大的风险隐患。据《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案的案值就已超过1.85亿元。
面对深度伪造的猖獗，如何从制造、传播、接受三个环节进行识别与治理成为关键。在生产端，我国已出台相关法律法规，逐步厘清了各方权责，期待更为有力的治理举措。而在平台端，尽管已采取措施加强识别，但仍需进一步加强技术升级，用技术对抗技术。
信息的最终作用对象是人，传播媒介的代际更迭总会对受众产生深远影响。技术进步带来了“信息的洪流”与“选择的苦恼”，这也要求人们具备基本的媒介素养，对于网络热点及吸睛信息，不可盲目相信、轻易转发。同时，优化媒介使用策略，平衡信源，打破“茧房”，也是必要的。
